Node.js: можете ли вы использовать асинхронные функции из потоков?

Рассмотрим следующее:

var asyncFunction = function(data, callback) {
  doAsyncyThing(function(data){
    // do some stuff
    return callback(err)
  })
}
fs.createReadStream('eupmc_lite_metadata_2016_04_15.json')
  .pipe(JSONstream.parse())
  .on('data', asyncFunction)   // <- how to let asyncFunction complete before continuing

Как поток знает, когда асинхронная функция завершена? Есть ли способ использовать асинхронные функции из потоков?

Ответ 1

Проверьте потоки преобразования. Они дают вам возможность запускать асинхронный код на куске, а затем вызывать обратный вызов, когда вы закончите. Вот документы: https://nodejs.org/api/stream.html#stream_transform_transform_chunk_encoding_callback

В качестве простого примера вы можете сделать что-то вроде:

const Transform = require('stream').Transform
class WorkerThing extends Transform {
    _transform(chunk, encoding, cb) {
        asyncFunction(chunk, cb)
    }
}

const workerThing = new WorkerThing()

fs.createReadStream('eupmc_lite_metadata_2016_04_15.json')
.pipe(JSONstream.parse())
.pipe(workerThing)