Как масштабировать NodeJS линейно на нескольких ядрах?

Я делаю быстрый тест производительности для NodeJS и Java. Выбран простой пример использования - это запрос к одной таблице в базе данных MySQL. Первоначальные результаты были следующими:

Platform                      | DB Connections | CPU Usage | Memory Usage  | Requests/second
==============================|================|===========|===============|================
Node 0.10/MySQL               | 20             |  34%      |  57M          | 1295
JBoss EAP 6.2/JPA             | 20             | 100%      | 525M          | 4622
Spring 3.2.6/JDBC/Tomcat 7.0  | 20             | 100%      | 860M          | 4275

Обратите внимание, что Node Использование ЦП и памяти намного ниже, чем Java, но пропускная способность тоже около трети! Затем я понял, что Java использует все четыре ядра на моем процессоре, тогда как Node работает только на одном ядре. Поэтому я изменил код Node, чтобы включить модуль кластера, и теперь он использует все четыре ядра. Вот новые результаты:

Platform                      | DB Connections | CPU Usage | Memory Usage  | Requests/second
==============================|================|===========|===============|================
Node 0.10/MySQL (quad core)   | 20 (5 x 4)     | 100%      | 228M (57 x 4) | 2213

Обратите внимание, что процессор и использование памяти теперь выросли пропорционально, но пропускная способность только увеличилась на 70%. Я ожидал увеличения в четыре раза, превысив пропускную способность Java. Как я могу объяснить возникновение проблемы? Что я могу сделать, чтобы увеличить пропускную способность линейно?

Здесь используется код для использования нескольких ядер:

if (Cluster.isMaster) {
    var numCPUs = require("os").cpus().length;
    for (var i = 0; i < numCPUs; i++) {
        Cluster.fork();
    }

    Cluster.on("exit", function(worker, code, signal) {
        Cluster.fork();
    });
}
else {
    // Create an express app
    var app = Express();
    app.use(Express.json());
    app.use(enableCORS);
    app.use(Express.urlencoded());

    // Add routes

    // GET /orders
    app.get('/orders', OrderResource.findAll);

    // Create an http server and give it the
    // express app to handle http requests
    var server = Http.createServer(app);
    server.listen(8080, function() {
        console.log('Listening on port 8080');
    });
}

Я использую драйвер node -mysql для запроса базы данных. Пул соединений настроен на 5 соединений на ядро, однако это не имеет никакого значения. Если я установил это число в 1 или 20, я получаю примерно такую же пропускную способность!

var pool = Mysql.createPool({
    host: 'localhost',
    user: 'bfoms_javaee',
    password: 'bfoms_javaee',
    database: 'bfoms_javaee',
    connectionLimit: 5
});

exports.findAll = function(req, res) {
    pool.query('SELECT * FROM orders WHERE symbol="GOOG"', function(err, rows, fields) {
        if (err) throw err;
        res.send(rows);
    });
};

Ответ 1

Из того, что я вижу, вы не сравниваете только платформы, а также фреймворки. Вероятно, вы хотите удалить эффект структуры и реализовать простой HTTP-сервер. Например, все те средние в приложении Express добавляют к задержке. Кроме того, вы убедились, что библиотеки Java не кэшируют часто запрашиваемые данные, что значительно улучшит производительность?

Другие вещи, которые следует учитывать, это то, что встроенный модуль http в Node (таким образом, любая библиотека, построенная поверх него, включая node-mysql), поддерживает внутренний пул соединений через класс агента (не путать с пулом соединений MySQL), чтобы он мог использовать HTTP-авиалисты. Это помогает повысить производительность при запуске множества запросов на один и тот же сервер вместо открытия TCP-соединения, создания HTTP-запроса, получения ответа, закрытия TCP-соединения и повторения. Таким образом, TCP-соединения могут быть повторно использованы.

По умолчанию агент HTTP будет открывать только 5 одновременных подключений к одному хосту, например, вашему серверу MySQL. Вы можете легко изменить это следующим образом:

var http = require('http');
http.globalAgent.maxSockets = 20;

Учитывая эти изменения, посмотрите, какое улучшение вы можете получить.

Другие идеи - убедиться, что пул соединений MySQL правильно используется, проверяя журналы MySQL, когда соединения открываются и закрываются. Если они часто открываются, вам может потребоваться увеличить значение тайм-аута ожидания в node -mysql.

Ответ 1

Ответ 2