Node.js, Socket.io, Redis pub/sub большой объем, трудности с низкой задержкой

При объединении socket.io/ node.js и redis pub/sub в попытке создать систему веб-вещания в режиме реального времени, управляемую событиями сервера, которые могут обрабатывать несколько транспортов, существует, по-видимому, три подхода:

  • 'createClient' соединение redis и подписаться на каналы (каналы). При подключении клиента socket.io присоедините клиента к сокету. В событии redis.on( "сообщение",...) вызовите io.sockets.in(room).emit( "событие", данные), чтобы распространять все клиенты в соответствующей комнате. Как Как повторно использовать redis-соединение в socket.io?

  • 'createClient' соединение redis. На соединение с клиентом socket.io, присоедините клиента в комнату socket.io и подпишитесь на соответствующие каналы (каналы) redis. Включите redis.on( "сообщение",...) в закрытие подключения клиента и при получении вызова клиента client.emit( "событие", данные), чтобы поднять событие на конкретном клиенте. Как ответ в Примеры использования RedisStore в socket.io

  • Используйте RedisStore, запеченный в socket.io и 'broadcast' из единственного канала отправки в Redis, следуя протоколу socketio-spec.

Номер 1 позволяет обрабатывать одно и другое событие Redis один раз для всех клиентов. Номер 2 предлагает более прямой крюк в Redis pub/sub. Число 3 проще, но мало контролирует события обмена сообщениями.

Однако в моих тестах все демонстрируют неожиданно низкую производительность с более чем одним подключенным клиентом. Рассматриваемые события сервера - это 1000 сообщений, опубликованных на канал redis, как можно быстрее, чтобы их можно было распространять как можно быстрее. Производительность измеряется таймингами на подключенных клиентах (на основе socket.io-client на основе данных времени журнала в списке Redis для анализа).

Что я предполагаю, так это то, что в варианте 1 сервер получает сообщение, а затем последовательно записывает его всем подключенным клиентам. В варианте 2 сервер получает каждое сообщение несколько раз (один раз на клиентскую подписку) и записывает его соответствующему клиенту. В любом случае сервер не попадает во второе сообщение, пока он не будет передан всем подключенным клиентам. Ситуация явно усугубляется ростом concurrency.

Это, по-видимому, противоречит воспринимаемой мудрости возможностей стеков. Я хочу верить, но я боюсь.

Является ли этот сценарий (распределение с низкой задержкой большого объема сообщений) просто не вариантом с этими инструментами (пока?), или я пропустил трюк?

Ответ 1

Я подумал, что это разумный вопрос, и он некоторое время исследовал его. Я потратил немного времени на поиск примеров, которые вы можете получить от некоторых полезных советов.

Примеры

Мне нравится начинать с прямых примеров:

Образец света - это одна страница (обратите внимание, что вы захотите заменить redis- node -client на что-то вроде node_redis Мэтт Рэнни:

/*
 * Mclarens Bar: Redis based Instant Messaging
 * Nikhil Marathe - 22/04/2010

 * A simple example of an IM client implemented using
 * Redis PUB/SUB commands so that all the communication
 * is offloaded to Redis, and the node.js code only
 * handles command interpretation,presentation and subscribing.
 * 
 * Requires redis-node-client and a recent version of Redis
 *    http://code.google.com/p/redis
 *    http://github.com/fictorial/redis-node-client
 *
 * Start the server then telnet to port 8000
 * Register with NICK <nick>, use WHO to see others
 * Use TALKTO <nick> to initiate a chat. Send a message
 * using MSG <nick> <msg>. Note its important to do a
 * TALKTO so that both sides are listening. Use STOP <nick>
 * to stop talking to someone, and QUIT to exit.
 *
 * This code is in the public domain.
 */
var redis = require('./redis-node-client/lib/redis-client');

var sys = require('sys');
var net = require('net');

var server = net.createServer(function(stream) {
    var sub; // redis connection
    var pub;
    var registered = false;
    var nick = "";

    function channel(a,b) {
    return [a,b].sort().join(':');
    }

    function shareTable(other) {
    sys.debug(nick + ": Subscribing to "+channel(nick,other));
    sub.subscribeTo(channel(nick,other), function(channel, message) {
        var str = message.toString();
        var sender = str.slice(0, str.indexOf(':'));
        if( sender != nick )
        stream.write("[" + sender + "] " + str.substr(str.indexOf(':')+1) + "\n");
    });
    }

    function leaveTable(other) {
    sub.unsubscribeFrom(channel(nick,other), function(err) {
        stream.write("Stopped talking to " + other+ "\n");
    });
    }

    stream.addListener("connect", function() {
    sub = redis.createClient();
    pub = redis.createClient();
    });

    stream.addListener("data", function(data) {
    if( !registered ) {
        var msg = data.toString().match(/^NICK (\w*)/);
        if(msg) {
        stream.write("SERVER: Hi " + msg[1] + "\n");
        pub.sadd('mclarens:inside', msg[1], function(err) {
            if(err) {
            stream.end();
            }
            registered = true;
            nick = msg[1];
// server messages
            sub.subscribeTo( nick + ":info", function(nick, message) {
            var m = message.toString().split(' ');
            var cmd = m[0];
            var who = m[1];
            if( cmd == "start" ) {
                stream.write( who + " is now talking to you\n");
                shareTable(who);
            }
            else if( cmd == "stop" ) {
                stream.write( who + " stopped talking to you\n");
                leaveTable(who);
            }
            });
        });
        }
        else {
        stream.write("Please register with NICK <nickname>\n");
        }
        return;
    }

    var fragments = data.toString().replace('\r\n', '').split(' ');
    switch(fragments[0]) {
    case 'TALKTO':
        pub.publish(fragments[1]+":info", "start " + nick, function(a,b) {
        });
        shareTable(fragments[1]);
        break;
    case 'MSG':
        pub.publish(channel(nick, fragments[1]),
            nick + ':' +fragments.slice(2).join(' '),
              function(err, reply) {
              if(err) {
                  stream.write("ERROR!");
              }
              });
        break;
    case 'WHO':
        pub.smembers('mclarens:inside', function(err, users) {
        stream.write("Online:\n" + users.join('\n') + "\n");
        });
        break;
    case 'STOP':
        leaveTable(fragments[1]);
        pub.publish(fragments[1]+":info", "stop " + nick, function() {});
        break;
    case 'QUIT':
        stream.end();
        break;
    }
    });

    stream.addListener("end", function() {
    pub.publish(nick, nick + " is offline");
    pub.srem('mclarens:inside', nick, function(err) {
        if(err) {
        sys.debug("Could not remove client");
        }
    });
    });
});

server.listen(8000, "localhost");

Документы

Там тонна документации, и apis быстро меняются на этот тип стека, поэтому вам придется взвесить релевантность времени каждого документа.

Вопросы, относящиеся

Просто несколько связанных вопросов, это горячая тема в стеке:

Известные подсказки (ymmv)

Отключите или оптимизируйте объединение пулов, используйте эффективные привязки, латентность монитора и убедитесь, что вы не дублируете работу (т.е. не нужно публиковать для всех слушателей дважды).