Коллеги, приветствую. Хочу вынести на публичное обсуждение свои мысли и некоторые моменты реализации своего проекта. Websockets — тема пожалуй уже избитая, но меня простимулировала на этот шаг работа “WebRTC Cookbook” под авторством Andrii Sergiienko, в которой технология Websockets используется в качестве сигнального сервиса для управления потоковыми данными.
В чистом виде протокол Websockets не содержит ничего, что могло бы осуществить мультиплексирование данных. К сервису Websockets одновременно может подключиться множество клиентов из разных проектов. Так вот хотелось бы иметь полностью утилизированный подход для разных платформ, сервисов, сайтов и т.д.
Вышеупомянутая книга сопровождается примерами. Одним их них является реализация на Java сервиса Websockets, где мультиплексирование данных происходит по номеру комнаты чата. Номер (или имя) комнаты назначается прикладным программистом. Не хотелось бы сразу указывать на это, как на определённый недостаток. Всё таки это учебный проект. Скажу лишь, что для своего проекта я ставил следующие требования:
Вопросы по шифрованию данных и надёжности работы такого сервиса пожалуй можно пока не поднимать. Всё таки это немного из другой предметной области.
Итак, что предлагается и что реализовано? На следующем рисунке предлагается такая схема работы сервиса:
На рисунке цифрами обозначены следующие участники взаимодействия:
Чтобы как-то упорядочить данные для обмена сообщениями с сервисом предлагается выбрать JSON-формат. Такой выбор обуславливается простотой работы с JSON-строками, широким набором разлиных библиотек и их переносимостью для разных платформ.
WSCI_TYPE — тип полученного сообщения. В данном случае WSCI_REG означает, что это регистрационное сообщение, в котором через параметр WSCI_ID передаётся идентификатор или токен соединения. Данным ключём приложение “делится” с другими пользователями сервиса. Ключ может записываться в базу данных либо в какие-то списки с общим доступом и других пользователей различных сервисов. Отмечу, что похожий принцип работы был заимствован у Google. У них есть сервис GCM (Google Clouds Messaging).
Следующим типом сообщения является WSCI_DATA. В нём передаются собственно данные пользователя. Выглядит это так:
Между пользовательским сервером (2) и сервисом WebSockets (3) передаётся ещё один тип сообщения, формат которого следующий:
Например:
Массив WSCI_ARRAY содержит список идентификаторов соединений (токенов). На PHP формирование такого сообщения выглядит следующим образом:
Для передачи данных от сайта к сервису Websockets можно воспользоваться классом, представленном следующим листингом:
Следующий фрагмент текста демонстрирует передачу данных пользователя в сервис.
В массиве $wsci_array размещаются токены соединений, в которые необходимо отправить данные.
В качестве примера обработчика событий на клиентской стороне (4) можно предложить следующий фрагмент кода на JavaScript:
Теперь рассмотрим узел (3) и разберём, что здесь происходит. Если обратить внимание на листинг 1, то видно, что модуль wsci.php является точкой входа в этот сервис и предназначен для приёма пользовательских данных (для уточнения — принимаются по протоколу HTTP) и их трансляции в сервис Websockets. Текст модуля следующий:
Листинг 3. Модуль трансляции пользовательских данных в сервис вебсокетов
Рассмотрим, что и как должно происходить в сервисе Websockets. Во первых, необходимо определиться протоколе взаимодействия с клиентами. Могу ошибиться, но сейчас устоявшимся стандартом является RFC_6455. Во-вторых, в минимальном уровне функциональности сервиса. Представляется (и это реализовано), что сервис должен выполнять следующий набор функций:
Непосредственная реализация сервиса
Разработке и отладке предшествовала работа по поиску и анализу готовых решений и возможностей их использования для своих целей. Встречались совершенно экзотические варианты реализаций, например, на JavaScript. Хорошим случаем была PHP-реализация, в которой был запрограммирован контроль эха. На Java много готовых, хороших примеров. Существует вариант модуля Websockets, который интегрируется в Apache. Но так как мы не ищем простых путей, то был выбран вариант разработки на C++. Трудно, хлопотно, муторно отлаживать, но тем не менее был выбран этот вариант по следующим соображениям:
Некоторые вопросы и трудности в реализации
При проектировании приложений всегда приходится учитывать реалии бытия, закладываться на ограничения окружения, производительности оборудования, возможностей операционной системы, пропускной способности каналов связи и т.д. Так вот, хотелось бы услышать Ваше мнение, уважаемые коллеги, по поводу максимального число соединений с учётом хостинга на VDS. На текущий момент нагрузка на сервис минимальна, под массив соединений выделено 100 позиций. А будет ли успешно работать сервис при, допустим, 10000 соединений? Есть у кого-нибудь такой опыт?
Теперь по размеру ключа (токена) соединения. Насколько мне помнится, у Google длина токена в сервисе GCM 256 байт. Вопрос, насколько это оправдано? Не является ли такой длинный ключ избыточным? Дело в том, что при большом числе соединений, поиск конкретного соединения по ключу, может занять продолжительное время. Опять же, сортировка этих объектов по ключу. На всякий случай отмечу, что в моём случае размер ключа равен 64 байтов.
Еще одним из пунктов, которые бы можно было бы дополнить список требований к сервису, я бы отнёс реализацию приложения, как демона, и установка его автозагрузку операционной системы. Это повышает общую надёжность сервиса и позволяет выявить узкие места при последующей эксплуатации.
Перспективы
Можно сделать “облако”. Конечно, в экономическом аспекте конкурировать с “монстрами” IT-отрасли не реально. Просто рассматривается возможность реализации в принципе.
Примеры реализации
Вот пример и описание простого использования сервиса
А это прототип видеочата.
Здесь есть и вариант реализации для Андроид.
В чистом виде протокол Websockets не содержит ничего, что могло бы осуществить мультиплексирование данных. К сервису Websockets одновременно может подключиться множество клиентов из разных проектов. Так вот хотелось бы иметь полностью утилизированный подход для разных платформ, сервисов, сайтов и т.д.
Вышеупомянутая книга сопровождается примерами. Одним их них является реализация на Java сервиса Websockets, где мультиплексирование данных происходит по номеру комнаты чата. Номер (или имя) комнаты назначается прикладным программистом. Не хотелось бы сразу указывать на это, как на определённый недостаток. Всё таки это учебный проект. Скажу лишь, что для своего проекта я ставил следующие требования:
- Иметь возможность использовать один сервис доставки сообщений для независимых проектов;
- Иметь возможность, как групповой рассылки сообщений, так и для доставки данных по конкретному соединению прикладной задачи;
- Влиять на возможность управления количеством соединений с одного IP-адреса.
Вопросы по шифрованию данных и надёжности работы такого сервиса пожалуй можно пока не поднимать. Всё таки это немного из другой предметной области.
Итак, что предлагается и что реализовано? На следующем рисунке предлагается такая схема работы сервиса:
На рисунке цифрами обозначены следующие участники взаимодействия:
- Различные источники событий в сети.
- HTTP-сервер, где эти события от источников принимаются, накапливаются, обрабатываются.
- Сервис Websockets, применяемый собственно для online-уведомлений потребителей информации. Помимо собственно этого сервиса здесь должна быть и интерграция со “своим” HTTP-сервером, транслирующим структурированную информацию от различных проектов.
- Это собственно клиенты, являющимися приёмниками обработанной информации от различных источников 1.
Чтобы как-то упорядочить данные для обмена сообщениями с сервисом предлагается выбрать JSON-формат. Такой выбор обуславливается простотой работы с JSON-строками, широким набором разлиных библиотек и их переносимостью для разных платформ.
{
"WSCI_TYPE" : "WSCI_REG",
"WSCI_ID" : "bqOPfKmKCPV … zJS2LqtFang"
}
WSCI_TYPE — тип полученного сообщения. В данном случае WSCI_REG означает, что это регистрационное сообщение, в котором через параметр WSCI_ID передаётся идентификатор или токен соединения. Данным ключём приложение “делится” с другими пользователями сервиса. Ключ может записываться в базу данных либо в какие-то списки с общим доступом и других пользователей различных сервисов. Отмечу, что похожий принцип работы был заимствован у Google. У них есть сервис GCM (Google Clouds Messaging).
Следующим типом сообщения является WSCI_DATA. В нём передаются собственно данные пользователя. Выглядит это так:
{
"WSCI_TYPE" : "WSCI_DATA",
"WSCI_DATA" : “Некоторые данные для пользователя”
}
Между пользовательским сервером (2) и сервисом WebSockets (3) передаётся ещё один тип сообщения, формат которого следующий:
{
"WSCI_ARRAY" : [список токенов (идентификаторов соединений)],
"WSCI_DATA" : "Некоторые данные"
}
Например:
{
“WSCI_ARRAY”:[“d97I.....r2Oo”, “o7yz....tIu7”],
“WSCI_DATA”:”This is your data”
}
Массив WSCI_ARRAY содержит список идентификаторов соединений (токенов). На PHP формирование такого сообщения выглядит следующим образом:
$testJSON = array(
'WSCI_ARRAY'=>array(
"d97I....r2Oo",
"o7yz....MtIu7"
),
WSCI_DATA'=>'This is a data for service.'
);
Для передачи данных от сайта к сервису Websockets можно воспользоваться классом, представленном следующим листингом:
define('WSCI_SERVICE', "http://95.47.161.69/wsci.php");
class WsciCurl {
function __construct(){}
function __destruct(){}
//
function SendDataToWSCI($wsci_array, $wsci_data){
$data = base64_encode(
json_encode(
array(
"WSCI_ARRAY"=>$wsci_array,
"WSCI_DATA"=>$wsci_data
)
)
);
$fields = array('data'=>$data);
//
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, WSCI_SERVICE);
curl_setopt($ch, CURLOPT_POST, true);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_POSTFIELDS, $fields);
$response = curl_exec($ch);
curl_close($ch);
$json_answer = json_decode($response);
return $json_answer->{'result'}==='success';
}
};
Листинг 1. Передача данных от сервера пользователя в сервис Websockets.
Следующий фрагмент текста демонстрирует передачу данных пользователя в сервис.
require_once('wsci_curl.php');
$wsci_array = array(
"d97ICUblJKsOBH2YmWJqf0WU8Z9IaMemutFNLH8adFuFkXKmAe0ze3zlptSr2Oo",
"o7yzZjIp1tcoaREUBG8h4XObLTbTykMk2zSFSJ2TFEA5qV0a4Vt1g0Hno3MtIu7"
);
$wsci_data = 'This is a data for service.';
$wsci = new WsciCurl();
$wsci->SendDataToWSCI($wsci_array, $wsci_data);
В массиве $wsci_array размещаются токены соединений, в которые необходимо отправить данные.
В качестве примера обработчика событий на клиентской стороне (4) можно предложить следующий фрагмент кода на JavaScript:
var wsUrl = "ws://95.47.161.69:12080";
//
var ws = new WebSocket(wsUrl);
ws.onopen = function(evt){ onOpen(evt) };
ws.onclose = function(evt){ onClose(evt) };
ws.onmessage = function(evt){ onMessage(evt) };
ws.onerror = function(evt){ onError(evt) };
....
ws.close();
....
function onOpen(evt){
alert("Connected!");
}
function onClose(evt){
alert('Finishing code: ' + evt.code);
}
function onMessage(evt){
var jsonObj = JSON.parse(evt.data);
var type = jsonObj.WSCI_TYPE;
switch( type ) {
case "WSCI_REG" : {
var id = jsonObj.WSCI_ID;
alert('Key = ' + id);
//Здесь можно сохранить идентификатор, например, в БД
break;
}
case "WSCI_DATA" : {
var data = jsonObj.WSCI_DATA;
alert('Data: ' + data);
//Здесь идёт дополнительная обработка и отображение полученных данных
break;
}
}
}
function onError(evt){
alert('Error: '+evt.data);
}
Листинг 2. Пример обработчика событий в браузере клиента.
Теперь рассмотрим узел (3) и разберём, что здесь происходит. Если обратить внимание на листинг 1, то видно, что модуль wsci.php является точкой входа в этот сервис и предназначен для приёма пользовательских данных (для уточнения — принимаются по протоколу HTTP) и их трансляции в сервис Websockets. Текст модуля следующий:
<?php
define('WSCI_SERVER', "127.0.0.1");
define('WSCI_PORT', 12080);
require_once('wsci_client.php');
ini_set('display_errors', 1);
error_reporting(E_ALL);
//Получаем данные POST-запроса
$data = $_POST["data"];
if ( empty($data) || strlen($data)==0 ) {
//There are no data for service
$responce = array('result'=>'fail');
echo json_encode($responce);
exit(0);
}
$data = base64_decode($data); //Это данные для передачи
//Соединяемся с вебсокетом
$wsci = new WsciClient();
$bc = false;
//Делаем попытки локального подключения к Websockets
for($i=0; $i<10; $i++, usleep(200000))
if ( ($bc = $wsci->connect(WSCI_SERVER, WSCI_PORT, "/"))==true ) break;
//Проверяем результат открытия
if ( !$bc ) {
//Connection to websocket service is fail
$responce = array('result'=>'fail');
echo json_encode($responce);
exit(0);
}
//Передаем данные в вебсокет
$wsci->sendText($data);
//Закрываем соединение
$wsci->sendClose();
$wsci->disconnect();
//
//Возвращаем успех
echo json_encode(array("result"=>"success"));
?>
Листинг 3. Модуль трансляции пользовательских данных в сервис вебсокетов
Рассмотрим, что и как должно происходить в сервисе Websockets. Во первых, необходимо определиться протоколе взаимодействия с клиентами. Могу ошибиться, но сейчас устоявшимся стандартом является RFC_6455. Во-вторых, в минимальном уровне функциональности сервиса. Представляется (и это реализовано), что сервис должен выполнять следующий набор функций:
- Соединение с клиентами, поддержка списка соединений с контролем их количества с одно IP-адреса;
- Поиск необходимого соединения по ключу (токену, идентификатору) и проталкиванию данных пользователя в это соединение;
- Поиск и закрытие “зависших” соединений;
- Приём данных от клиентов должен осуществляться в соответствии со спецификацией, показанной и реализованной в листинге 1;
- Парсинг данных клиента заключается в получении списка токенов (массив WSCI_ARRAY) и собственно данных (узел WSCI_DATA);
Непосредственная реализация сервиса
Разработке и отладке предшествовала работа по поиску и анализу готовых решений и возможностей их использования для своих целей. Встречались совершенно экзотические варианты реализаций, например, на JavaScript. Хорошим случаем была PHP-реализация, в которой был запрограммирован контроль эха. На Java много готовых, хороших примеров. Существует вариант модуля Websockets, который интегрируется в Apache. Но так как мы не ищем простых путей, то был выбран вариант разработки на C++. Трудно, хлопотно, муторно отлаживать, но тем не менее был выбран этот вариант по следующим соображениям:
- Скорость работы приложения. При одинаковых алгоритмах работа загрузочного модуля будет быстрей, чем, к примеру, приложения на Java порядка 40 раз (это не моя оценка). Быстродействие важно для обработки большого числа соединений;
- Возможность использования параллельных программных потоков обработки данных.
Некоторые вопросы и трудности в реализации
При проектировании приложений всегда приходится учитывать реалии бытия, закладываться на ограничения окружения, производительности оборудования, возможностей операционной системы, пропускной способности каналов связи и т.д. Так вот, хотелось бы услышать Ваше мнение, уважаемые коллеги, по поводу максимального число соединений с учётом хостинга на VDS. На текущий момент нагрузка на сервис минимальна, под массив соединений выделено 100 позиций. А будет ли успешно работать сервис при, допустим, 10000 соединений? Есть у кого-нибудь такой опыт?
Теперь по размеру ключа (токена) соединения. Насколько мне помнится, у Google длина токена в сервисе GCM 256 байт. Вопрос, насколько это оправдано? Не является ли такой длинный ключ избыточным? Дело в том, что при большом числе соединений, поиск конкретного соединения по ключу, может занять продолжительное время. Опять же, сортировка этих объектов по ключу. На всякий случай отмечу, что в моём случае размер ключа равен 64 байтов.
Еще одним из пунктов, которые бы можно было бы дополнить список требований к сервису, я бы отнёс реализацию приложения, как демона, и установка его автозагрузку операционной системы. Это повышает общую надёжность сервиса и позволяет выявить узкие места при последующей эксплуатации.
Перспективы
Можно сделать “облако”. Конечно, в экономическом аспекте конкурировать с “монстрами” IT-отрасли не реально. Просто рассматривается возможность реализации в принципе.
Примеры реализации
Вот пример и описание простого использования сервиса
А это прототип видеочата.
Здесь есть и вариант реализации для Андроид.