RUNVIK Кластер — программа объединения компьютеров организации в вычислительный кластер.
Программа предназначена для объединения компьютеров организации в единый вычислительный кластер: распределения вычислительных заданий и запросов к языковым моделям между узлами с учётом их скорости и качества связи, проверки результатов и изоляции неисправных или скомпрометированных узлов.
Возможности
Подключение узлов исходящим соединением без входящих портов; вход по ключу узла, подпись и нумерация каждого сообщения, шифрование TLS
Выполнение на узлах только заданий из реестра узла; встроенные и собственные типы заданий
Измерение скорости узлов и стабильности каналов, распределение заданий только при прогнозируемом выигрыше
Выборочная перепроверка результатов, пересчёт и карантин узла при подмене результата; возврат из карантина только после биометрического подтверждения владельца
Единый OpenAI-совместимый адрес для запросов к языковым моделям узлов с выбором лучшего узла и переключением при сбое
Работа при обрывах связи с сохранением и доставкой результатов; коллективное обучение модели узлами
Веб-интерфейс состояния узлов, журнал заданий и событий, ключи API; русский и английский языки
Для кого
Предприятия с филиалами и удалёнными объектами, инженерные и расчётные подразделения, ИТ-службы, организации, использующие собственные языковые модели на нескольких серверах, вузы и научные организации..
Поставка и лицензия
Программа поставляется для установки в контуре заказчика: на сервер или рабочие станции. Лицензия — по числу рабочих мест на выбранный срок; ключ привязывается к компьютеру и содержит ИНН лицензиата. В комплект входят руководство пользователя, инструкция по установке и лицензионный договор.
Скриншоты, видеообзор и демонстрационный доступ предоставляются по запросу компании.
Уважаемые пользователи! Если у вас есть предложения, как улучшить RUNVIK Кластер, напишите нам: предложить улучшение или support@runvik.ru. Для нас это очень важно.