19 марта 2025 года мы провели конференцию о применении искусственного интеллекта в Платформе Эра. Разобрали базовые и продвинутые сценарии, размещение AI-компонентов платформы, сайзинг и производительность, показали, как пользователи работают с новыми сервисами. Запись конференции — по кнопке внизу страницы.
В Платформе Эра используются готовые обученные модели LLM — дополнительное обучение им не требуется. Новую область знаний модель получает через подход RAG (Retrieval Augmented Generation): поиск релевантной информации объединяется с нейросетевой генерацией текста.
Важную роль играет промпт-инжиниринг — создание и оптимизация запросов к модели для получения нужного результата. Гибридный подход сочетает классические алгоритмы с нейросетями: так компенсируются ограничения отдельных моделей, а решения становятся точнее.
Для работы с ИИ платформа использует прокси, который решает две задачи: унифицирует протоколы и хранит векторные индексы RAG. Прокси не требует больших ресурсов и разворачивается на той же инфраструктуре, что и сама платформа.
Используемые компоненты — Llamaindex, LocalAI, Ollama, WhisperX, Coqui; их состав меняется и дополняется по мере появления новых моделей и инструментов. Для сервисов ИИ нужны ресурсы, прежде всего видеокарты: их количество и стоимость зависят от задач и условий эксплуатации.
Платформа Эра — информационно-коммуникационная платформа, на которой строятся распределённые IP-АТС, омниканальные контакт-центры и другие корпоративные системы. Микросервисная архитектура, кластеризация и мультидоменность позволяют выполнить практически любые требования по отказоустойчивости и масштабированию, а встроенный low-code конструктор Builder — дорабатывать приложения и создавать собственные модули. На нагрузочных тестах платформа стабильно работала при 100 000 одновременных вызовов, 10 000 подключённых операторов и более 100 новых вызовов в секунду.
