Компания Selectel объявила об открытии публичного доступа к обновленному сервису Foundation Models Catalog. Он позволяет пользователям тестировать, запускать и интегрировать большие языковые модели (LLM) в приложения и бизнес-процессы. Об этом было заявлено на конференции «MLечный путь».
О затратах и выгоде
В Москве прошла ежегодная конференция «MLечный путь», организованная провайдером IT-инфраструктуры в России Selectel. По мнению директора AI-вертикали компании Selectel Александра Тугова, сегодня искусственный интеллект (ИИ/AI) перестал быть интересной игрушкой с большим потенциалом, а превратился в реальный инструмент на кейсах, доказавших свою эффективность.
«Компании начинают запускать свои проекты, но, к сожалению, бизнес так до конца и не научился описывать техническим командам, что ему конкретно нужно, а технические команды не так хорошо погружены в бизнес-процессы, чтобы сами прийти и предложить. Мы собрали представителей как бизнеса, так и технических команд, чтобы наконец они смогли спокойно поговорить и наметить путь развития эффективности своего бизнеса», - сказал он.
Александр Тугов отметил, что с появлением ИИ и машинного обучения в начале XXI века произошла революция, аналогичная паровой. Нейросети способны исключить человека из рабочих процессов, выполнять реальные задачи и приносить прибыль. Однако, наличие технологии не означает ее обязательное и немедленное внедрение. К примеру, dark factory (полностью роботизированные предприятия, где не требуется электрическое освещение цехов) не существуют повсеместно, поскольку не всегда экономически оправданы. Как пояснил эксперт, ИИ не является исключением: нельзя просто автоматизировать все процессы, уволить сотрудников и ожидать роста прибыли.
Александр Тугов представил участникам конференции пошаговый подход для успешного и финансово оправданного внедрения ИИ-решений на предприятии. Подход включает 4 этапа. Первый – это проверка работоспособности конкретной технологии или модели для автоматизации бизнес-процесса с минимальными затратами (Proof of Concept, PoC). Второй этап связан с практическим внедрением кейса и подтверждением его экономической выгоды, когда полученные выгоды превышают затраты на эксплуатацию ИИ.
Третий этап ориентирован на масштабирование ИИ-продуктов. Он заключается в минимизации стоимости внедрения за счет платформенных решений, ускорении повторяемости и переиспользовании накопленного опыта. И четвертый этап – это изначальное проектирование бизнес-процессов с опорой на алгоритмы и ИИ-агентов, а не адаптация существующих, как, например, на современных роботизированных фабриках, где человеческое присутствие не предусмотрено (AI-first).
«Таким образом получается путь, который необходимо проходить пошагово от нулевого уровня (где совсем нет ИИ) к четвертому уровню зрелости – AI-first. По мере роста компании растёт и масштаб использования ИИ, следовательно, увеличивается как выгода от его внедрения, так и затраты. При этом, с ростом внедрения ИИ-инструментов все затраты будут переходить в разряд эксплуатационных», - добавил он.
Публичный каталог
В этой связи компания объявила о расширении возможностей собственной AI-платформы для внедрения и масштабирования моделей на основе ИИ в бизнес-процессы В частности, пользователям стала доступна обновленная версия Foundation Models Catalog - сервиса для тестирования, запуска и интеграции LLM в приложения и бизнес-процессы. Это готовая платформа для управления современными AI-моделями через API или пользовательский интерфейс; встроенные инструменты мониторинга и автоматизации помогают отслеживать работу моделей и улучшают их производительность.
Как пояснили разработчики, Foundation Models Catalog упрощает внедрение искусственного интеллекта в корпоративные процессы и позволяет быстро разворачивать и масштабировать AI-модели в облаке без необходимости самостоятельно настраивать IT-инфраструктуру для работы с ними. В частности, появилась возможность разворачивать AI-модели на выделенной инфраструктуре (ресурсах, предоставляемых одному клиенту) с возможностью быстрого автомасштабирования.
При этом разработчики отметили, что в ближайшее время также будет реализован доступ через приватные сети, что повысит стабильность, предсказуемость и уровень информационной безопасности решений.
Кроме того, добавлены инструменты observability (наблюдаемости), позволяющие контролировать состояние и производительность моделей - теперь пользователям доступны логи и метрики Inference-сервера, в котором развернуты AI-модели. Логи фиксируют события работы приложения, включая ошибки и время их возникновения, а метрики отражают показатели производительности - скорость генерации токенов, задержки, уровень нагрузки и количество активных подключений. Собранные данные могут быть интегрированы во внешние системы мониторинга, а в следующих версиях продукта планируется их отображение непосредственно в интерфейсе платформы метрик облачной платформы Selectel.
Разработчики также отметили, что в качестве основного компонента для инференса (обработки запросов и генерации ответов моделями) используется vLLM - высокопроизводительный open-source фреймворк для запуска LLM. Переход на него увеличивает производительность AI-моделей без роста инфраструктурных затрат и обеспечивает поддержку популярного стандарта OpenAI API.
Наконец, в Foundation Models Catalog добавлены новые open-source модели: решения от IBM (Granite), Alibaba (Qwen), DeepSeek, Microsoft (Phi), Mistral AI и OpenAI. При этом перечень будет пополняться: ближайшие обновления - модели от Qwen, DeepSeek, Moonshot AI (Kimi), Zhipu AI (GLM), Google (Gemma), OpenAI (Whisper, GPT OSS), MiniMax и другие.
Фото: TelecomDaily.