На форуме «Цифровые решения 2026» прошла сессия ИКС Холдинга «От ускорителя к ИИ-сервису: как сделать корпоративную ИИ-инфраструктуру управляемой». Главной темой обсуждения стало масштабирование ИИ-нагрузок в крупных компаниях и требования, которые оно предъявляет к корпоративной инфраструктуре. Участники обсудили роль программного слоя, подходы к распределению вычислительных ресурсов и ускорителей, работу с данными и сочетание собственных мощностей с облачной инфраструктурой. Модератором дискуссии выступил Александр Бакулин, коммерческий директор YADRO.
По оценке Виктора Урусова, руководителя Скала^р (Группа Rubytech), каждой компании нужно прежде всего внедрять ИИ в ключевой производственный бизнес-процесс. Для Группы Rubytech таким бизнес-процессом является создание и построение ИТ-инфраструктуры, включая ее проектирование, прототипирование, моделирование, тестирование, внедрение, эксплуатацию и дальнейшее развитие.
«Так как основной фокус нашего бизнеса — построение инфраструктурных решений, а ИИ является элементом инфраструктуры, мы сразу у себя внутри строили фабрику и вводили метрики стоимости токенов и исполнения тех или иных пайплайнов. Стараемся измерять эффективность не только ускорения процессов, но и как они ложатся на стоимость токенизации», — рассказал Виктор Урусов.
Александр Швец, директор по разработке Авито Товары, связал масштабирование ИИ с изменением подходов к управлению процессами и оценке их эффективности.
«Весной мы начали перестраивать управление процессами в Авито по принципам AI First компании, и теперь вопрос не столько во внедрении ИИ, сколько в его эффективном управлении. Мне нравится аналогия с производственным процессом: мы переходим от модели, когда на этапах конвейера каждый вытачивает свою деталь, — к тому, что инженеры начинают настраивать сам конвейер. При этом эффективность ИИ становится прозрачной и измеримой. К примеру, мы видим, сколько потребляем GPU и какой эффект дают алгоритмы», — добавил Александр Швец.
Экономика вычислений стала одной из сквозных тем дискуссии. По мере роста ИИ-нагрузок компаниям необходимо контролировать стоимость используемых ресурсов и определять оптимальный баланс между собственной инфраструктурой и внешними сервисами. В Т-Банке одним из ключевых условий масштабирования экспериментов с ИИ считают доступность вычислительных ресурсов для большой команды, отметил Игорь Маслов, вице-президент и главный технический директор Т-Банка.
«В Т-Банке мы научились получать дешевые токены для большой команды. ИИ-трансформация требует много ресурсов, а ресурсы должны быть доступными. Мы не всегда знаем, куда именно двигаться и как правильно менять процессы, поэтому проводим много экспериментов. Наше главное достижение — очень низкая удельная стоимость каждого эксперимента. Затраты на одного инженера остаются небольшими, потому что мы научились эффективно использовать GPU-мощности и находить баланс между покупкой токенов и развертыванием моделей, делая это качественно», — отметил эксперт.
Алексей Забродин, технический директор РТК-ЦОД, рассказал о подходе компании к использованию ИИ для работы с эксплуатационными данными в защищенном контуре заказчика.
«Сегодня без технологий искусственного интеллекта уже невозможно представить эффективную деятельность. По аналитическим данным, ROI от внедрения ИИ достигает 250%. На форуме мы представили собственного ИИ-ассистента для использования в закрытых контурах. Это решение работает не только с документами, но и с данными мониторинга и эксплуатации. В чат можно скопировать запись журнала, набор метрик, текст алерта системы мониторинга или вывод диагностической команды и получить разбор ситуации. При этом вся обработка данных ведется в защищенном контуре заказчика», — отметил Алексей Забродин.
В завершение дискуссии участники поделились прогнозами о развитии корпоративной ИИ-инфраструктуры. По их оценке, для крупных компаний основным сценарием станет сочетание собственных вычислительных мощностей, облачной инфраструктуры и внешних ИИ-сервисов. Конкретное распределение нагрузок между ними будет зависеть от экономики, требований к безопасности и данным, а также от масштаба задач. При этом критичные нагрузки компании будут чаще сохранять внутри собственного контура.
Поделиться
