VK Tech обновил Kubernetes-платформу для разработки ИИ-решений и работы с экстремальными нагрузками

VK Tech представил новое поколение Cloud Containers — Kubernetes-платформы VK Cloud для развертывания ИИ-приложений следующего поколения. Она обеспечит непрерывную работу ИИ-инфраструктуры при экстремальных нагрузках, включая масштабирование LLM-сервисов. Cloud Containers даст возможность создавать ИТ-системы, которые работают с десятками тысяч пользователей и миллионами транзакций, не теряя в производительности и доступности. Об этом CNews сообщили представители VK.

Новые возможности сервиса могут сократить операционные издержки, ускорить вывод ИИ-продуктов на рынок и обеспечить бесперебойную работу высоконагруженных проектов. Решение обладает высокой производительностью и возможностью одновременно обрабатывать до 55 тыс. микросервисов.

Ключевые обновления позволяют ускорять разработку и создавать системы, которые выдерживают экстремальные нагрузки. В Cloud Containers автоматизирован процесс самовосстановления кластера Kubernetes, реализована технология Вложенный Kubernetes, когда один кластер Kubernetes запускается внутри другого, и возможность проводить параллельные операции с кластером. Это особенно актуально для организаций с крупными проектами и интенсивным циклом разработки.

Функция автоматического самовосстановления компонентов кластера возвращает его в рабочее состояние без вмешательства DevOps-инженеров. Это минимизирует риски простоя приложений и перераспределяет ресурсы команд с рутинного мониторинга на стратегические задачи. Технология параллельных операций устраняет «окна простоя», давая разработчикам возможность сократить time-to-market для новых функциональностей и продуктов. Это происходит за счет одновременной настройки, масштабирования и обновления кластера.

«Наши клиенты все чаще используют Cloud Containers для полного цикла работы с AI: от обучения моделей до их запуска, а система сама следит за стабильностью работы. Обновление Cloud Containers значительно повышает надежность сервиса. Распределение ресурсов кластера между тремя зонами доступности в регионе и наша собственная программно-определяемая сеть SDN Sprut гарантирует бесперебойную работу приложений, автоматически защищая их от сбоев в отдельном дата-центре. В результате компании-пользователи получают отказоустойчивость и безопасность уровня enterprise», — сказал руководитель направления облачных и дата-сервисов VK Tech Дмитрий Лазаренко.