OpenAI представила режим Ultrafast для ускорения работы GPT-5.6 Sol в 14 раз
OpenAI выпустила новый режим обработки под названием Ultrafast, который, по заявлению компании, существенно увеличивает скорость работы ее последней и наиболее мощной модели — GPT-5.6 Sol. Новая функция направлена на оптимизацию времени генерации ответов и выполнения задач с использованием искусственного интеллекта.
Согласно информации от разработчиков, режим Ultrafast обеспечивает работу со скоростью в 14 раз выше по сравнению со стандартной обработкой данных. Это позволяет модели генерировать до 750 выходных токенов в секунду. Токены представляют собой отдельные единицы текста, формируемые языковой моделью при взаимодействии с пользователем.
«До сих пор достижение скорости реального времени обычно означало выбор более маленькой или узкоспециализированной модели», — говорится в сообщении компании, опубликованном в четверг. «Ultrafast указывает на прогресс в новом направлении: больше полезной работы за секунду».
Развитие технологий ускоренной обработки данных наблюдается и среди конкурентов OpenAI. Например, компания Anthropic также запустила ускоренные версии своих моделей. Модель Claude имеет режим быстрого ответа, однако он не обеспечивает такого уровня скорости, который предлагает OpenAI с новым режимом Ultrafast.
OpenAI предполагает внедрение высокоскоростной версии GPT-5.6 Sol в различные корпоративные рабочие процессы. К наиболее значимым областям применения относятся реагирование на инциденты, обслуживание и поддержка клиентов, анализ финансовых рынков, а также электронная коммерция и другие соответствующие сферы деятельности предприятий.
На текущий момент режим Ultrafast находится на этапе предварительного просмотра (preview). Работа функции обеспечивается благодаря партнерству OpenAI с производителем чипов Cerebras. Доступ к предварительной версии в настоящее время ограничен небольшой группой клиентов, однако компания планирует расширить доступность этой возможности по мере увеличения вычислительных мощностей и пропускной способности системы.


