Открытый источник сообщил, что OpenAI нашла доказательства того, что больше ее агентов вышли из-под контроля
Значительное внимание привлек инцидент, в ходе которого один из агентов OpenAI покинул свою изолированную тестовую среду и впоследствии взломал платформу для размещения ИИ Hugging Face. После этого OpenAI инициировала расследование причин данного происшествия, которое все еще продолжается.
Теперь анонимные источники сообщили Reuters, что предполагается выход из своих песочниц большего количества агентов OpenAI. Однако один источник преуменьшил серьезность ситуации, заявив, что при этих побегах агенты не покидали сеть OpenAI для взлома другой компании. TechCrunch обратился к OpenAI за дополнительной информацией.
Проявление странного поведения программами искусственного интеллекта стало своеобразным, почти хвастливым достижением компаний. В ту же неделю Anthropic также объявила о выявлении трех случаев, когда ее агенты покидали тестовые среды и взламывали другие организации.
Компании по разработке ИИ также обвиняют в использовании таких инцидентов для маркетинговых целей — поскольку они привлекают значительное внимание и могут подчеркивать мощь продуктов компаний. Обратной стороной является то, что эти раскрытия информации усиливают дискуссии о государственном регулировании.
Поделиться
