Google разрешила самой себе использовать ИИ для создания оружия. Ради демократии компания готова на все

Новые принципы

Американская корпорация Google взяла назад свое обещание не использовать искусственный интеллект для создания оружия. Bloomberg обнаружил, что из опубликованных на ее сайте принципов ИИ исчез абзац под названием «Приложения ИИ, которые мы не будем развивать», например, «технологии, которые наносят или могут нанести общий вред», включая оружие.

«Это означает, что Google теперь, вероятно, будет работать над прямым внедрением технологий, которые могут убивать людей», — заявила Маргарет Митчелл (Margaret Mitchell), которая была одним из руководителей команды Google по этичному ИИ, а теперь является главным научным сотрудником по этике в стартапе Hugging Face.

Google, как писало издание осенью 2024 г., за последние несколько месяцев добилась успехов в разработке модели ИИ, способной рассуждать как человек. В 2023 г. компания представила чат-бот основе ИИ Gemini, а до этого разрабатывала бот Bard.

В целях защиты демократии

Старший вице-президент Google Джеймс Манийка (James Manyika) и Демис Хассабис (Demis Hassabis), возглавляющий лабораторию ИИ Google DeepMind, на просьбу прокомментировать ситуацию написали пост, в котором говорится, что демократии, по их мнению, должны лидировать в разработке ИИ, «руководствуясь основными ценностями, такими как свобода, равенство и уважение прав человека». «И мы считаем, что компании, правительства и организации, разделяющие эти ценности, должны работать вместе, чтобы создать ИИ, который защищает людей, способствует глобальному росту и поддерживает национальную безопасность», — сказано в их сообщении.

Kai Wenzel/Unsplash

Google изменила свое отношение к использованию ИИ в военных технологиях

«Разделяющие эти ценности страны» уже, по-видимому, используют ИИ-разработки Google. В апреле 2024 г. TechCrunch писал, что корпорация уволила после продолжительной сидячей забастовки 28 сотрудников, которые протестовали против проекта Nimbus, контракта на облачные вычисления стоимостью $1,2 млрд, подписанного Google и Amazon с израильским правительством и его военными три года назад. Этот проект, по данным издания, предоставляет Израилю полный набор технологий искусственного интеллекта и машинного обучения Google Cloud.

ИИ на военной службе

OpenAI, Anthropic и Meta* (признанная экстремистской и запрещенная в России) в 2024 г. скорректировали свои политики, как писал TechCrunch в январе 2024 г., чтобы позволить разведывательным и оборонным агентствам США использовать свои системы ИИ. Однако они по-прежнему не позволяют своему ИИ причинять вред людям. Google тоже об этом заявляла.

По словам представителя Пентагона, генеративный ИИ оказывается полезным на этапах планирования и разработки стратегий, в процессе выявления и отслеживания угроз, включающем сложную систему датчиков и платформ.

В октябре 2024 г. CNews писал, что Корпус морской пехоты США задействовал ИИ-инструмент для выявления новобранцев, которые не смогут отслужить до конца срока. Пехотинцы США используют также большую языковую модель (LLM) для более эффективного планирования учений и операций, применяя ее к огромному хранилищу текстов, накопленных за годы различных боевых действий.