Дебаты о запрете китайских открытых моделей ИИ: экономические интересы против технологического прогресса
Высокая производительность Kimi K3, крупнейшей языковой модели с открытыми весами от китайской лаборатории Moonshot AI, спровоцировала дискуссию, смешивающую два аспекта: экономические перспективы американских гигантов в сфере искусственного интеллекта и будущее больших языковых моделей (LLM) как технологии.
Дин У. Болл, руководитель направления стратегических перспектив в OpenAI, заявил, что правительству США следует найти повод для создания регуляторного страха, неопределенности и недоверия вокруг новых моделей, поскольку модели с открытыми весами неизбежно снижают капитальные расходы передовых лабораторий.
Реакция была острой: такие эксперты, как Ян Лекун и Мартин Касадо, утверждали, что открытое программное обеспечение может ускорить инновации и сосуществовать со проприетарными проектами. Болл вскоре отозвал свои заявления о том, что регуляторные репрессии являются «лучшей стратегией» Белого дома и что модели с открытыми весами обязательно замедляют прогресс в технологии.
Тем не менее, Axios сообщает, что администрация Трампа рассматривает возможность запрета K3 и других продвинутых китайских моделей по требованию американских передовых лабораторий. Другой отчет Politico гласит, что Министерство торговли США не предпримет таких шагов в ближайшее время.
Преимущество для крупных компаний ИИ очевидно: модели с открытыми весами, работающие на независимой инфраструктуре или внутри крупных предприятий, предлагают более дешевый интеллект по сравнению с лучшими моделями Anthropic или OpenAI. Если пользователи все больше тратят средства вне закрытых лабораторий, это означает меньшую отдачу от их массивных инвестиций в обучение моделей.
Эта точка зрения распространяется далеко за пределы OpenAI. «Сильные модели уровня передовых технологий с открытым исходным кодом создадут давление на маржинальность и снизят цены компаний из числа лидеров отрасли», — сказал Braden Hancock, сооснователь Snorkel AI и исследовательский партнер в Laude Institute, изданию TechCrunch. «Это не обязательно означает, что объем использования ИИ немного снизится. Как вы знаете, очевидно, наоборот».
Это не проблема для людей без акций Anthropic и OpenAI. Искусственный интеллект будет продолжать распространяться. Так каково обоснование для правительства блокировать американцам возможность покупать что-либо на их ostensibly свободном рынке?
Опасения по поводу китайских моделей имеют несколько форм. Одна из них — защита данных США от китайского правительства; США запретили импорт современных китайских электромобилей в связи с опасениями относительно сбора данных. Однако эксперты склонны считать, что модели с открытыми весами, работающие на серверах США, вряд ли будут передавать данные обратно в Китай, хотя такая возможность не исключена полностью.
Другое беспокойство связано с тем, что модели могут иметь скрытую предвзятость в пользу КНР — но неясно, что это может означать для задач программирования.
Третья распространенная озабоченность заключается в том, что китайские модели не имеют защитных механизмов, которые правительство США обязало внедрить (через непрозрачный процесс), направленных на предотвращение использования ведущих американских LLM для эксплуатации закрытых компьютерных систем или создания оружия. Однако те же самые защитные механизмы могут сделать американские компании более уязвимыми: Дэвид Сакс, венчурный капиталист и советник Трампа, делился случаями, когда американские компании обращались к китайским LLM для устранения пробелов в безопасности, когда американские передовые модели отказывались выполнять задачи.
Но наиболее значимой мотивацией для ограничения моделей является страх того, что Китай сможет опередить США, если передовые лаборатории замедлятся.
Сэм Бресник, исследовательский сотрудник Центра безопасности и новых технологий при Университете Джорджтауна, специализирующийся на Китае, говорит, что растущее значение ИИ для военных операций США дает правительству причину поддерживать продолжение инвестиций в передовые лаборатории. Но весь вопрос, по его словам, проблематичен.
«Почему сила правительства США должна быть направлена на защиту этих компаний от конкурентов, которые заблокированы из американского рынка на основе своего происхождения?» — спрашивает Бресник.
Сторонники открытого ИИ говорят, что передовые компании создают ложную дихотомию между инновациями и закрытыми моделями.
«Большее влияние появления этих открытых моделей из Китая состоит не в том, что они проникают через задние двери, а в том, что они владеют инновациями», — сказал Hancock изданию TechCrunch. «В результате вы получаете фактически расширенную рабочую силу для вашей модели. PyTorch стал отраслевым стандартом потому, что был с открытым исходным кодом, и вся сообщество могло внести свой вклад в него вместо одной компании, и он рос и рос, а все остальные библиотеки глубокого обучения сравнительно умерли».
Hancock и другие сторонники опасаются, что китайские LLM станут центром международных исследований. Уже сейчас программы магистратуры в США преимущественно строятся на моделях с открытыми весами из Китая, и Hancock говорит, что половина статей, которые студенты изучают, поступает из китайских учреждений, при этом американские передовые лаборатории все более склонны не делиться своей работой широко.
«Ограничение открытых моделей не сделает ИИ безопаснее», — сказал Клем Деланж, генеральный директор Hugging Face, платформы для открытого сотрудничества в области ИИ. «Это просто скроет риски, сосредоточит власть в руках немногих и затруднит участие следующего поколения создателей, исследователей, академиков, некоммерческих организаций, правительств в обеспечении большей безопасности и пользы ИИ для всех».
Бресник говорит, что реальный способ замедлить Китай — сосредоточиться больше на контроле экспорта чипов. Лучший способ сохранить лидерство США в области ИИ — прекратить продажу процессоров Nvidia H200 Китаю. «Это», — говорит он, — «могло бы потенциально избавить нас от этой сложной дискуссии о запрете технологий с открытым исходным кодом, которые огромное количество американских компаний хотят использовать».
Часть проблемы заключается в неопределенности вокруг экономики ИИ. «Открытая бизнес-модель, проприетарная бизнес-модель — ни одна из них еще не отработана. Компании ИИ борются с вопросом о том, как заработать на своих инструментах, особенно поскольку затраты на обучение должны постоянно расти», — отмечает Бресник.
Те же проблемы, которые проявляются в США, также существуют в Китае, где компании ИИ также сталкиваются трудностями в генерации доходов и доступе к вычислительным мощностям, а правительство рассматривается как поощряющее открытые выпуски по политическим причинам, несмотря на трудности с монетизацией.
Некоторые американские компании, включая Thinking Machines Lab и Nvidia, пытаются создать бизнес вокруг выпуска открытых моделей. Hancock отмечает, что Nvidia будет лучше себя чувствовать «если десятки или сотни компаний будут строить ИИ вместо двух или трех, которые достаточно хорошо капитализированы для производства собственных чипов», что является одной из причин ее инвестиций в Nemotron — коллекцию открытых моделей.
«Основной момент заключается в том, что США были бы очень выгодно иметь свои собственные очень способные, гораздо более дешевые открытые модели», — сказал Бресник. «Это просто противоречит подходу, который приняли передовые лаборатории».
Поделиться
