Конфликт между OpenAI и математическим сообществом обостряется.
Двадцать пять выдающихся математиков подписали открытое письмо, в котором утверждают, что лаборатории искусственного интеллекта угрожают их интеллектуальной работе, стремясь превзойти друг друга в решении известных математических задач. Каждый из подписантов награжден Филдсовской премией, которая считается самой престижной наградой в области математики.
На этой неделе профессор Нью-Йоркского университета Тистан Бакмастер обвинил OpenAI в том, что компания оказывала на него давление с целью не упомянуть соавтора, работающего в Anthropic, при решении важной математической задачи. Он также выразил сомнение, не использовала ли компания их совместную работу с Codex для создания собственного прорывного доказательства в течение напряженного уикенда, посвященного вычислениям.
В четверг OpenAI отозвала спонсорскую поддержку математического мероприятия в Калифорнийском технологическом институте после того, как исследователи университета подвергли компанию критике.
Хотя способность моделей искусственного интеллекта решать мировые нерешенные математические задачи может стать благом для человечества, авторы нового письма утверждают, что это произойдет только в том случае, если эти решения смогут быть поняты и доведены до сведения математического сообщества, а в конечном итоге и всего мира.
«Часто эти решения объявляются в спешке, не оставляя времени для надлежащего оформления, выделения новых методов и идей, а также ссылок на соответствующую предыдущую работу других ученых», — написали они, добавив, что доказательство OpenAI остается непроверенным. «Как и во всех творческих профессиях, это вызывает серьезные вопросы атрибуции и плагиата. Более того, без добровольных математиков, которые должны заботиться о развитии этих идей и их интеграции в математический канон, концепции, созданные ИИ, никогда не станут полностью живыми, и важнейшая цепочка человеческой передачи знаний между математиками будет потеряна».
По мере того как другие математики начинают испытывать паранойю и задаваться вопросом, не используется ли их работа с Codex для обучения новых моделей OpenAI, возникает реальный страх, что культура открытого исследования окажется под угрозой. Сегодня, если передовые лаборатории видят полезный путь к открытию, они могут потратить десятки миллионов долларов, используя большие языковые модели, чтобы опередить первоначальных исследователей в получении доказательства. Такая динамика будет стимулировать секретность.
Это письмо следует за Лейденской декларацией, опубликованной рабочей группой математиков в июне. Этот документ также рассматривает то, как доказательства, полученные с помощью больших языковых моделей, изменят их работу, и предлагает набор рекомендаций для математиков, учреждений и лиц, принимающих решения.
Как и в области разработки программного обеспечения и других сферах, где инструменты ИИ меняют рабочие процессы, математики находят обоснование в работе вокруг самой работы. Ценность математики заключается не только в доказательствах и в том, кто получает заслуги, но и в интеллектуальной надстройке, которая питает студентов, находит новые вопросы и идеи и интегрирует их в более широкую человеческую цивилизацию.
И если вам не особенно интересен жестокий мир высокопоставленных математических доказательств, не забывайте: вашей сферой интересов займутся следующей.
«Проблемы, с которыми сейчас сталкивается математическое сообщество, похожи на проблемы, с которыми сталкиваются другие научные и творческие профессии, и указывают на проблемы, с которыми может столкнуться все человечество: как убедиться в том, что по мере того, как ИИ меняет способ выполнения работы, мы не теряем из виду того, ради чего эта работа изначально была задумана», — написали авторы письма.
Поделиться
