Искусственный интеллект начал захват математики: OpenAI представил решения десяти давних проблем
Компания OpenAI продемонстрировала способность искусственного интеллекта решать проблемы в области математики. Эксперты выражают энтузиазм относительно потенциальных возможностей технологии, однако одновременно испытывают обеспокоенность насчет будущего их дисциплины.
Математик Джеймс Мейнэрд из Оксфордского университета и обладатель престижной премии Филдса в течение последнего года провел время в самоанализе, размышляя о будущем своей области на фоне стремительной адаптации традиционно консервативной науки к технологиям ИИ. Компания OpenAI объявила о том, что ее система нашла решения десяти математических задач, некоторые из которых оставались нерешенными для академического сообщества на протяжении десятилетий. Подобно генеративному искусственному интеллекту, используемому для создания текста и изображений или предложения идей в науке и медицине, данная технология обучается паттернам и связям на основе огромных массивов данных, используя их для создания нового. При применении к математике это означает комбинирование известных результатов, методов и инструментов новыми способами, иногда устанавливая связи между разрозненными областями или воскрешая концепции, скрытые в академической литературе.
Для Мейнэрда и других опрошенных математиков это объявление добавило сложности к смешанным эмоциям относительно вектора развития их области. Наблюдается явный энтузиазм по поводу ускорения математических открытий, но также присутствует тревога и в некоторых случаях отчаяние насчет последствий для людей, посвятивших жизнь этому поиску, а также для будущих поколений математиков. Мало кто сомневается, что глубокие потрясения уже начались.
Задачи, решенные OpenAI с помощью нерелизной продвинутой модели под названием Astra, охватывали широкий спектр математических областей — от высокоабстрактных до вопросов с практическим применением. Один из прорывов касался плотности упаковки сфер в пространствах более трех измерений, проблема связанная с эффективностью кодирования и передачи данных. Другой результат расширил пределы кодов исправления ошибок, которые помогают восстанавливать информацию из зашумленных сигналов. Третий разрешил два давних вопроса о том, насколько сложными могут стать связанные сети до появления структурных паттернов. Другие результаты касались квантовой теории игр и поиска целей внутри многомерных решеток, что имеет значение для методов постквантовой кибербезопасности.
Один из наиболее привлекающих внимание результатов concerned существование не-софических групп — бесконечных математических структур, которые, грубо говоря, нельзя аппроксимировать конечными. Вопрос о том, существуют ли такие структуры вообще, оставался открытым на протяжении десятилетий. Этот результат привлек внимание еще и по другой причине: возник спор о том, какая часть заслуг принадлежит ИИ от OpenAI, а какая — человеческим математикам, чьи недавние работы легли в основу этого результата.
Франческо Фурнье-Фацио, математик из Кембриджского университета, сообщил, что он и другие специалисты в этой области полагают, что первоначальное объявление OpenAI преуменьшило вклад исследователей Андреаса Тома и Габоора Куна, чьи недавние работы помогли заложить фундамент для этого результата.
При первом публикации объявления OpenAI заявил, что делится «результатами по задачам, которые были открытыми и не видели прогресса в основном результате как минимум за последнее десятилетие, а в большинстве случаев — намного дольше». Позже формулировка была изменена на: «результаты, каждый из которых решает или делает существенный прогресс по давним открытым проблемам». На странице отсутствует примечание об исправлении или объяснение причин изменения.
Кун, исследователь из Института математики Альфреда Реньи в Венгрии, рассказал, что OpenAI связался с ним по электронной почте незадолго до публикации, чтобы поделиться своими находками. Он назвал обширные формулировки первоначального объявления «скорее комичными», особенно учитывая, что приложенный более подробный исследовательский документ «четко указывал, что он строится на моих результатах 2016 и 2019 годов», последний из которых был написан совместно с Томом. «Это довольно небрежно», — сказал Кун.
После публикации OpenAI снова связался с Куном. Он отказался публиковать переписку полностью, но прочитал выдержку, в которой математик из OpenAI написал, что формулировка должна была относиться к другим результатам в коллекции. «Не подразумевалось, что по этой проблеме не было прогресса», — говорилось в письме, как сообщил Кун. «Мы определенно согласны с тем, что аргумент критически опирается на вашу работу». Математик добавил, что они попросят пересмотреть формулировку объявления.
Представитель OpenAI Лоранс подтвердил, что пост был впоследствии обновлен. «Мы обновили язык, чтобы лучше отразить предыдущие исследования, на которых основаны эти результаты. Хотя вопрос о существовании не-софических групп оставался открытым на протяжении десятилетий, наше доказательство для софических групп опирается на важные математические работы, опубликованные недавно, и мы хотели убедиться, что этот вклад должным образом признан».
Кун отметил, что он задумывался о том, могли ли быть допущены аналогичные упущения в других результатах, выходящих за рамки его экспертизы.
Оценка результатов OpenAI в целом осложняется тем фактом, что математика стала настолько специализированной, что немногие исследователи полностью подготовлены для детального изучения всех областей, затронутых Astra. Компания опубликовала более 250 страниц документов с решениями и еще 60 страниц, описывающих «как идеи объединились», а также сертифицировала каждый результат с помощью Lean — программного обеспечения для верификации математических доказательств. Хотя многие опрошенные математики заявили, что не могут лично оценить некоторые или даже все решения, все они отметили, что существует широкий консенсус относительно того, что за достижением OpenAI стоит реальная значимость.
Задачи, которые, по утверждению OpenAI, были решены внутренней версией его «следующей основной модели» Astra, не были тривиальными. Мейнэрд сказал, что это те вопросы, над которыми математики и компьютерщики серьезно работали и неоднократно терпели неудачу в их решении.
«Существует общее ощущение, что решение одной из этих десяти проблем обеспечило бы вам работу в академической среде», — сказал Ян-Хи Хей, исследователь Лондонского института математических наук. Он только что вернулся с четырехнедельной конференции по ИИ и математике в Южной Корее, где, по его словам, многие почувствовали?? «фазовый переход» за последние шесть месяцев, когда ИИ начал приносить настоящие и значимые прорывы.
В мае OpenAI ошеломил математиков, объявив, что неназванная внутренняя модель разгадала гипотезу Поля Эрдёша, которая уклонялась от внимания математиков почти столетие. В июле математик из Гарварда Левент Альпоге написал в Twitter, что Claude Fable 5 от Anthropic опроверг проклятую яковлевскую гипотезу с помощью крошечного контрпримера, разрушив десятилетия усилий по доказательству ее истинности. Это лишь последние примеры того, как проблемы, которые серьезно волнуют математиков, падают перед ИИ.
Мейнэрд вспоминает, что до недавнего времени это не всегда было так. За некоторыми заметными исключениями, он сказал, что прорывы ИИ в математике генерировали много publicity, но касались проблем, которые часто привлекали мало серьезного внимания исследователей. Скорость изменений застала многих исследователей врасплох, оставив область в суете поиска ответа на вопрос о том, как реагировать, и некоторых заставляет задумываться о том, может ли она выжить в форме, близкой к текущей.
Многие из опрошенных математиков, похоже, все еще пытаются понять свое отношение ко всему этому, выражая удивление и даже шок от скорости изменений. Было много энтузиазма, но Хей сказал, что его впечатление от конференции в Южной Корее и от области в целом заключается в том, что многие в этой сфере преуменьшают значение недавних достижений в попытке «сохранять спокойствие» относительно того, как быстро все движется.
Деньги лежат в основе многих из этих опасений. «Не совсем ясно, готовы ли наши университеты платить столько же за наши теоремы», — сказала Колва Рони-Дугал, профессор Университета Сент-Эндрюса в Шотландии. «Математика — это обычно дешевая дисциплина», — сказала она, жестом указывая на доску, покрытую ее работой. «Большую часть времени я даже не bothering получать грант на исследования. Мне он не нужен. Я просто занимаюсь своей работой».
Эта система может рухнуть, даже если затраты относительно скромны по стандартам ИИ. OpenAI оценивает стоимость генерации десяти решений Astra примерно в 2000 долларов США в токенах по текущим ценам API для его модели Sol. Исследователи, опрошенные сказали, что истинная стоимость, вероятно, значительно выше, в зависимости от количества проблем и попыток, предшествовавших успешным. OpenAI не уточнил детали при запросе информации о том, как был составлен окончательный список. Но для области, привыкшей работать с минимальным бюджетом, даже заявленная цена может оказаться слишком высокой. Рони-Дугал опасается, что исследователи из меньших и менее богатых институтов могут быть полностью исключены из некоторых исследований.
Существует также более общая тревога по поводу растущего проникновения коммерческих интересов в область, которая в значительной степени работала открыто. Даже по мере того как математика становилась более вычислительной, многие инструменты, на которые полагаются исследователи, являются open source и свободно доступны. Самые мощные модели от компаний вроде OpenAI и Anthropic являются проприетарными, и доступ к ним строго контролируется компаниями. Хотя у обеих есть программы, предлагающие бесплатный доступ академическим исследователям, этот доступ далеко не универсален, и немногие из опрошенных исследователей имели возможность использовать самые сложные системы. И Мейнэрд, и Рони-Дугал выразили надежду на то, что модели с открытыми весами в конце концов смогут закрыть этот разрыв, предоставив математикам доступ к инструментам без необходимости полагаться на горстку крупных компаний по производству ИИ.
Доступ — не единственная проблема. Несколько опрошенных исследователей поставили под вопрос, совпадают ли ценности компаний по производству ИИ с ценностями математического сообщества. Имея продукты для продажи и огромные оценки для предстоящих IPO, которые необходимо оправдать, компании имеют все стимулы для хайпа и преувеличения своего вклада, говорят они, одновременно недооценивая человеческую ученость, на которой основаны эти результаты.
«Вот часть, которая меня сейчас больше всего расстраивает», — сказала Рони-Дугал. «Они обращаются с нашей дисциплиной как с рекламной площадкой».
Эти опасения распространяются за пределы опрошенных исследователей. В июне математики опубликовали Лейденскую декларацию, набор принципов ответственного использования ИИ в математике, который был поддержан Международным математическим союзом и подписан более 3400 человек. Она призывает законодателей, правительства, СМИ и другие группы не поддаваться «хайпу», создаваемому компаниями, которые «преувеличивают возможности своих продуктов». Опасения заключаются в том, что преувеличенные утверждения будут иметь реальные последствия для области, убедив фондов и правительств в том, что человеческие математики менее необходимы, чем они есть на самом деле.
OpenAI обвиняют именно в этом с десятью достижениями Astra, особенно благодаря игнорированию вклада Куна и Тома. Кун сказал, что его «чувства довольно амбивалентны». Ему было приятно видеть, как его работа оказывается полезной для решения значимой проблемы, даже если он хотел бы быть тем, кто завершил ее, и это принесло ему внимание, которого он иначе мог бы не получить, вместе с множеством поздравлений. Его шутка в адрес пожелавших успеха: он станет «очень известным безработным».
Фурнье-Фацио чувствует себя значительно менее амбивалентно. «Большинство людей просто посмотрят на объявление OpenAI и примут его за чистую монету», — сказал он. Мало кто, по его мнению, будет иметь время, экспертизу или желание копаться в сотнях страниц технических документов, чтобы понять человеческую работу заголовка, особенно журналисты или политики, работающие быстро. «Они просто выбирают нарратив, который приносит им наибольшую пользу», — сказал он. «Гораздо более впечатляюще сказать, что ИИ-система независимо придумала то, над чем люди не работали 10 лет. Гораздо менее сексуально говорить, что это своего рода построение на идеях за последние 10 лет от людей и их комбинирование умным способом».
Фурнье-Фацио признал, что в том, как математика распределяет заслуги, уже есть элемент несправедливости. «Человек, который делает последний шаг, получает большую часть кредита, верно?» Он сравнил математические исследования со строительством пирамиды, где поколения работы накапливаются под человеком, который наконец кладет последний камень. Возможно, не было бы такого настойчивого требования убедиться в том, что Кун и Том получили должное признание, если бы эту проблему решал человек, сказал он. Но с ИИ, делающим этот последний шаг, он беспокоится, что все остальные будут ошибочно «считаться бесполезными».
Хуже того: «В случае с людьми человек, который кладет последний камень, не обязательно крадет работу у всех людей, которые строили пирамиду».
Этот страх особенно тревожен, когда математики рассматривают влияние ИИ на следующее поколение исследователей. Многие из проблем, которые большие языковые модели начинают решать, — это именно те виды задач, над которыми «обычно работают» аспиранты, сказал профессор Оксфорда Андраш Юхаш. Они не всегда особенно эффектные, но работа над ними критически важна для развития навыков, интуиции и привычек, необходимых для становления успешными исследователями. Теперь они рискуют быть обойденными кем-то, кто ворвется и решит их с помощью ИИ, сказал исследователь из ETH Цюрих Йоханнес Шмитт.
Эффекты уже начинают ощущаться. Проектная работа «стала проблематичной формой оценки» для студентов бакалавриата по мере того, как системы ИИ становятся более способными к ее выполнению, сказал Юхаш. Инструменты могут помочь студентам быстрее получать ответы, но рискуют повредить общее математическое понимание, которое приходит через борьбу. Мейнэрд тем временем уже беспокоится о том, как обеспечить будущую устойчивость исследовательских проектов для студентов. «Если стандартом для публикуемой статьи становится то, что ИИ не может сделать, особенно когда докторантура обычно длится четыре года, вы не пытаетесь придумать проблему, которую ИИ не может решить сейчас. Это ИИ через четыре года».
«Многие люди, с которыми я разговаривал, действительно, очень напуганы», — сказал Фурнье-Фацио. Он указал на два отчаянных эссе аспирантов, циркулирующих в интернете и ставящих под сомнение их будущее в области. Рони-Дугал сказала, что видела распространение подобных сомнений в социальных сетях, с комментариями вроде «Я не уверена, что мне следует делать сейчас. Я не знаю, есть ли смысл продолжать». Сама Рони-Дугал менее пессимистична: «Я не так расстроена этим», — сказала она. «Но многие люди расстроены».
Проблема выходит за рамки того, сколько проблем может решить ИИ. Математика не прогрессирует просто путем снятия проблем со списка. Решение может иметь наибольшее значение для того, что происходит дальше. Лучшие результаты могут открыть совершенно новые вопросы, методы или даже области исследований. Пока еще неизвестно, сможет ли ИИ делать это. Напротив, слишком рано сбрасывать со счетов проблемы, падающие перед ИИ, как просто низко висящие фрукты. Полное понимание того, какой вклад вносят эти результаты и насколько важными они окажутся в конечном итоге, займет время.
Пока что Шмитт не убежден. Он сказал, что видел мало свидетельств того, чтобы крупные вклады ИИ открывали новые области мышления и исследований таким образом, что поднимает тревожную перспективу все более несбалансированного предприятия. «Мы можем двигаться к somewhat имбалансированной ситуации, где много хороших и интересных проблем косится агентами ИИ», — сказал он, без того чтобы эти решения питали создание плодотворных новых направлений для исследователей.
Не все так взволнованы. Хей из Лондонского института был поразительно оптимистичен относительно того, что будет дальше. Он сказал, что некоторое сокращение числа людей, pursuing традиционную академическую математику, может даже быть «здоровым направлением», указывая на уже жесткий рынок труда для выпускников-математиков. Другие видели потенциал ИИ расширить круг участников исследований, позволяя студентам бакалавриата и исследователям без доступа к экспертизе, сконцентрированной в элитных учреждениях, развивать свои идеи и потенциально производить публикуемые работы, которые ранее были бы вне их досягаемости. Для установившихся исследователей передача большей части рутины ИИ может освободить время для сосредоточения на более креативных и концептуальных частях математики.
При всех страхах и надеждах никто не знает, куда это ведет. ИИ движется слишком быстро, а математика, которую он производит, все еще слишком свежа, чтобы судить о ее влиянии. Несколько исследователей опасались, что область может быть перестроена к худшему утверждениями о том, чем ИИ может стать, прежде чем кто-либо имел время понять, что это означает на самом деле.
Когда его спросили, считает ли он какие-либо результаты Astra достойными премии Филдса — одной из высших наград в математике и награды, которую сам получил четыре года назад, Мейнэрд сказал, что его первое впечатление заключалось в том, что они уступают.
«Те, которые я посмотрел, имеют вкус очень впечатляющих результатов», — сказал он, но не обязательно таких, которые повышают математику на концептуальном уровне. На данный момент он видит больше свидетельств того, что существующие техники и методы продвигаются дальше и соединяются умными способами, чем появления каких-либо глубоких новых математических идей.
«Но я думаю, что это также слишком рано говорить», — сказал он. «Иногда требуется время и перспектива, чтобы осознать: „О, вот действительно фундаментальная новая идея.“»
При той скорости, с которой идет развитие, ИИ может не дать математикам много времени на то, чтобы разобраться в этом.
Поделиться
