Google создал искусственный интеллект с «интуицией»

Это нормально, а это нет

Специалисты группы DeepMind, подразделения Google, занимающегося исследованиями искусственного интеллекта, объявили о создании ИИ, который «естественным образом извлекает простые правила окружающего мира», просматривая различные видео.

Фактически речь идет об ИИ, обладающем подобием интуиции. Как пишет издание SingularityHub, модель ИИ уясняла правила физического мира только в тех случаях, когда ей предоставлялась базовая информация об окружающих объектах — их очертаниях, местоположении и о том, как они движутся. В тех случаях, когда модель сталкивалась с «необъяснимыми» и «ненормальными» ситуациями, например при наблюдении шара, который не скатывался по наклонной поверхности, а наоборот, поднимался по ней, модель выказывала «удивление».

Новый ИИ получил название Plato (Physics Learning through Auto-encoding and Tracking Objects — изучение физики через автоматизированное кодирование и отслеживание объектов). ИИ продемонстрировал значительную гибкость: ему понадобился лишь относительно небольшой набор примеров для выработки «интуиции». При этом ИИ смог в дальнейшем обобщить прогнозирование того, как предметы вокруг него будут двигаться и взаимодействовать с другими объектами, в том числе выдавать сценарии, никогда прежде не встречавшиеся.

Психологи, изучающие развитие маленьких детей, давно спорят, могут ли дети обучаться, обнаруживая закономерности в той информации, которую они получают только с опытом.

Результаты исследований Plato показывают, что для определенных задач это невозможно: наряду с получаемым опытом требуются некоторые встроенные или «природные» знания. Например, младенцы уже в самом раннем возрасте осознают существование силы притяжения — их не удивляет, если игрушка, которую они держали в руках, падает на землю.

«К счастью для нас, возрастные психологи десятилетиями изучают представления младенцев о физическом мире. В ходе исследования они... выработали парадигму "нарушений ожидаемого" (violation-of-expectation, VoE) для тестирования этих представлений у младенцев», — написали авторы исследований над Plato в DeepMind.

Детские неожиданности и удивляющийся ИИ

В ходе исследований ИИ тестировался именно на предмет «нарушений ожидаемого». В основе лежал ряд принципов: целостности — два твердых тела не могут проходить друг сквозь друга, континуальность или непрерывность — объекты существуют во времени и не исчезают, даже если их перекрывает другой объект.

При создании Plato использовался сперва стандартный метод двустороннего подхода. Первый компонент представляет собой модель восприятия, которая обрабатывает визуальные данные и вычленяет конкретные объекты из изображения. Следом идет предиктор динамики, который с помощью нейросети оценивает историю прошлых объектов и предсказывает поведение следующего. Иначе говоря, модель строит «физический движок», который размечает объекты, сценарии и предполагает, как что-то будет вести себя в реальном мире.

Тем самым Plato получил «первоначальную идею» физических свойств окружающих предметов, в том числе их положения и скорости движения.

Затем началось обучение. Исследователи представили Plato 30 часов синтезированных видео из открытого массива данных Physical Concepts Dataset. Фактически это были ролики с очень архаичной компьютерной графикой, наглядно демонстрирующей физическое взаимодействие простых тел. В итоге система обучилась точно предсказывать поведение объектов.

После этого исследователи представили ИИ «парадоксальные» ролики, демонстрирующие взаимодействие между теми же объектами, но с нарушением законов физики.

Измеряя разницу между предсказаниями Plato и тем, что происходило на видео на самом деле, исследователи определяли степень «удивления», которое ИИ «испытывал».

При этом в дальнейшем ИИ успешно отличал правдоподобные и невозможные сценарии, экстраполировав свои представления о движущихся объектах на те, с которыми прежде не сталкивался.

Например, когда ему предложили новый, разработанный уже в MIT, массив данных, где фигурировали, помимо прочего, кролики и кегли, Plato вполне успешно различал физически корректные и невозможные ситуации. Например, он «не видел» раньше кроликов, но без всякого дополнительного обучения выражал «удивление», если кролик на видео двигался с нарушением законов физики.

Plato, безусловно, не является цифровой копией разума трехмесячного младенца; разработчики и не предполагали этого. Однако определенные представления о том, как может развиваться мозг человека, он позволяет получить. Также исследование продемонстрировало, что ИИ можно довольно легко обучить законам физики и пониманию, что им соответствует, а что будет нарушать.

В более широком смысле, речь идет об ИИ, который бы обладал «здравым смыслом». Это направление, впрочем, находится в зачаточном состоянии.

Авторы публикуют свой массив данных в открытом доступе, чтобы другие команды могли использовать его и исследовать способность модели ИИ взаимодействовать с более сложными физическими явлениями и, анализировать видеоизображения из «реального мира».

Как отметили авторы работы, «эти исследования могут обеспечить синергетические возможности для дальнейшего изучения и ИИ, и психологии развития».

«В практической плоскости ИИ, который понимает законы физики, может иметь весьма широкий диапазон применения, будь то медицинское протезирование, управление беспилотным транспортом и т. д., — говорит Анастасия Мельникова, директор по информационной безопасности компании SEQ. — Тут важны две составляющие: во-первых, такой ИИ может обучаться очень быстро, с минимальными затратами на его тренировку, что играет важную роль для коммерческого применения технологий машинного обучения. Во-вторых, применение такого “здравомыслящего” и “интуитивного” ИИ поможет избегать многих критических ошибок при использовании его в разработке релевантных решений и оборудования».