Как отпечаток пальца: индивидуальность нейронов поможет решить проблемы ИИ
Ученые из Имперского колледжа Лондона выяснили, что моделируемые нейронные сети обучаются быстрее, если их отдельные клетки отличаются друг от друга. Они сконструировали виртуальный мозг, соединяющий идентичные ячейки, и еще один виртуальный мозг, соединяющий воедино различные типы ячеек, то есть клетки с разными электрическими свойствами.
Когда ученые поставили обеим нейронным сетям обучающие задачи, они заметили, что мозг, характеризующийся большей неоднородностью, работает лучше, чем однородный. В частности, «гетерогенный» мозг учился быстрее и был более энергоэффективным, чем «гомогенный». А обучение сети с индивидуальными нейронами было более стабильным и надежным, особенно при решении сложных задач. Ученые предполагают, что неоднородность, или гетерогенность, играет активную и важную роль, позволяя живым существам учиться в меняющейся среде.
Человеческий мозг состоит из миллиардов клеток — нейронов, связанных между собой огромными нейронными сетями. Именно они позволяют нам учиться и познавать мир.
В искусственной нейронной сети, напротив, все ячейки одинаковы, а изменить можно только способ их подключения. Несмотря на высокую скорость развития технологии ИИ, искусственные сети обучаются не так быстро и не так точно, как мозг человека. И теперь ученые задаются вопросом: возможно, причина этого в отсутствии изменчивости нейронов?
Исследователи решили проверить, может ли имитация мозга путем изменения свойств ячеек нейронной сети способствовать обучению ИИ. И теория подтвердилась: они обнаружили, что изменчивость клеток улучшает их обучение и снижает потребление энергии.
Исследователи сосредоточились на настройке «постоянной времени» — то есть того, насколько быстро каждая ячейка решает, что она будет делать, в зависимости от того, что делают связанные с ней ячейки. Некоторые клетки принимали решение очень быстро, глядя на то, что только что сделали соединенные нейроны. Другие реагировали медленнее.
После изменения временных констант ячеек они поручили сети выполнить контрольные задачи машинного обучения: классифицировать изображения одежды и рукописные цифры; распознать человеческие жесты; определить произносимые цифры и команды. Результаты показали, что сеть лучше решала задачи в более сложных, реальных условиях.
Когда ученые добавили в смоделированные сети ячейки с разными электрическими свойствами, они обнаружили, что те из них, которые работали лучше всего, соответствовали количеству изменчивости, наблюдаемой в человеческом мозге. И предположили, что мозг, возможно, эволюционировал так, чтобы иметь правильную степень изменчивости для оптимального обучения.
Ученые уверены, что это открытие не только поможет глубже понять процесс обучения человеческого мозга, но и повлияет на создание более совершенных систем искусственного интеллекта, таких как цифровые помощники, которые могут распознавать голоса и лица, или технологии самоуправляемых автомобилей.