Инженеры Гордон Бриггс и Маттиас Шаутц из Лаборатории робототехники при Университете Тафтса хотят подкорректировать законы робототехники, сформулированные ещё Айзеком Азимовым.
Как вы, наверное, знаете, в фантастическом рассказе «Хоровод» Айзек Азимов сформулировал три закона, по которым будет существовать искусственный интеллект роботов будущего:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
И хотя до создания настоящего искусственного интеллекта нам ещё далеко, исследователи Университета Тафтса уже хотят защитить его от недостаточно разумного интеллекта человека. В частности, предлагается поменять местами второй и и третий законы, разрешив роботу отказываться от выполнения приказов бессмысленных и опасных для его функционирования.
Впрочем, Гордон Бриггс и Маттиас Шаутц оставляют человеку довольно внушительных размеров лазейку, которой может воспользоваться любой здравомыслящий гражданин: объяснив роботу суть приказа или уверив его в безопасности приказа для его функционирования, машину всё же можно заставить выполнять сказанное людьми.
Поделиться
