Роботов могут запретить?

Кажется, в мире потихоньку разгорается полемика между сторонниками и противниками исследований искусственного интеллекта. По обе стороны баррикад находятся видные ученые, политики и бизнесмены.

Аргументы сторонников искусственного интеллекта и развития робототехники в целом известны довольно широко: повышение производительности труда, замена людей на опасных для жизни и здоровья профессиях, прелести автоматизации и повышения вычислительных мощностей. Однако противники указывают на риски, которые, по их мнению, неизбежно несет попытка создания мыслящей машины.

По мнению целого ряда известных людей, таких как физик Стивен Хокинг или бизнесмен и изобретатель Илон Маек, первым, к чему приведут такие исследования, будет не прорыв в промышленности и протезировании, «третья революция в вооружении»: «Когда такую технологию разработают, вооруженные конфликты могут развернуться в таком масштабе, которого человечество еще не видело, и со временем будут развиваться быстрее, чем это сможет осознать человек… Это может быть оружие террора; оружие, которое деспоты и террористы будут использовать против ни в чем не повинных людей, и оружие, систему которого можно взломать, чтобы использовать в нежелательных целях», — говорится в официальном обращении, направленном в ООН.

Более того, противники развития робототехники указывают, что, в случае наделения боевых роботов искусственным разумом и способностью стрелять в человека, это рано или поздно приведет к тому, что они обернутся против своих создателей. Произойдет это потому, что «любое разумное существо не будет бесконечно терпеть жизнь в рабстве».