Искусственный разум: станет ли мечта кошмаром?

Эта тема кажется мне интересной, поскольку в последнее время она привлекает к себе очень много внимания общественности. При обсуждении будущего освоения космоса, преодоления межзвездных пространств и изучения тайн Вселенной все чаще высказывается мнение, что исследователями станут уже не представители человеческой расы, а, скорее всего, очень умные машины, которые откроют нам путь к звездам. Позже мы двинемся проложенными ими путями, как это и происходило в течение предыдущих лет космической эры. Конечно, первые межпланетные аппараты не были такими уж умными, да и те, что сейчас работают на поверхности Марса, умом не блещут. Однако в ближайшем будущем в космос будут отправляться все более и более «интеллектуально развитые» машины. Таким образом, нам просто необходимо знать, каким потенциалом обладает технология ИИ применительно к этой отрасли.

Есть и другие причины интересоваться этой темой. Успехи в области ИИ касаются не только новых технологических и научных прорывов или инвестиций в компании, которые, как и моя собственная, работают в этой сфере. Не меньше внимания уделяется и потенциальным угрозам, связанным с развитием ИИ. Уже сегодня многие обеспокоены, к примеру, возможной потерей рабочих мест: случится ли так, что роботы смогут заменить значительное количество персонала и таким путем вытеснить людей с занимаемых ими должностей? Или же появится ли какой-нибудь Терминатор, который захватит власть? По моему мнению — нет.

Машины против людей

Я хотел бы рассмотреть вопрос о том, исходит ли угроза существованию человечества со стороны ИИ в долгосрочной перспективе и — в краткосрочной — реальна ли возможность потери наших рабочих мест. Касательно этих проблем имеются кардинально разнящиеся точки зрения. Однако сам вопрос — не принципиально новый. Еще в 1965 г. британский математик и криптограф Ирвинг Джон Гуд (Irving John Good) охарактеризовал искусственный интеллект следующим образом: «Сверхразумная машина может значительно превзойти любую интеллектуальную деятельность каждого человека, даже самого умного, и, поскольку разработка подобных машин — один из видов такой деятельности, сверхразумная машина окажется способной создавать машины еще лучше. Это, несомненно, приведет к буму интеллектуального развития, при котором человеческий разум останется далеко позади. Таким образом, первая сверхразумная машина станет последним изобретением человечества».

Не так давно Билл Гейтс (William Henry Gates) высказал удивление по поводу того, что людей слишком мало интересует развитие ИИ. А профессор Хокинг в 2014 г. в своей лекции сказал: «Принимая во внимание риски, связанные с нашим будущим, эксперты однозначно делают все возможное для того, чтобы исход был наиболее благоприятным. Да? Нет! Если бы превосходящая нас по развитию внеземная цивилизация прислала нам сообщение о том, что они собираются посетить нас, к примеру, через пару десятилетий, что бы мы ответили? «Окей, позвоните еще разок, когда прилетите, мы оставим свет в прихожей»? Пожалуй, вряд ли. Тем не менее, в сфере ИИ ситуация обстоит примерно таким образом». Так сказал профессор Хокинг.

В 1987 г. я и мой давний приятель открыли совместную фирму, и мой друг — большой оптимист — написал на двери своего кабинета слоган: «Я хочу построить машину, которая будет гордиться мной». Думаю, это была вторая волна энтузиазма по поводу ИИ. Вторая, потому что я наблюдаю за развитием ситуации уже почти четыре десятка лет.

Я начал карьеру с работы в Стэнфордском исследовательском институте. Там были различные лаборатории, в том числе по усовершенствованию производительности человеческого труда, робототехническая и лаборатория ИИ. А поскольку результаты деятельности первой из них — уже часть нашей реальности, есть основания считать, что постепенно мы освоим также робототехнику и искусственный интеллект.

Как уже говорилось, я слежу за развитием ситуации в этой сфере почти 40 лет. Ключевыми моментами, на мой взгляд, являются три вещи: инструментарий, интеллектуальный ресурс и коммерческий интерес. Для значительного прорыва необходимо изобретение новых устройств, привлечение интеллектуального потенциала и вливание капитала. Если посмотреть на то, как сейчас выглядит ситуация в сфере ИИ, то значимость этих трех моментов станет очевидной. Происходит значительное наращивание вычислительных ресурсов машин, развитие того, что принято называть «машинным обучением» и «большими данными» — многократное увеличение количества информации, доступной нам для обработки, а также распространение Интернета, объединяющего множество объектов в единую сеть, и, таким образом, обеспечивающего возможность дальнейшего роста объема данных. Кроме того, конечно же, этому способствуют и новейшие достижения в сфере нейробиологии, углубление наших знаний о работе мозга. Очевидно, что доступный нам инструментарий действительно расширяется.

В последнее время четко просматривается тенденция, характерная для многих ведущих научных учреждений мира (таких, как Массачусетский технологический институт, Стэнфорд и другие): их разработки ведут к открытию бизнеса в сфере ИИ. Кроме того, и это самое важное, проекты по «машинному обучению» пользуются огромной популярностью у инвесторов. Поддерживаются сотни таких инициатив. Мы, например, проспонсировали не один десяток только за последний год.

Подводя итог вышесказанному, можно отметить, что все признаки — наличие инструментария, интеллектуального потенциала и капитальных вложений — сигнализируют о том, что значительные перемены уже начались.

Я предпочитаю обсуждать вопрос с точки зрения оценки рисков: насколько принимаемый нами риск реально велик? Для этого я использую инструмент, называемый «сценарное планирование» — долгосрочное планирование в условиях высокой неопределенности будущего. Я применяю его в своей работе вот уже 40 лет, с тех пор, как он был разработан отделом сценарного планирования компании Shell, который я возглавлял. Оно создавалось как средство для принятия верных решений в условиях недостатка информации. Это инструмент, с помощью которого можно работать с неопределенными факторами.

О рисках стоит задуматься, принимая во внимание уроки истории по их преодолению. Ядерное оружие и вооружение в космосе, генная терапия — во многих отраслях технологического прогресса возникает необходимость диалога с общественностью и разработки способов предупреждения негативных последствий. В настоящее время только начинаются дискуссии вокруг будущего развития ИИ, а также ограничений, в рамках которых оно должно происходить.

Чтобы осуществить сценарное планирование, вам необходимо знать, какие условия являются наиболее неопределенными и каково влияние неопределенных факторов на развитие ситуации. Кроме того, принципиальный момент заключается в том, будет ли у нас достаточно времени на принятие мер в случае, если сценарий развития перестанет нас устраивать (иными словами, возможность среагировать) — либо же вихрь перемен поглотит нас, как в возможном варианте будущего, называемом «сингулярностью».

Существует три вида рисков, которые стоит учитывать. Первый — традиционный, с ними нам приходится сталкиваться всякий раз при значительном рывке технологического развития, приводящем к изменению привычных индустриальных процессов, техники, выполняющей работы и, как следствие, принципов взаимодействия в обществе. По моему мнению, у большинства людей это вызывает беспокойство и сейчас. Другим видом риска является возможное создание неверно функционирующего ИИ, способного нанести вред людям. Третий, самый опасный вид ИИ — доминирующий, враждебно настроенный (так называемый «сценарий Терминатора»).

Машины, похожие на людей

Следует четко различать понятия «большого ИИ» и «малого ИИ». Последний является элементом искусственного интеллекта, ответственным за выполнение узкого спектра функций и встраиваемым в различного рода производственные процессы для снижения доли трудозатрат. Типичный пример такого рода — программа 1-Click, использующаяся в интернет-магазине Amazon. Робот проверяет данные клиента и платежные реквизиты, чтобы завершить оформление заказа и операцию оплаты. По такой же схеме работают автоматические службы подбора отелей.

Мы видим, что все больше узкоспециализированных функций во все возрастающем количестве процессов закрепляется за автоматическими системами и роботами. Именно такие системы я называю «малым ИИ». Хоть они и получают все более широкое применение в различных сферах, сомневаюсь, что само по себе использование «малого ИИ» приведет нас к созданию «большого».

В литературе «большой ИИ» называют Общим искусственным интеллектом (AGI — Artificial General Intelligence). Этот его вид очень схож с человеческим мозгом, и предполагается, что он может быть способен выполнять практически все его функции. Однако я считаю, что объединение всех фрагментов ИИ, принадлежащих к виду «малого», не даст возможности получить «большой». Кроме того, в литературе встречается и еще одна разновидность — искусственный сверхинтеллект, намного превосходящий человеческий разум. Это понятие подразумевает самосовершенствование: машина должна уметь в дальнейшем улучшать и совершенствовать свою работу, создавая, таким образом, машины новых поколений, пока человеческий интеллект не останется глотать пыль далеко позади.

Мы рассмотрели только несколько предполагаемых типов ИИ. Американский футурист Кевин Келли (Kevin Kelly) написал замечательную книгу — «Неизбежное», в которой описал целых 25 различных разновидностей искусственного интеллекта. Вот лишь несколько примеров: сознание наподобие человеческого, но работающее значительно быстрее (можно сказать, мозг на стероидах); улучшенная версия вашего собственного мозга; интеллект для решения общих задач, не обладающий самосознанием (представьте, насколько он мог бы быть полезным в научных исследованиях!); наконец, бессмертное сознание, переносимое с одной платформы на другую, при этом постоянно эволюционирующее и наращивающее потенциал — ведь время его существования не ограничено!

Очевидно, существует множество разновидностей ИИ, которые мы можем рассматривать, дискутируя о сценариях будущего. Что же касается неопределенностей, то следует выделить три их основных группы. Первая неопределенность кроется во времени наступления этого будущего: как скоро все это произойдет? В ближайшие несколько лет, в отдаленной перспективе или же, как многие думают, никогда? Недавно был проведен опрос среди специалистов в данной области касательно временных рамок. Примерно 10% респондентов считают, что создание AGI может стать реальностью уже около 2020 г. Большинство же остальных высказало предположение, что он будет создан около 2065 г., но не позже конца этого столетия.

Исходя из вышесказанного, можно сделать вывод, что, по мнению большинства экспертов, уже до конца этого столетия будет создана машина, не уступающая в интеллектуальных способностях среднестатистическому человеку. Очевидно, в данный момент мы находимся на относительно ровном участке (с небольшим уклоном) кривой зависимости между временем и прогрессом в создании ИИ. Однако вопрос состоит в том, произойдет ли в будущем резкий рывок, ведущий к изменению направления этой кривой на почти вертикальное, или продолжится та же тенденция вялотекущего движения вверх.

Вторая неопределенность содержится в методологии. Каким путем пойдет создание ИИ? Будем ли мы двигаться по принципу «сверху вниз», что предполагает тщательное изучение механизма работы мозга с последующим созданием имитирующей ее модели? Многие современные технологии ориентируются на этот вариант. Анализируя работу мозга, они воспроизводят взаимодействие между нейронами путем формирования сетей для обработки информации (аналогично тому, как это делает мозг). В этом и заключается основной метод «машинного обучения»: роботу предоставляют доступ к множественным примерам и возможность обучаться на них, например, распознавать внешний вид какого-либо объекта — яблока или лица — путем анализа большого количества изображений. В общем случае речь идет о максимально точной передаче особенностей поведения человека и его возможностей машине.

Тем не менее, существует и другой путь — «снизу вверх». Множество малых элементов может быть объединено в большой суперкомпьютер, формируя систему, которую американский исследователь проблем ИИ Марвин Минский (Marvin Lee Minsky) назвал «обществом разума». Трудности расчета такого сценария состоят в том, что строить предположения о времени, когда нечто подобное могло бы произойти, крайне сложно. Кроме того, не следует исключать и случайность, представляющую собой отдельный повод для беспокойства.

Наконец, последняя неопределенность — характер такого ИИ: несет ли он в себе угрозу или же будет дружественно настроен по отношению к нам? Станет ли он, как в научной фантастике, помощником и соратником человека с приятным голосом? Уже сейчас, как нам известно, «малый ИИ» играет важнейшую роль в оптимизации многих технологических процессов. Именно этим и занимается наша компания — помогает интегрировать его в различные системы для упрощения ведения экономической деятельности разного рода. С этой точки зрения ИИ представляет собой перспективный инструмент для расширения наших возможностей, наращивания объемов производства и развития экономики.

Итак, мы рассмотрели три основных вопроса: будет ли создание ИИ полезным для нас, каковы пути к его созданию и когда его можно ожидать. Тем не менее, остается еще несколько весьма неоднозначных и сложных проблем. Например: важно ли наличие самосознания у машины? Нужно ли, чтобы искусственный разум осознавал свою разумность? Философ Джон Сёрл (John Searle) предложил разделить ИИ по этому критерию на два типа — «сильный ИИ» и «слабый ИИ». Первый тип обладает самосознанием и способен осознавать свое существование, в то время как второй осуществляет деятельность, воспринимающуюся нами как действия сознательного существа, однако в реальности таковым не является.

Следующий немаловажный вопрос заключается в том, до какой степени работу мозга можно сопоставить с работой компьютера. Действительно ли он осуществляет вычислительную деятельность? Мы используем понятие «компьютер» как метафору при описании мозга и, наоборот, зачастую метафорически называем «мозгом» компьютер. По факту, сегодняшний ИИ — это программа, которая работает на вычислительном оборудовании, поэтому само сравнение не ново. Конечно же, наш мозг находится в теле, обладающем руками, ногами, глазами и так далее. Люди получают опыт, имеют чувства и эмоции. Можем ли мы создать сознание, существующее вне тела, но наделенное разумом?

Возможно, необходимо выработать альтернативное представление о сознании. К примеру, мы не смогли бы сформулировать основы физики твердых материалов, не зная квантовой механики. Ньютоновской физики было бы просто недостаточно. То есть вопрос звучит так: можем ли мы создать настоящий ИИ при доступных нам сегодня знаниях в области моделирования, математики, представлениях о работе мозга и компьютера? Кроме того, важными станут новые концепции — в частности, робоэтика или широко известные «три закона Азимова»: робот не должен причинять вреда человеку, обязан подчиняться ему и обеспечивать свою безопасность в рамках, не противоречащих предыдущим двум законам. Подобные дискуссии ведутся уже давно, однако для меня лично самое интересное — действительно ли программа может работать как человеческий мозг? До сих пор это остается одним из основных вопросов, на которые нет ответа.

Машины вместо людей

Не менее животрепещущей является и упомянутая проблема влияния на занятость населения. Если рассмотреть историю трудоустройства за последнее время, например, в США, можно выделить две основные категории должностей: связанные с немонотонной деятельностью (например, написание статей или научные исследования, врачебная практика, обслуживание посетителей в ресторане или, к примеру, работа сантехника — тоже на самом деле немонотонная). Под вторую категорию подпадают задачи, выполняемые как однообразные операции на протяжении рабочего дня. Возвращаясь к статистике, исторически наблюдалось значительное — с 30 до 60 млн — увеличение числа рабочих мест, предполагающих работу первой категории, а количество человек, занятых монотонной работой, оставалось на том же уровне. Это говорит о том, что машины уже начали вытеснять последних. Таким образом, теперь вопрос стоит немного иначе: смогут ли они вытеснить и тех, кто занимается немонотонной деятельностью? Представителей таких профессий, как наши с вами? Уверен, именно об этом все и беспокоятся.

Все вышесказанное позволяет предложить несколько возможных сценариев развития событий, исходя из перечисленных неопределенностей. Первый условно называют «Сценарием Колосса» — создание компьютера-исполина по схеме «сверху вниз» либо же сверхинтеллекта, стремящегося захватить мир. На мой взгляд, такой вариант маловероятен. В обозримом будущем (и вообще когда-либо) создать нечто подобное невероятно сложно, конструирование такой машины займет слишком много времени, и способы, которыми это можно сделать, не представляются реализуемыми на практике.

Тем не менее, примеры «малого ИИ» уже существуют в современном мире. Они действительно созданы по схеме «сверху вниз» и помогают человеку во многих видах повседневной деятельности, делая производственные процессы заметно более продуктивными.

Следующий сценарий называется «Универсальный Помощник». По многим критериям именно этот вариант — наиболее оптимистичный. Согласно такому сценарию, в течение нескольких последующих лет (возможно, 5-10) по технологии «сверху вниз» — либо, наоборот, «снизу вверх» — будет разработана персонализированная программа-помощник, которая станет служить на благо каждого человека в мире. Она сможет выполнять множество различных задач в фоновом режиме.

Несомненно, изобретение подобной технологии поставит под угрозу существование некоторых профессий — например, юристов. Хотя, возможно, без отдельных их представителей было бы даже лучше. Такое будущее практически наверняка станет реальностью в ближайшие 5-15 лет, и этот вид искусственного интеллекта, очевидно, будет изобретен. Ну и, конечно же, существует еще один ранее упомянутый вариант будущего — «Сингулярность». Если он и реализуем (а сверхинтеллект может быть создан), то весьма нескоро — не раньше конца столетия. Кроме того, остается и последний вариант будущего, где ответ на вопрос «когда будет создан ИИ» — НИКОГДА.

Итак, можно выделить несколько сценариев будущего, включающих создание ИИ в той или иной форме: «Сценарий Колосса», «Малый ИИ», «Универсальный Помощник» и «Сингулярность». Важнейшую роль в понимании того, который из них наиболее вероятен, играет неопределенность — сейчас мы не можем знать этого наверняка. Все, что нам остается — лишь дискутировать о последствиях появления ИИ каждого из упомянутых видов.

Лично я считаю, что уже существующие примеры «малого ИИ» не могут рассматриваться как шаги к созданию общего искусственного интеллекта. Я убежден, что большинство так называемых рисков, связанных с созданием ИИ — не более чем плод воображения. Кроме того, сам процесс разработки подобных программ требует значительных вложений и создаст множество рабочих мест. Во всяком случае, историческая тенденция в данном вопросе однозначно на стороне оптимистов. Многие люди сейчас занимаются видами деятельности, о которых раньше даже не слышали, и, несомненно, в дальнейшем будут появляться все новые и новые…

Я настроен исключительно оптимистично относительно перспектив человечества в сфере ИИ на ближайшее будущее. Помимо этого, совершенно очевидно, что даже если появится необходимость обсуждать возможный захват мира искусственным разумом, у нас будет не так уж и мало времени на дебаты и рассуждения для получения глубокого понимания механизма работы мозга, а на реализацию этого механизма с помощью компьютерных программ потребуется не одно десятилетие.

В смысле рисков, конечно же, остается возможность того, что ИИ будет создан случайно, и мы не успеем понять, что к чему. Однако самым большим риском лично мне кажется возможное разочарование: люди предвкушали появление ИИ еще с 1950-х годов, и если следующая «волна» развития в этом направлении не принесет желаемого успеха, этот предмет может выпасть из круга интереса широких масс, и человечество вновь вернется к данному вопросу значительно позже.

Несомненно, лучший способ предотвратить такое будущее — сделать исследования прозрачными. Если их результаты будут общедоступными, все желающие смогут внести свой вклад в развитие технологий. Например, в последнее время широко обсуждается феномен так называемого «мужского предубеждения»: поскольку абсолютное большинство исследователей принадлежат к мужскому полу, их способ мышления и рассуждения зачастую имеют выраженные «мужские» особенности. Посему крайне желательно привлекать к исследованиям больше женщин.

Итак, я считаю, что мы уже живем в эпоху «малого ИИ» и, вероятно, находимся на пути к созданию AGI, а может, даже сверхинтеллекта. Однако пессимистические сценарии развития если и реализуемы, то настолько отдалены во времени, что на данный момент содействие исследованиям намного более оправдано, чем введение ограничений. Относительно нашего ближайшего будущего я настроен более чем оптимистично, поскольку существующие технологии уже помогают нам делать свою работу более продуктивно и обеспечивают возникновение новых сфер занятости. В то же время я с интересом смотрю и в более отдаленное будущее: ведь создание настоящего сверхинтеллекта — необычайно сложная задача! Понимание работы мозга, как и конструирование систем по пути «снизу вверх» требует огромных усилий и, несомненно, займет огромное количество времени. Так что я со спокойной душой сохраняю оптимизм в вопросе нашего с вами будущего. Спасибо за внимание!

Петер Шварц

американский футурист, писатель, один из основателей консалтинговой компании Global Business Network