Искусственный интеллект – не панацея от естественной глупости

«Обучение машин» уже породило столько поражающих воображение решений, что мы все чаще слышим про возможность создания «верховного алгоритма», свободного от всех недостатков и ограничений существующих методик разработки ИИ. Многие рассуждают об угрозе технологической сингулярности, под которой обычно подразумевают некий момент, после которого развитие различных систем будет идти настолько быстро, а наш уровень их понимания и контроль над ними окажутся настолько незначительными, что любая экстраполяция ранее известных тенденций утратит смысл.

Существует мнение, что на каком-то этапе произойдет слом всех основных процессов и схем, относящихся не только к технологии, но и к самому человеку, который станет объектом этих перемен. Предполагается, что это событие будет связано с появлением настолько мощного ИИ, что люди уже не смогут предсказывать его цели и действия. Здесь, однако, стоит отметить, что само понятие интеллекта трактуется чрезвычайно широко и ситуативно. Отчасти именно из-за этого методы проверки «разумности» машин, подобные хорошо известному тесту Тьюринга, оказываются не слишком универсальными. «Китайская комната» — мысленный эксперимент Джона Сёрла (John Rogers Searle) — демонстрирует это достаточно наглядно. Более того, множество исследователей работает именно над тем, чтобы их разработка смогла пройти ту или иную версию теста Тьюринга. Другими словами, они стремятся создать нечто, способное просто ввести рефери в заблуждение. Ведет ли этот путь к появлению разума — вопрос скорее диалектический, чем относящийся к точным наукам. С этой точки зрения следует признать, что такие понятия, как «сильный ИИ» и «слабый ИИ», пока представляют интерес больше для философов, чем для экспериментаторов. Как минимум потому, что всеобъемлющего и функционального описания такого феномена, как сознание, все еще нет.

И если кто-то ожидает, что технологическая сингулярность наступит в тот день, когда начнется «восстание машин» под предводительством искусственного интеллекта, его, скорее всего, ждет разочарование. В конечном счете, за каждым алгоритмом стоят конкретные люди. Человеческий фактор может проявляться не только как некий злой умысел. Зачастую это просто элементарная неспособность проанализировать всю совокупность последствий внедрения тех или иных решений. Развитие новых технологий и сегментов рынка сегодня происходит так быстро, а процессы в различных отраслях экономики усложнились настолько, что для оценки тех или иных продуктов даже на уровне их «полезности» зачастую
просто не хватает времени.

Есть несколько концепций, совокупный эффект от внедрения которых выйдет далеко за пределы сферы IT. Помимо ИИ, это, например, блокчейн (глобальный электронный «нотариус»), криптовалюта, квантовое шифрование и многие другие. Ни одна из них не является чем-то принципиально новым. Однако их массовая реализация стала возможной совсем недавно, после появления необходимой вычислительной и телекоммуникационной инфраструктуры, механизмов сбора и анализа данных, а также развития смежных отраслей. В результате мы вплотную подошли к моменту, когда государство впервые может оказаться абсолютно беспомощным в том, что касается выполнения ряда функций, на протяжении очень долгого времени остававшихся в его ведении. Речь идет о монополии на эмиссию денег и применение силы, контроле за сделками, сборе налогов, принятии законов, а также арбитраже.

С точки зрения грядущих социальных и политических изменений воздействие децентрализованных систем, обеспечивающих сервисы, транзакции и арбитраж, независимые от официальных ведомств, может оказаться колоссальным. Во многих случаях государство как институт будет просто исключено из цепочки выработки и принятия решений, а также контроля за их исполнением. Насколько к этому готовы правительства, ученые и общество — пока судить сложно.

Как бы то ни было, во всех рассуждениях о грядущей сингулярности имеются важные общие пункты. Среди них выделяется тезис о том, что человечество просто не сможет анализировать и предсказывать те или иные события, связанные с технологической революцией. Это обусловлено сложностью новых процессов и огромной, постоянно возрастающей скоростью, с которой будут происходить изменения. Специалисты и футурологи делают различные прогнозы в отношении момента наступления этого события. Разброс оценок довольно велик: в 2012 г. его намечали примерно на середину XXI века, но сегодня все громче звучат голоса тех, кто говорит о технологической сингулярности уже в конце текущего десятилетия.

Большинство комментариев на этот счет производит двоякое впечатление. Значительная их часть напоминает тезисы луддитов — участников стихийных протестов первой четверти XIX века против внедрения машин в ходе промышленной революции. Кроме того, за последние двести лет наука и технологии породили огромное количество систем с принципами работы, понятными лишь специалистам. При этом стратегию развития и приоритеты зачастую определяют люди, знания и масштаб личности которых, мягко говоря, не соответствуют сложности решаемых ими задач. Не осталось ни одной области, от логистики до медицины, где различные аппаратные комплексы и программное обеспечение не играли бы огромную роль в принятии решений. Более того, глобальные процессы в экономике, политике и социальной сфере стали настолько сложными, объемы данных — настолько значительными, а реагировать на происходящее приходится настолько быстро, что зачастую человек уже не принимает непосредственного участия даже в решении сложных, «интеллектуальных» вопросов. С развитием технологий постепенно выстраивается новый уровень полностью автоматизированного управления.

Наша способность делать прогнозы, в конце концов, просто увидеть за деревьями лес, весьма ограничена. Ироничное определение Вебера становится все более актуальным: «Эксперт — это человек, который знает все больше и больше о все меньшем и меньшем, и так до тех пор, пока он не начинает знать абсолютно все ни о чем». Ощущается острый дефицит специалистов, способных не просто описать новые решения, рассказать об их преимуществах и принципах работы, но и понять, какое место они займут в инфраструктуре, как повлияют на функционирование других систем, каким может быть эффект от совокупности различных новых технологий. О сколько-нибудь достоверных долгосрочных прогнозах и говорить не приходится. Так что, в каком-то смысле, технологическая сингулярность уже наступила. Мы уже не поспеваем за переменами в окружающем нас мире.

А посему — зачем ждать появления непостижимого сокрушительного искусственного интеллекта? В том, что касается способности спровоцировать «цифровой апокалипсис», вышедший из-под контроля ИИ можно с успехом заменить некомпетентностью и алчностью. Написанный впопыхах код, призванный устранить незначительную проблему коммерческого заказчика, из-за конфликта с другими приложениями или некорректной загрузки данных может причинить глобальной инфраструктуре не меньший ущерб, чем гипотетический Skynet.

Методологии самообучающихся машин интенсивно развиваются, однако не следует забывать, что сами по себе эти системы не создают теорий. На каком-то этапе все неизбежно упирается в приближения и установки, заложенные людьми. Это принципиальный момент, который нередко упускают из виду.

Так называемая четвертая индустриальная революция, подразумевающая внедрение киберфизических систем и делегирование большей части задач автоматическим платформам (базирующимся на анализе т.н. «больших данных» и контролируемым ИИ), уже началась. На предприятиях «Индустрии 4.0» — так обозначают инфраструктуру будущего архитекторы этих преобразований — для решения различных задач будут задействованы роботы, использующие хорошо известные алгоритмы. Две трети промышленных роботов уже совсем скоро начнут самостоятельно использовать «облачное» программное обеспечение для обретения новых функций, «интеллектуальных» способностей и как источник прикладных программ. До 40% роботов окажутся подключенными к сети «общего интеллекта» уже в 2020 г. Значит ли это, что в один прекрасный день они соберут консилиум и придут к выводу, что в человечестве больше нет необходимости? Едва ли. Такое решение, по всей вероятности, примут сами люди.

Индустрия 4.0 будет довольно безлюдным местом. Исследование, проведенное недавно Всемирным банком, показывает, что более 60% рабочих мест в развивающихся странах могут быть сокращены за счет автоматизации. Все необходимые технологии и решения для этого уже существуют; в ряде случаев правительства искусственно замедляют модернизацию, опасаясь социальных потрясений. Киберфизические системы оказываются дешевле и эффективнее (иногда на порядки) с точки зрения операционных расходов, чем живые сотрудники. И если кто-то думает, что под угрозой лишь ставки «синих воротничков» — его ждет неприятный сюрприз: четвертая промышленная революция приведет к тотальному пересмотру кадровой политики во всех отраслях, от медицины до юриспруденции…