Искусственный интеллект и постиндустриальное будущее

1. Риторика человеческого интеллекта

Отнесение интеллекта исключительно к человеку — идея довольно поздняя. Для последователей Пифагора и Платона было очевидно, что умны звезды, умен замысел о мире, а человеческая мысль только подражает этому мировому интеллекту. Такое отношение к интеллекту отчасти возрождает экологическая мысль: важно не просто, как мы «исправляем» природу, но как природа «понимает» эти исправления.

Конечно, с какого-то момента философия говорит по преимуществу о человеческом уме и думает о связи, например, гражданской независимости человека и его интеллектуальной независимости. Но этот перенос творящего ума внутрь человека произошел на одном условии: ум был понят как «форма», отличающая человека от животного и растения. Ум присущ только человеку: потому что мы можем узнавать творческие действия человека, а у животных опознаем только инстинкты. Воспользовавшись старым сравнением Станислава Лема из его трактата «Философия случая», ум человеческий отличается от ума вообще примерно как флажок на параде, утверждающий гражданскую общность, отличается от сигнального флажка, предотвращающего катастрофы.

Как показал французский историк философии Ален де Либера, современному понятию о человеческом интеллекте мы обязаны арабскому посредничеству, прежде всего Аверроэсу, который толковал Аристотеля и его позднеантичных комментаторов. Если говорить просто, для Аверроэса ум умел и воспринимать, и познавать, и именно человеческий ум посредничал между мормон созерцания вещей и инструментальным их употреблением. Одних суждений недостаточно для того, чтобы мыслить, из них еще надо собрать непротиворечивую конструкцию, и этим занимается философское созерцание. Поэтому и утверждение философией себя в Новое время как института, ответственного за качество мышления людей, означало все большую связку интеллекта с инструментами изменения мира.

Яркие примеры этому — системы Спинозы и Лейбница, в которых интеллект отдельного человека умеет ото-брать правильные инструменты познания, уместные для осознанного человеческого существования. За этими системами, конечно, стоит и некоторая особая риторика: интеллект человека каким-то образом соразмерен задачам, которые перед ним стоят, как например, материалы художника соразмерны тому произведению, которое будет создано. Но в современном мире мы все больше сталкиваемся с несоразмерностью материалов и итога: мир становится совершенно непредсказуемым, и мыслить незнакомое но образцу знакомою не получается. Иначе получится как в анекдоте про урок рисования, на котором рисунок школьника был забракован потому что «таких инопланетян не бывает», или байке экскурсоводов про «ангела на шпиле в натуральную величину». Неизвестное несет в себе собственные законы, которые невозможно опосредовать даже самыми разумными образами, которые есть в нашем распоряжении.

2. От кибернетики к поэтике

Споры о том, может ли машина мыслить, от Джона Серля и Роджера Пенроуза до Дэниэла Деннета, развивались в сторону того, можно ли построить такую модель мышления, которая будет мыслить так же, как мыслит человеческий мозг. Но мышление нельзя свести к моделированию. Воспользовавшись различием между «слабой» и «сильной» программой в социологии и науковедении (Д. Блур), мы можем сказать, что мышление имеет свою «слабую» и «сильную» программу. Слабая программа — это следование общим правилам, как воспринимать вещи, что с ними положено делать, и она нуждается в воображении или представлении сходных ситуаций. Сильная программа — созерцание обшей ситуации, не сводящейся к ее частям, как бы мы их ни представляли.

Машина не может следовать слабой программе, потому что она уже вовлечена в какие-то модели производства операций, и поэтому правилам не следует, не сопоставляет сходное, а выполняет готовое. Но не может она следовать и сильной программе, потому что созданность машины, наличие в ней уже готовых алгоритмов перехода на новые этапы, сколь бы высокой степенью абстракции они ни отличались, не позволяет ей перейти на уровень созерцания. Она всякий раз будет обращаться к своим алгоритмам, хотя бы как к исходной точке запуска более сложных процессов.

Возьмем такой пример практического применения искусственного интеллекта, как «умные города» будущего. Обычно умным в этом городе мыслится только снабжение: быстрый транспорт, отлаженные услуги, возобновляемые ресурсы. Но как быть, если какие-то решения хочется принимать медленно? Или, например, хочется ускорить досуг, придав ему какое-то новое качество, сделав его более познавательно насыщенным? Одно умное снабжение еще не создаст умного образа жизни.

Фантасты чаше всего представляют умный город как сетку вертикален и горизонталей, ускоряющую необходимые для жизни города процессы. Но в таком городе невозможны «форум», совместное действие, а значит, искусственный интеллект города не сможет планировать. В лучшем случае он будет предотвращать конфлнкты. Поэтому настоящему созерцающему умному городу, наверное, лучше иметь площадь, окруженную вычислительными центрами, куда могут заходить любые жители, как в музеи и театры, и вместе с программистами знакомиться с лучшими идеями и догадками, придуманными искусственным интеллектом, и обсуждать их. Не случайно Патрик Уинстон (1943-2019). крупнейший специалист по искусственному интеллекту, был и мастером small talks, невзыскательного поддержания общения.

Этот умный город я бы назвал городом «производящих дискуссий». Они бы помогли преодолеть те издержки контроля и надзора, которые связаны с развитием технологий. Контроль — это выполнение готовых алгоритмов работы с вещами, тогда как дискуссия показывает, насколько полезно исполнение данных алгоритмов, а насколько — подбор других. Поэтому одной из наук будущего я бы считал поэтику искусственного интеллекта. Обычная поэтика показывает, в каких случаях, например, лучше продолжать рифму при сочинении стихотворения и поддерживать строгий ритм, а в каких случаях можно отступить от правил и дать неточную рифму или сменить ритмический рисунок. Так и поэтика искусственного интеллекта объяснит, когда можно отойти от старых алгоритмов ради более творческого понимания происходящего, например, для лучшей адаптации приезжих или для сотрудничества с машинами по созданию нового театра вещей, где столы и компьютеры играют разные роли.

3. Прожить нейросеть как судьбу

Гонконгский философ Юк Хуэй недавно заметил, что современный искусственный интеллект — всемирное изобретение, не привязанное к какой-то отдельной графике, европейской или китайской, но имеющее собственные алгоритмы означивания. Проблему различия между западной буквой и китайской или японской идеограммой поставил еще Хайдеггер в диалоге с токийским профессором Тезукой. Японский коллега обсуждал с Хайдеггером понятие ики — ближайшее соответствие которому: «сверхчувственное в чувственном». Само различение чувственного и сверхчувственного внушено языком западного типа, где есть буква или звук, а есть стоящий за ней смысл. Тогда как для японца, привыкшего к идеограммам, ики если и может быть проанализировано в западном стиле, то лишь с помощью герменевтики, искусства толкования, которое показывает, как прожить эту категорию.

Например, западный человек и японец никогда не придут к согласию, что такое «пустота» и «полнота»: для буддиста пустота и будет бытием, а для европейца — небытием. Но герменевтика подсказывает, как прожить пустоту в качестве бытия, впустив в нее себя, но и как прожить полноту, особым образом настроив созерцание, остановив слишком поспешные суждения. В обоих случаях правильные инструменты выбирает уже не человек, а сама ситуация. Диалог западною философа и японскою мыслителя тем самым показал, что интеллект принадлежит не только человеку, но он извне может подсказывать человеку, нужно ли различать чувственное и сверхчувственное, и почему не надо ограничиваться простым различением, если мы хотим хорошо мыслить, проживать свою мысль.

Еще Жак Деррида в трактате «О грамматологии» сказал, что западный антропоцентризм подобен не пиктограмме, а фонограмме, записи голоса, которая нюансирована, но именно «я» должен считать этот нюанс, заявить, что я услышал эту фонограмму, что я могу подражать мысли не только в отдельных искусствах, но и в самих процедурах мышления. Таков итог того поворота, с которого мы начали, понимания интеллекта как воспринимаемой формы присутствия человека среди обстоятельств и других людей. Тогда как пиктограмма, конечно, как и икона, больше сообщает о том, как присутствие как таковое началось еще до нас. Мы бы не смогли мыслить индивидуально, если бы не это присутствие, позволяющее нам вообще войти в соприкосновение с какими-то вещами. Мир искусственного интеллекта — это мир, в котором такое присутствие может быть усилено, соприкосновение определяться текущей непредсказуемой ситуацией, а не характером вещи. Об этом пишет сейчас множество философов, от Грэма Хармана и Квентина Мейясудо Ника Ланда и Резы Негарестани, которые все настаивают на том. что «контингентность», непредсказуемая ситуация, предшествует любому постулированию «характера» этой ситуации.

В каком-то смысле моделью работа искусственного интеллекта была монашеская Фиваида, египетское монашество начиная с IV века, которое, вероятно, было первой искусственной нейросетью. Монахи селились на расстоянии голоса, чтобы прийти друг другу на помощь в случае чего, дать необходимый импульс, не были связаны с практическими делами других людей. Их созерцание было не столько индивидуальным достоянием, сколько обшей нормой, условием самого существования Фиваиды.

Индивидуализация созерцания требовала запуска предварительного безличного алгоритма, например, ежевоскресных встреч на Литургии и разлуки на весь Великий пост — а полное выполнение этого алгоритма позволяло «исследовать помыслы», иначе говоря, отслеживать на индивидуальном уровне лукавые помыслы, сбои в общей работе по спасению. Падение какого-то монаха в грех было полным отключением этого узла, именно потому что общая работа такой как бы нейросети продолжалась напряженно, независимо от индивидуальных желаний. Но понятно, что Фиваида может быть примером организации разных сторон общественной жизни (и она стала такой в живописи Ренессанса, например, на картине Уччелло ЕЕ ИЛЛЮСТРАЦИЕЙ), но чтобы она не вызывала просто любительского подражания, требуются еще примеры.

4. Искусственное искусство будущего

Один из таких примеров, как будто пришедший к нам из будущего — NFT-арт. Так называют искусство, создаваемое в сети или для сети, так что тиражировать его можно как угодно, но технологии блокчейна позволяют однозначно указывать на «автора» и «владельца», иначе говоря, продавать его, притом, что оно доступно всем, как в галерее. Еще недавно «создание» произведения, его «контекст восприятия» или «успех» были отданы на откуп бытовым представлениям о работе художника и куратора, были эстетической леммой, принятой всеми как само собой разумеющееся общее знание. Но NFT-арт произвел настоящую философскую революцию, показав, что все процедуры по возникновению и публикации произведения могут учитываться и воспроизводиться с самого их начала, что общий интеллект системы, обеспечивающий знакомство людей с искусством, сильнее любого частного интеллекта. Сейчас забота только в том, чтобы аукционные дома не создали слишком закрытые банки таких произведений.

Другой пример, который, как я надеюсь, появится в ближайшие годы — обновленная поэтика компьютерных игр, которая и сможет решить вопросы сетевой безопасности лучше, чем готовые алгоритмы «слабой программы» или всеобщий контроль «сильной программы». Обе эти программы, мы уже говорили, не отвечают действительности машинного интеллекта. Известно, что компьютерная игра — особый способ обезопасить героя: с одной стороны, он имеет некоторый ресурс, дублирующий всю совокупность информации, так называемые «жизни» в игре, а с другой стороны, весь маршрут героя выстраивает ландшафт его обитания прямо у нас на глазах. Например, стреляя, герой создает ландшафт, в котором его ориентирование — как стрелка и удается как несомненное для всех игроков,— но это не значит, что маршрут его станет предсказуемым: ведь тогда игра утратит всякий смысл.

С точки зрения поэтики компьютерных игр безопасность какой-то информации гарантируется тем, что она может быть возобновлена, как новая ее «жизнь». При этом старая, например, поврежденная или украденная информация, просто перестанет работать, перестает быть ландшафтом своего применения, она утратит смысл для системы. Злоумышленник просто столкнется с тем, что информация вроде бы понятна, но она не работает, потому что ландшафт выстраивает уже информация новая, «новая жизнь», а в этом ландшафте можно сориентироваться, но нельзя его пройти, потому что он не связан уже с реальными операциями, которые искусственный интеллект производит здесь и сейчас. Кража информации — это то же, что падение монаха во грех в Фиваиде или «баг» в компьютерной игре. Нейросеть становится на сторону правды, и учит мыслить се независимо от того, какие формулировки и способы записи для нее применяются.