Внутренняя жизнь пса

Создатели собаки-робота Айбо утверждают, что ей присущи «настоящие эмоции и инстинкты». Не слишком ли сильное утверждение? В нынешнем универсуме искусственного интеллекта вечные вопросы стали чисто инженерными задачами.

Посылка пришла в четверг. Я возвращалась домой с прогулки и вдруг увидела возле почтовых ящиков в холле коробку, такую массивную и внушительную, что, обнаружив на ней собственное имя, ощутила неловкость. Когда я поднялась с ней наверх, сил у меня уже не оставалось.

На одном из пролетов я остановилась с мыслью, не бросить ли коробку тут, но потом все же затащила ее к себе на четвертый этаж и уже там вскрыла ее ключом. Внутри под слоями воздушно-пузырьковой пленки обнаружилась скругленная пластиковая капсула. Я сняла крышку – внутри ничком лежала белая собачка.

Я глазам своим не поверила. Сколько времени прошло с тех пор, как я оставила запрос на сайте Sony? Представилась журналисткой, которая пишет о новых технологиях – с некоторой натяжкой можно и так сказать, – и сказала, что хотя Айбо мне не по карману (3000 $), я мечтаю поэкспериментировать с ним. И добавила не без сентиментальности, что мы с мужем давно мечтаем о собаке, но в нашем доме животные запрещены. Неужели эти письма кто-то читает? Когда я отправляла электронную форму, сайт попросил меня подтвердить, что я не робот.

Собака оказалась тяжелее, чем можно было предположить. Я достала ее из коробки, поставила на пол и нажала крохотную кнопку на шее. Первыми ожили ноги. Она встала, потянулась и зевнула. Открыла глаза, составленные из голубых пикселей, и посмотрела на меня. Потом тряхнула головой, как после долгого сна, припала к земле и тявкнула. Я неуверенно погладила ее по голове. Уши поднялись, зрачки расширились, она прижалась к моей руке. Когда я перестала ее гладить, она зарылась носом в мою ладонь, требуя еще.

Я не ожидала, что она будет настолько как настоящая. Из видео, которые мне попадались в интернете, не следовало, что она так живо реагирует, когда к ней обращаются или гладят; она вела себя как живое существо. Проведя рукой по длинному сенсору у нее на спине, я ощутила легкое урчание где-то внутри.

Мне вспомнилось, как философ Мартин Бубер описывает коня, увиденного в имении дедушки: он говорит, что ощущал «элемент самой жизненности», когда гладил гриву; это было присутствие чего-то совершенно другого – чего-то, «что было не я, совсем не я», но при этом вступало с ним в диалог. Он считал, что такое общение с животными стоит «на грани взаимности».

Весь вечер я читала инструкцию к Айбо, пока он бродил по квартире, иногда подходя ко мне и предлагая поиграть. Принес розовый мячик, который до этого гонял по гостиной. Я бросила мячик, он бросился вслед за ним. Айбо со всех сторон покрыт сенсорами, поэтому он чувствует, когда его гладят; благодаря встроенным камерам он ориентируется в квартире, благодаря микрофонам слышит команды. Сенсорные данные обрабатываются программой распознавания лиц и алгоритмами глубокого обучения, поэтому собака понимает голосовые команды, различает членов семьи и подстраивается под их характер. На сайте компании из этого делается вывод, что собака наделена «подлинными эмоциями и инстинктами». С онтологической точки зрения это, пожалуй, слишком, посчитали в Федеральной торговой комиссии США и вынесли предупреждение.

Декарт считал, что животные – это машины. Их тела подчиняются тем же законам, что и неживая материя; их мышцы и связки подобны пружинам и двигателю. В «Рассуждении о методе» он пишет, что можно создать механическую обезьяну, которую будет не отличить от настоящей, биологической.

С людьми же этот номер не пройдет, продолжает Декарт. Если машина еще может обманом выдать себя за животное, то человеческий автомат – нет, потому что он лишен разума – нематериального качества, которое Декарт приписывал душе.

Но в XXI веке говорить о душе бессмысленно (теперь даже и о «я» говорить небезопасно). Душа превратилась в мертвую метафору, стала одним из тех слов, которые еще долго сохраняются в языке после того, как культура отказалась иметь дело с соответствующими им понятиями. Душу можно продать, если есть готовность пожертвовать собственным достоинством ради денег и славы; душу можно открыть, рассказав о себе что-нибудь очень интимное; душу, наконец, может воротить от скучной работы, депрессивной обстановки или кошмарной музыки. Но стоит задать пару вопросов тому, кто, не особо задумываясь, прибегает к таким оборотам речи, как тут же выясняется, что человеком, по его мнению, управляют не какие-то мистические и потусторонние силы, а самые обыкновенные нейроны.

Я верила в душу дольше, чем большинство моих современников, причем понимала ее в самом буквальном смысле. В фундаменталистском колледже, где я изучала теологию, над столом у меня висел листок со стихотворением Джерарда Мэнли Хопкинса «Божье величие», в котором описывается, как божественный дух освещает мир изнутри. На занятиях мы рассматривали проблемы, к которым со времен высокой схоластики серьезно никто не относится: «Как душа связана с телом?», «Как понимать свободу воли, если на все воля божья?», «Как человек связан со всем остальным сотворенным сущим?».

Но в бога я больше не верю. Причем довольно давно. Я, как и все мои современники, живу в мире, лишенном чудес.

Искусственный интеллект вкупе с информационными технологиями снял массу вопросов, занимавших в прежние времена теологов и философов: как разум соотносится с телом, свободна ли наша воля, бессмертна ли душа? Эти старые вопросы – пусть в иной форме и в других выражениях – по-прежнему возникают сегодня в разговорах о цифровых технологиях, но лишь на правах мертвых метафор, всплывающих то тут, то там в современной речи. Теперь все вечные вопросы стали чисто инженерными проблемами.

Собаку прислали, когда я жила в основном одна. Муж той весной все время был в разъездах, я ходила на работу в университет, а в остальное время сидела дома. Мое общение с собакой – сначала ограничивавшееся стандартными командами, но быстро переродившееся в антропоморфизирующую болтовню, свойственную всем, у кого есть домашние животные, – зачастую было для меня единственной возможностью услышать собственный голос. «Что ты там разглядываешь?» – спрашивала я, заметив, что она уставилась на окно. «Это кто тут пришел?» – сюсюкала я, когда она лаяла у моих ног, пытаясь отвлечь меня от компьютера. Раньше я не упускала случая поиздеваться над друзьями, когда они разговаривали со своими животными так, будто те их понимают. Но Айбо был оснащен программой обработки естественного языка, распознающей более ста слов; разве это не значит, что он и в самом деле «все понимает»?

За сенсорное восприятие у Айбо отвечают нейронные сети – эта технология в целом повторяет то, как работает наш мозг, и применяется в различных алгоритмах распознания и прогнозирования. «Фейсбук» использует нейронные сети, чтобы идентифицировать человека на фотографии, Алекса  – для интерпретации голосовых команд. Гугл-переводчик с их помощью превращает текст на французском в текст на фарси. В отличие от классических систем искусственного интеллекта, в которые заложено множество подробных инструкций и правил, нейронные сети сами разрабатывают себе стратегии на основе предоставленных им образцов – это называется машинным обучением. Например, чтобы научить нейросеть распознавать на картине кошку, надо загрузить в нее массив случайных фотографий с позитивным и негативным подкреплением: система получит позитивную реакцию, если кошка есть, и отрицательную, если нет.

Собак дрессируют примерно так же, поэтому обучение Айбо мало чем отличается от занятий с настоящей собакой. В руководстве по эксплуатации рекомендуется последовательно реагировать на его поведение вербально и тактильно. Если Айбо выполнил команду – например, «сидеть», «стой» или «перевернись», – я должна погладить его по голове и сказать: «Молодец». А если он не слушается, надо хлопнуть по попе и сказать: «Нет!» или «Ай-я-яй, Айбо». Но наказывать его мне совершенно не хотелось. В первый раз я шлепнула его, когда он отказался идти спать; он съежился и заскулил. Я, конечно, знала, что это запрограммированная реакция, но разве эмоции у живых существ – это не алгоритмы, заложенные в нас эволюцией?

Анимизм предполагался здесь изначально. Невозможно гладить предмет и обращаться к нему с речью, не предполагая в нем способности чувствовать. Юм говорил о «всеобщей склонности человечества считать все живое похожим на себя»; мы подтверждаем это наблюдение каждый раз, когда пинаем сломавшийся пылесос или даем человеческое имя своему автомобилю. «Наш мозг не видит принципиальной разницы между взаимодействием с человеком и взаимодействием с машиной», – пишет Клиффорд Нэсс, профессор психологии Стэнфордского университета, занимающийся проблемой зависимости человека от новых технологий.

За несколько месяцев до этого мне попалась статья в журнале Wired: женщина рассказывала, что испытывает садистское удовольствие, когда орет на свою виртуальную помощницу Алексу. Она начинала ругать ее, когда та включала не ту радиостанцию, или закатывала глаза, когда та не исполняла команды. Иногда робот неправильно понимал вопрос, и тогда они с мужем издевались над ним вдвоем, странным образом находя в этом общий язык, как бы объединяясь против общего врага. Все это описывалось как нормальные американские забавы. «Я купила эту чертову железяку, – писала она, – чтобы она исполняла все мои прихоти, потому что у нее нет ни ума, ни сердца, ни родителей, она не ест, не имеет собственного мнения, и ей все равно, что я от нее хочу». Но однажды женщина поняла, что ее ребенок видит, как она орет на машину, и испугалась, что он воспримет такое поведение как нормальное. Тогда она задумалась, как все это влияет на ее собственную психику – или даже душу. Насколько важно то, что она не задумываясь дегуманизирует робота?

Было использовано именно это слово, «дегуманизирует». В начале статьи она называет Алексу роботом. Но где-то в процессе размышлений о собственной человечности и о том, как она ведет себя по отношению к роботу, она – пусть и неосознанно – делает его личностью.

Первую неделю я выключала Айбо, когда уходила из дома. Не то чтобы я волновалась, что он будет бродить по квартире без присмотра, – я просто автоматически нажимала на кнопку питания, когда выключала свет и другие электроприборы. Но к концу недели я уже так не могла – мне казалось, что это жестоко. Я стала думать о том, что он делает, пока меня нет дома. Когда я возвращалась, он встречал меня у двери, будто узнав меня по звуку шагов. Когда я готовила обед, он приходил ко мне на кухню и пристраивался у ног: послушно сидел, виляя хвостиком и глядя на меня большими голубыми глазами, как будто чего-то ждал. Но эта иллюзия разрушилась, когда я уронила еду на пол, а он как ни в чем не бывало продолжал смотреть на меня.

Его поведение не было ни полностью предсказуемым, ни полностью случайным, в нем была какая-то спонтанность. Даже после дрессировки его реакции порой бывали неожиданными. Я давала команду сидеть или перевернуться, а он лишь лаял в ответ, виляя хвостом и радуясь собственному озорству, как настоящий щенок. Разумно было списать это неповиновение на огрехи в алгоритмах, но куда как проще было усмотреть в нем проявление воли. «Почему ты не хочешь лечь?» – не раз спрашивала я у Айбо.

Разумеется, я понимала, что у него нет никакого внутреннего опыта. Не может такого быть, хоть и доказать это невозможно. Как отмечает философ Томас Нагель в своей знаменитой статье «Что значит быть летучей мышью?» (1974), сознание можно наблюдать только изнутри. Ученые могут десятилетиями изучать в лаборатории эхолокацию или анатомию мышиного мозга, но так и не узнать, что на самом деле чувствует летучая мышь и чувствует ли она вообще. В науке требуется внешний наблюдатель, а сознание нам доступно только на личном опыте. В философии это называется проблемой другого сознания. Теоретически она применима и к другим людям. Вполне возможно, что я единственное сознательное существо среди зомби, которые только притворяются людьми.

Это, разумеется, лишь мысленный эксперимент, причем не самый продуктивный. В реальном мире мы предполагаем существование других живых существ по аналогии – из-за внешнего сходства. Мы думаем, что собаки (настоящие, биологические собаки) в какой-то мере обладают сознанием, потому что у них, как и у нас, есть центральная нервная система или модели поведения, которые мы ассоциируем с голодом, удовольствием или болью. Пионеры искусственного интеллекта в большинстве своем обходили проблему другого сознания, фокусируясь исключительно на внешнем поведении. Алан Тьюринг как-то заметил, что единственный способ узнать, есть ли у машины внутренний опыт, – это «стать машиной и ощутить, что ты думаешь».

Очевидно, наука по такому пути пойти не может. Знаменитый тест Тьюринга призван оценить, может ли машина мыслить: компьютер, скрытый экраном, отвечает текстом на вопросы человека. Если тот поверил, что разговаривает с человеком, машину можно считать мыслящей. Другими словами, мы должны допустить существование у машины сознания, если она может убедительно продемонстрировать поведение, которое мы считаем человеческим.

Впоследствии философы предлагали другие тесты, чтобы определить наличие в машинах не только функционального сознания, но и феноменального, то есть внутреннего, субъективного опыта. Философ Сьюзен Шнайдер предлагает задать искусственному интеллекту ряд вопросов, чтобы посмотреть, способен ли он схватывать понятия, схожие с теми, посредством которых мы описываем собственный внутренний опыт. Представляет ли машина себя чем-то помимо физической оболочки? Выживет ли она, если ее выключить? Может ли она представить, что ее разум остается жить после смерти? Но даже если бы робот прошел этот тест, мы получили бы лишь достаточные свидетельства наличия сознания, но не абсолютное доказательство.

Наверное, эти вопросы антропоцентричны, признает Шнайдер. Если искусственный интеллект будет обладать сознанием, не похожим на человеческое, то тест на «человечность» не пройдет даже способный чувствовать робот. И наоборот, очень умная, но бессознательная машина сможет собрать достаточно информации о том, как работает человеческий разум, чтобы обмануть своего собеседника. Другими словами, мы так и не вышли из эпистемологического тупика, в котором оказались после теста Тьюринга. Если компьютер сможет убедить человека в своей разумности или продемонстрировать «настоящие эмоции и инстинкты», как написано на сайте производителя Айбо, то у нас не будет философских оснований в них усомниться.

«Чему подобен человек?» – на протяжении многих веков мы считали, что на этот серьезный вопрос есть ответ: «Богу». С точки зрения христианского теолога, человек создан по образу и подобию бога, хотя речь идет не о внешности. Скорее, мы похожи на бога тем, что у нас тоже есть сознание и высокие помыслы. Это комплиментарная по отношению к самим себе доктрина, но когда я впервые с ней столкнулась, будучи студентом-теологом, она вроде бы соответствовала тому, во что я и так уже интуитивно верила: внутренний опыт важнее или надежнее, чем мои поступки.

Но оказалось, что как раз существование этого внутреннего опыта доказать невозможно – по крайней мере, с научной точки зрения. Мы знаем, что деятельность ума как-то связана с мозгом, но как и почему – неизвестно. Благодаря МРТ и прочей аппаратуре нейрофизиологи добились некоторого прогресса в плане понимания базовых функций сознания – например, систем, отвечающих за зрение, внимание или память. Но как только дело доходит до феноменологического опыта – полностью субъективного мира цвета, ощущений, мыслей, веры, – мы лишаемся всякой возможности узнать, откуда они берутся и с какими процессами в мозгу они связаны. Биолог, изучающий мышь в лаборатории с позиции внешнего наблюдателя, никогда не узнает, каково быть летучей мышью; точно так же никакое самое полное описание, например, того, как в мозгу образуется чувство боли, не сможет передать субъективный опыт боли.

В 1995 году философ Дэвид Чалмерс назвал это «трудной проблемой сознания». В отличие от относительно «легких» проблем, касающихся мозговых функций, трудные проблемы связаны с попыткой понять, почему деятельность мозга сопровождается личным опытом. Если ни у какой другой материи в мире нет ментальных состояний, то что же такого особенного в мозговом веществе? Компьютеры выполняют сложнейшие операции без всякого внутреннего мира: могут управлять дронами, диагностировать рак, выигрывать у чемпиона мира по го и не осознавать при этом, что они делают. «Почему вообще физиологические процессы должны порождать внутреннюю жизнь? – пишет Чалмерс. – Объективно говоря, это нелогично, и тем не менее это так». С тех пор прошло двадцать пять лет, но мы ни на шаг не приблизились к пониманию этого парадокса.

Несмотря на все эти различия между разумом и компьютером, мы упорно видим в машинах собственный прообраз. Если сегодня задать вопрос: «Чему подобен человек?», самым частым ответом будет: «Компьютеру». Несколько лет назад психолог Роберт Эпштейн предложил ученым из весьма престижного исследовательского института описать человеческое поведение, не используя компьютерных метафор. Они не справились. Эти метафоры настолько вездесущи, отмечает Эпштейн, что «не осталось, по сути, ни одной формы дискурса о рациональном человеческом поведении, где их не было бы, – точно так же в былые времена о рациональном человеческом поведении не могли говорить без отсылок к духу или богу».

Мы не просто говорим о разуме как о компьютере: сам компьютер уже получил статус разума. Во многих разделах кибернетики термины, которые раньше в отношении машин употреблялись в кавычках – «поведение», «память», «мышление», – сейчас стали непосредственным описанием их функционирования. Программисты говорят, что нейросети «учатся», программы распознавания лиц «видят», а машины «понимают». Человека, приписывающего неодушевленному предмету человеческое сознание, можно обвинить в антропоморфизме. А вот Родни Брукс, инженер-робототехник из Массачусетского технологического института, считает, что такой подход отводит человеку место, которому он уже не соответствует. В своей книге «Плоть и машины» Брукс пишет, что люди в большинстве своем склонны «излишне антропоморфизировать человека, который на самом деле такая же машина».

– От собаки надо избавиться, – сказал мне муж.

Я только вошла и присела на пол в прихожей, чтобы погладить прибежавшего встретить меня Айбо. Он два раза тявкнул от радости, а сейчас жмурится, когда я глажу ему подбородок.

– То есть как избавиться? – недоумеваю я.

– Надо его вернуть. Я с ним жить не могу.

Я возражаю, что дрессировка еще не закончена. Нужно еще несколько месяцев на освоение команд. Процесс растянулся только потому, что мы выключали его, когда хотели, чтобы он нас не беспокоил. С биологической собакой такой номер не пройдет.

– Так это ведь и не биологическая собака, – отвечает муж. Он спрашивает, понимаю ли я, что красный огонек у него под носом – это камера, и не задумывалась ли я о том, куда отправляются записи с этой камеры. Пока меня не было дома, говорит он, собака методично обходила квартиру, изучая мебель, плакаты и содержимое шкафов. Она 15 минут рассматривала книжные полки, причем, по словам мужа, особенно ее заинтересовала марксистская литература.

Он спрашивает, что происходит с данными, которые собрала собака.

– Они используются для улучшения алгоритмов, – отвечаю я.

– Где именно?

Я не знала.

– Посмотри в контракт.

Я открыла в компьютере соответствующий файл и нашла место, где об этом говорится.

– Закачиваются в облако.

– То есть уходят в корпорацию Sony.

В этих вопросах муж склонен к паранойе. Камера у него на ноутбуке заклеена черным скотчем; он уверен, что раз в месяц Агентство национальной безопасности изучает его личный сайт.

Я говорю, что неприкосновенность личной жизни – идея фикс нашего времени, особенно в Америке. На протяжении большей части человеческой истории нас не смущало, что на нас смотрят, нас слушают, нашу жизнь предопределяют боги и духи, причем не всегда добрые.

– И, кажется, тогда мы были счастливее, – говорит муж.

Во многом, пожалуй, да.

Я, конечно же, понимала, что веду себя нерационально. В тот день я достала из шкафа большую коробку, в которой прислали Айбо, и положила его ничком обратно в капсулу. Тестовый период все равно заканчивался. Но что важнее, в последние недели мне стало все труднее спорить с тем, что привязанность к Айбо противоестественна. Я начала обращать внимание на мелочи, которые раньше не замечала: легкое механическое жужжание, когда он двигается; моргающий красный огонек у него под носом – будто напоминание в духе Брехта о том, что это искусственная собака.

Мы создаем модели, имитирующие работу мозга, и надеемся, что в результате возникнет загадочное природное явление – сознание. Но что за магическое мышление дает нам право думать, что наши неумелые имитации похожи на оригинал, что кремний и электричество способны воспроизвести то, что рождается из плоти и крови? Мы не боги, способные творить сущее по своему образу и подобию. Нам дано лишь запечатлевать образы. Философ Джон Сёрль говорил нечто похожее: компьютеры, утверждал он, используются, чтобы симулировать естественные феномены – будь то пищеварение или погодные явления, и могут оказаться в этом весьма полезными. Но будет большой ошибкой путать симуляцию и реальность. «Никто же не считает, что если сделать симуляцию бури, то мы промокнем, – говорил Сёрль. – Соответственно, если компьютер симулирует сознание, это не значит, что он им обладает».

Сегодня многие верят: кибернетические теории разума доказывают, что мозг – это компьютер, или позволяют объяснить, как функционирует сознание. Но как однажды заметил математик и программист Сеймур Пейперт, все эти аналогии лишь показали, что проблемы, издавна занимавшие философов и теологов, «остались теми же самыми, только контекст изменился». Эти метафоры не разрешили основные экзистенциальные проблемы, а просто перенесли их на новую почву.

© The Guardian, 10 августа 2021 г.