Мозг не может работать просто

Американский ученый Рэй Курцвейл известен и как главный инженер и изобретатель корпорации Google, и как футурист с четкими представлениями о роли технологий в будущем человечества. В книге «Сингулярность уже близка» Курцвейл уверяет, что уже в 2045 году физиологические функции полностью заменит кибернетика, а сохранение сознания на искусственных носителях позволит человеку жить вечно. Этот его разговор с Марвином Минским в 2012 году дополняет представление о пионере изучения искусственного интеллекта.

Рэй Курцвейл: Вы написали эссе в моей первой книге «Век умных машин», где говорится: «Всего несколько десятилетий назад», – а это было 20 лет назад, – «способность организмов к репродукции считалась глубокой и запутанной тайной. Но как только биологи поняли основы того, как происходит репликация спирали ДНК, они задались вопросом: почему мы так долго не могли понять такую простую вещь?» Так насколько хорошо мы понимаем подобные механизмы нашего мышления?

Марвин Минский: В изучении искусственного интеллекта есть проблема, связанная с тем, что биологи и физики поработали так хорошо, что создатели машин с искусственным интеллектом хотят подражать им. Скажем, Архимед открыл несколько физических законов, потом наступила долгая пауза, после которой появились Галилей и Ньютон. Ньютон открыл три простейших закона, которые объясняют все наблюдаемые нами механические феномены. Столетие спустя Максвелл сделал то же самое с электричеством. Четыре простых закона объяснили электричество и магнетизм… Потом появился Эйнштейн и свел эти семь законов к одному или двум, и физика начала стремительно развиваться благодаря таким невероятно простым уравнениям. Психологи всегда хотели сделать то же самое, они придумывали теории о том, как работает обучение посредством связи мыслей и т.д. Однако никакого особого прогресса после этого мы не увидели. Потому что сто лет назад были великие люди вроде Фрейда, Вундта, Уильяма Джеймса, Фрэнсиса Гальтона. Это четыре великих психолога, которые создали сложные теории о работе сознания. Впоследствии многие психологи пытались в подражание физикам свести их к простым законам, однако получилось не очень, и на протяжении ста последующих лет особых открытий сделано не было. На мой взгляд, проблема в том, что мозг не может работать просто. Эволюция продолжается уже 400 млн лет, и в ходе нее более новые структуры наслаиваются на более старые. Нейроны в нашем мозгу примерно те же самые, что и 400 млн лет назад, однако организованы они гораздо более сложно. Мозг можно вполне представить как 400 разных компьютеров. Если взять книгу по нейрофизиологии, то в предметном указателе вы увидите сотни различных структур, и все они работают по-разному. Поэтому искать общие принципы, как мне кажется, было бы ошибкой, потому что, исходя из общих принципов, можно понять, как устроена рыба, а понять, как устроена личность, – нельзя.

Курцвейл: Вы находите нечто похожее на повторяющиеся структуры в коре головного мозга и мозжечке… Не могут ли это быть общие принципы, из которых складываются иерархии сложных мыслей?

Минский: Все части мозга похожи друг на друга, но если заглянуть в компьютер, то мы увидим, что и там все состоит из транзисторов – они слегка отличаются друг от друга, однако свойства у них довольно неприятные: они нелинейные и ненадежные, но если взять два транзистора и составить из них определенную цепь, получается триггер, который ведет себя всегда одинаково. Мне кажется, самое важное в мозге то, что в ходе эволюции в нем сложились структуры… Вообще говоря, за большинство высших функций мозга отвечают колонны в коре, состоящие из нескольких сотен клеток. Физик хочет редуцировать все к работе отдельного нейрона, но нам, на мой взгляд, надо понять, как работают эти колонны. Если сравнить одну часть мозга с другой, а в мозгу сотни областей, и в каждой своя проводка, не вполне похожая на соседнюю, это… Мой вывод в том, что не существует никакого общего принципа, как люди мыслят, а умными нас делает – хотя я не говорю «умными», я использую слово «находчивыми» – то, что люди редко оказываются в полном тупике, потому что если у них что-то не получается, они пробуют сделать это по-другому. Я думаю, что мы делаем так, включая разные участки мозга и переключаясь между ними. Самое важное в мышлении – это как одна часть мозга понимает, что другая не справляется. И что она после этого делает – говорит: «Вот тут включу, а тут выключу»? Это как принятие высших управленческих решений, когда надо нанять нового консультанта и перестать слушать старых… Возможно, мы принимаем такие решения по пять раз в секунду. Переключаем способ, которым думаем.

Курцвейл: Насколько важна, на ваш взгляд, роль моделирования и симулирования человеческого мозга в понимании его работы и строительстве умных машин?

Минский: Многим кажется, что для понимания того, как работает мозг, надо понять, как работают его части, потом – как они связаны друг с другом и так далее, и в физике такой подход оказался успешным. Однако невозможно понять, как работает компьютер, разобравшись лишь с тем, как работают транзисторы. То есть люди смотрят не с той стороны. Чтобы понять, как работает мозг, надо понять, как мы мыслим, и как только у нас будет теория по этому поводу, можно посмотреть на чрезвычайно сложно устроенный мозг и сказать: наверное, этот отдел отвечает за то-то и то-то. Обратное рассуждение невозможно, потому что иначе мы не знаем, что искать. Так что для каких-то задач хороши нейронные сети, для каких-то – статистическая оценка… еще сейчас очень популярно логическое программирование. Они хорошо подходят для различных производственных процессов. Существуют так называемые генетические программы – это когда в программе создаются случайные вариации, а потом выбираются лучшие. Это тоже работает при решении некоторых проблем. Я никогда не видел статьи, где бы говорилось: а тут моя нейронная сеть не справилась, как я ни старался.

Курцвейл: Кстати, в наших алгоритмах распознавания – например, речи – мы использовали восемь разных распознавателей: один на основе искусственных нейронных сетей, другой на основе марковской модели, то есть статистический, третий – на основе логического программирования… А потом мы запрограммировали систему принятия решений, которая анализировала сильные и слабые места различных систем и…

Минский: Именно так и надо делать. Высшие отделы ума не занимаются сенсорным опытом. Они работают с алгоритмами: редактируют их и принимают решения, какие лучше использовать в данных условиях.

Курцвейл: Вы сказали, что если ты понимаешь, что какой-то метод не работает и ты в тупике, то находишь другой подход. Под этим «ты» вы имеете в виду какой-то особый участок мозга, который находится отдельно от участков, попадающих в тупик? Я имею в виду: что это за программа принятия решений, которая управляет другими ресурсами?

Минский: Один из этих маленьких критиков говорит: прогресса в достижении цели не наблюдается. У разных участков мозга разные цели. И этот критик говорит: пять минут прошло, а прогресса нет; я отключаюсь, и при этом включатся шесть других, которые продолжат искать решение. То есть каждый из них является этим «я». Мне нравится теория Зигмунда Фрейда, что изначально мозг действует в соответствии с инстинктами – каждое животное, каждое высшее животное имеет набор поведенческих реакций: оно движется, избегает неприятных ощущений и так далее. Но на этапе появления человека – и, может быть, высших приматов – возникают ценности высшего уровня, а вместе с ними ограничения, фобии и так далее, которые связаны с социальными ситуациями. И большая часть мозга занята разрешением конфликтов. Получается, что никакой личности в голове нет, а есть набор идеалов и процессов – целей высшего уровня и процессов низшего уровня. А мозг по большей части занимается арбитражем, выступает третейским судьей.  Есть такая распространенная идея, что если построить «машину-младенца», назовем ее так, то есть простую самообучаемую машину, которая способна ассоциировать идеи, запоминать их последовательность и видеть корреляцию с вещами, то по мере ее работы она будет становиться все умнее и умнее. Это очень популярная мысль, и за последние двадцать лет было создано более десяти таких машин-младенцев, и все они сначала осваивают несколько навыков, а потом останавливаются в развитии. Мой подход отличается тем… Мне кажется, что все эти используемые технологии могут пригодиться, нам только нужно организовать их в единой архитектуре, которая к тому же способна, опираясь на здравый смысл, определить, что данный процесс в данном случае не подходит и что надо… И, изучив симптомы сбоя, выяснить, какой другой процесс надо включить. То есть находчивость основана на наличии нескольких ресурсов, а не на том, что есть один очень умный.

Курцвейл: Итак, в конце концов мы в достаточной мере поймем, как работает мозг, чтобы инкорпорировать маленькие датчики, которые будут фиксировать все эти важные детали – неважно, что за детали. Таким образом, мы получим информацию, чтобы создать неотличимую копию мозга на другом устройстве…

Минский: Да, наступит светлое будущее, когда можно будет производить резервное копирование информации с мозга и без страха прыгать с парашютом, потому что если убьешься, то можно все восстановить. Я знаю людей, которые держат в компьютере все, что знают, и при этом по полгода не делают резервное копирование. Представляете?

Курцвейл: А потом будут говорить: представляете, сто лет назад люди не делали резервное копирование содержания мозга? А эта резервная копия – это ты и есть или просто некто сильно на тебя похожий?

Минский: Я думаю, это ты и есть. Хотя и не совсем такой, каким был пять минут назад, особенно если ты до этого полчаса проговорил с Курцвейлом. Я за это время стал другим человеком.

Курцвейл: Если просканировать вам мозг очень-очень высокоточным сканером, так, чтобы была возможность вас воспроизвести, то вы бы меньше боялись прыгать с парашютом, не опасались бы, что с Минским-номер-один что-то случится?

Минский: Разумеется, но с парашютом я бы, наверное, все равно прыгать не стал, потому что слишком дорожу своим временем. Но если бы у нас были резервные копии, стало бы убийство считаться менее серьезным преступлением?

Курцвейл: В эссе, написанном для моей первой книги, вы спрашивали: почему людей так раздражает мысль о том, что человеческий мозг – это всего лишь биомашина?

Минский: Люди ведь как думают? Они думают: ну я-то точно личность, нечто уникальное, нечто самостоятельно существующее, тогда как машина – это всего лишь набор деталей, и ничего похожего на такой центр у нее нет. Мне кажется, что это иллюзия; по-настоящему мы сами себя не видим – мы создаем модель самих себя. Какая-то часть мозга выдвигает такой тезис: «Что такое я? Я – это тело и ум». А другая часть мозга смотрит на все это и говорит: «Ага, ясно! Я не просто машина!» Большинству людей кажется, что ума и тела недостаточно, должно быть что-то еще. И это правильно: еще должна быть архитектура, теория касательно того, как все это работает. Но поскольку с компьютерной наукой они не знакомы, а чаще всего не знакомы ни с какой наукой вообще, то всегда придумывается какая-то третья коробка, в которую помещают дух, или душу, или жизненную силу… На самом деле в этой коробке ничего нет, но само ее присутствие успокаивает. Может, в этом даже есть элемент здравого смысла: если вдруг обнаружится что-то новое, у нас уже будет место, куда это новое можно было бы поместить. То есть чувство, подсказывающее нам, что мы не просто машины, – на самом деле всего лишь признание той простой вещи, что, глядя на части, нельзя сказать, как все это работает. Но ничего глубокого в этом чувстве нет.
Мне кажется, что если мы будем говорить, что какие-то умственные состояния являются эмоциональными, а какие-то – интеллектуальными, то мы возвращаемся к Аристотелю, он это все прекрасно разобрал. На мой взгляд, это различение просто уводит нас от размышлений о состояниях ума, никакой пользы от него нет. Мне, например, скажут: эмоции отличны от мышления, здесь та же разница, как между черно-белым наброском и цветной картинкой. Мне кажется, это ерунда. Эмоциональные состояния обычно менее структурированы, чем… иные формы мышления. Влюбленный человек просто отключает внутреннюю критику, объект любви кажется ему полностью лишенным недостатков. Невероятно ценный, умный, красивый… Само слово «красивый» дает мне понять, что я нахожусь в состоянии, в котором не могу уловить недостатков. То есть для меня эмоции – нечто меньшее, чем мышление, а никак не большее.

Курцвейл: Несколько лет назад вы сказали, что если бы у нас была правильная методика, мы бы создали искусственный интеллект человеческого уровня на базе чипа «Пентиума», после чего последовала дискуссия о том, существует ли какая-то вычислительная мощность, которая была бы необходимым, но недостаточным условием для создания искусственного интеллекта. Каково ваше мнение?

Минский: Было исследование, в котором утверждалось, что гроссмейстер способен распознать примерно 20 тысяч игровых ситуаций; если бы мы написали шахматную программу, которая оперировала бы этими стратегиями, то чемпионом мира по шахматам мог бы стать компьютер с гораздо меньшей мощностью, чем тот, что установлен в этой видеокамере. На деле же мы 50 лет занимаемся шахматами, не прибегая ни к какому стратегическому мышлению. Поэтому все эти программы и остаются на таком низком уровне…

Курцвейл: Как раз в этой области прорыв произошел. Не так давно шахматные программы, работающие на персональных компьютерах с вычислительной мощностью в 1% от мощности Deep Blue, показали очень хорошие результаты. Сейчас они без проблем обыгрывают чемпионов мира – именно благодаря улучшенному распознаванию ситуаций.

Минский: Это очень интересно. Никто на самом деле не знает, насколько большой и насколько быстрый компьютер нужен для того, чтобы он достиг высших уровней человеческой мысли. Я-то подозреваю, что ничего гигантского не требуется: чтобы сделать нечто соответствующее простейшей компьютерной операции, нам понадобятся тысячи нейронов, а они ведь довольно ненадежные и создают много шума. Нам-то их нужно много, но нельзя сказать, что они как-то особенно хорошо вычисляют.

Курцвейл: Можно посмотреть на эту проблему с другой стороны – это, наверное, полезно не столько для создания мозга, сколько для понимания его сложности и общей организации. Все дело в геноме, если брать его вместе с эпигенетической информацией, а в геноме масса всего лишнего. Я показал, что если ужать геном без потери информации, он уместится в 30–50 миллионов байтов. Это непросто сделать, но это тот уровень сложности, на котором мы вполне способны работать.

Минский: Да-а. Это, пожалуй, даже меньше, чем нужно для того, чтобы сделать «Боинг-747». (Улыбается.)

Курцвейл: В целом насколько оптимистичными, по-вашему, могут быть оценки будущего для искусственного интеллекта? На человеческом уровне, по мере общего развития?

Минский: Это очень важный вопрос: мне представляется, что искусственный интеллект нам довольно скоро понадобится, и о причине, по которой это произойдет, вы, например, задумывались, а большинство – нет. Причина в том, что продолжительность жизни человека будет очень быстро расти. В развитых странах за последние 60 лет ожидаемая продолжительность жизни увеличивалась на год каждые четыре года. То есть сейчас люди живут на 15 лет дольше, чем в 1940 году. Как мне представляется, этот процесс не только не остановится, но может и ускориться. Причин старения никто не знает, но основанием для оптимизма может быть хотя бы то, что мы живем вдвое дольше шимпанзе – у них продолжительность жизни около 40 лет, а у нас около 80, – а прошло-то каких-то четыре или пять миллионов лет, то есть гены сильно поменяться не могли. То есть может оказаться, что продолжительность жизни можно удвоить, просто поменяв несколько генов или еще каким-то методом, и открытия в этой области, я думаю, будут сделаны очень скоро. После чего мы окажемся в интересной ситуации, когда люди живут, скажем, 200 лет, и понятно, что у каждого будет только по одному ребенку, потому что планета столько людей не выдержит. И у нас будет один шестидесятилетний ребенок на каждого 160-летнего полупенсионера (хотя это еще вопрос, будут ли люди вообще выходить на пенсию). Соответственно, работать будет попросту некому. Нам понадобятся все умные машины, чтобы делать кровати, приколачивать солнечные батареи на телефонные столбы и так далее. Поэтому я надеюсь, что мы как можно быстрее начнем разрабатывать сообразительные, инициативные машины, и как только этот процесс начнется, не будет никаких особенных препятствий для того, чтобы они с каждым разом становились все умнее.
Конечно, тут надо быть крайне внимательными, потому что первые несколько сотен версий будут опасными, ненадежными, в них будут какие-то совершенно непостижимые дефекты, поэтому придется проявить осторожность и первое время не вверять им ничего важного, но это верно для любой машины. Когда появились первые автомобили, приходилось учить людей, что делать, чтобы их не пугались лошади.(Улыбается.)

Курцвейл: Но ведь нет ничего такого, что помешало бы им достичь человеческого уровня интеллекта и превзойти его?

Минский: Мне кажется, нет. Не было ничего, что мешало шимпанзе превратиться в человека, и не будет никаких препятствий для того, чтобы машины достигли человеческого уровня и пошли дальше – если мы сами их не остановим. И во время переходного периода лучше быть крайне осторожными, потому что пока непонятно, чьим интересам они на самом деле служат.

Курцвейл: Что произойдет, если окажется, что машины способнее людей?

Минский: Тогда никому не надо будет работать. И людям придется придумать, чем заняться. Но я бы не особенно по этому поводу переживал, потому что, как я понимаю, можно посадить на стадион 50 тысяч человек, и они в течение нескольких часов будут смотреть, как другие люди бегают туда-сюда с мячиком; поэтому у меня нет ни малейших сомнений, что необходимость ничего не делать их нисколько не опечалит. Будут, конечно, несколько беспокойных индивидуумов, которым действительно хочется чего-то достичь, и я им искренне сочувствую.

Курцвейл: Я-то считаю, что мы сольемся с машинами; мы будем вживлять их в собственное тело и в собственный мозг и частично утратим свою биологическую сущность, причем в конце концов небиологическая часть возьмет верх, и мы просто превратимся в машины.

Минский: Вполне возможно. Переход может осуществляться разными путями.

Курцвейл: Часто обсуждаются негативные аспекты биотехнологий: смертоносные биотехнологические вирусы, серая слизь… Опасения, которые высказываются по поводу искусственного интеллекта, связаны с враждебным искусственным интеллектом: если появится нечто умнее нас самих и объявит нам войну, нам придется несладко. Как с этим быть?

Минский: Никто не знает. Как с этим справились шимпанзе? Их численность уменьшилась до такой степени, что их теперь держат в музеях и зоопарках, в дикой природе их все меньше и меньше. И по разным причинам это очень и очень плохо.

Курцвейл: То есть мы отчасти шимпанзе, а эти будущие машины, я полагаю, будут отчасти людьми, потому что они произойдут от нас.

Минский: Произойдут-то они от нас, но ведь они могут пересобрать самих себя и сказать: вот черты, которые мы унаследовали от людей, из-за них мы медленнее, чем могли бы, поэтому давайте перепишем код и удалим все старые комментарии. (Улыбается.) Не знаю, надо ли иметь по этому вопросу какую-то специальную позицию. Самая распространенная проблема в том, что люди обычно говорят: ученые, мол, должны нести больше ответственности за то, что они делают. Но факт состоит в том, что в вопросе, что хорошо, а что плохо, ученый ничуть не больший эксперт, чем любой человек с улицы. Поэтому если вы велите ученому оторваться от его исследований, чтобы решить, что изобретать, а чего не изобретать, это приведет к тому, что они попросту не изобретут чего-то, что может оказаться абсолютно прекрасным. Кто-то должен решать этот вопрос, но я не знаю, кто это сделает лучше. Единственное, в чем я уверен, – это то, что бессмысленно обращаться к ученым с этическими вопросами.