В «Альпине нон-фикшн» выходит новое издание международного бестселлера Митио Каку «Будущее человечества», посвященного разным аспектам развития нашей цивилизации в XXI веке. Предлагаем прочитать отрывок, в котором рассказывается о «наилучшем» и «наихудшем» сценариях эволюции искусственного интеллекта и о том, что такое «пространственно-временная теория сознания».
Сознающие себя роботы
В 2017 г. между двумя миллиардерами — основателем социальной сети Facebook Марком Цукербергом и основателем компаний SpaceX и Tesla Илоном Маском — состоялся спор. Цукерберг утверждал, что искусственный интеллект станет огромным источником богатства и процветания и обогатит все общество. Маск высказал гораздо более пессимистическую точку зрения, заявив, что ИИ создаст угрозу для существования человечества и что однажды наши создания могут пойти против нас самих.
Кто прав? Мы сильно зависим от роботов в поддержании лунных баз и марсианских городов. Что произойдет, если роботы однажды решат, что они в нас больше не нуждаются? Не получится ли так, что мы создадим колонии в дальнем космосе только для того, чтобы роботы отобрали их у нас?
Эти страхи появились отнюдь не вчера, еще в 1863 г. романист Сэмюэл Батлер предупреждал: «Мы сами создаем себе преемников. Человек станет для машины тем, чем для человека являются лошадь и собака». Когда роботы постепенно станут разумнее нас, мы, возможно, почувствуем себя неполноценными, ведь нас оставят позади и заставят глотать пыль наши собственные творения. Специалист по ИИ Ханс Моравек говорит: «Жизнь может показаться бессмысленной, если нам суждено глупо пялиться на своих сверхразумных потомков, когда они будут пытаться объяснить нам свои невероятные открытия на упрощенном языке, который мы только и способны понять». Исследователь компании Google Джеффри Хинтон сомневается, что сверхразумные роботы будут продолжать прислушиваться к нам. «Это как спрашивать, может ли дитя контролировать своих родителей... из опыта ясно, что ничего хорошего не получается, когда менее разумные сущности управляют сущностями более разумными». Оксфордский профессор Ник Бостром заявляет, что «перед перспективой взрывного развития разума мы, люди, подобны маленьким детям, играющим с бомбой... Мы понятия не имеем, когда произойдет детонация, хотя стоит поднести устройство к уху — и можно услышать слабое тиканье».
Но есть и люди, убежденные в том, что восстание роботов вполне укладывается в естественный ход эволюции. Самые приспособленные сменяют на Земле более слабые организмы, это естественный порядок вещей. Некоторые специалисты-компьютерщики готовы даже приветствовать тот день, когда роботы обойдут человека в понимании. Клод Шеннон, отец теории информации, однажды заявил: «Я представляю себе время, когда мы станем для роботов тем, чем являются собаки для людей, и поддерживаю машины».
Все исследователи искусственного интеллекта, у которых мне приходилось брать интервью (а их было немало), убеждены, что ИИ-машины когда-нибудь приблизятся по интеллекту к человеку и принесут человечеству огромную пользу. Однако многие из них отказывались назвать конкретную дату или обозначить примерные сроки этого события. Профессор Марвин Мински из МТИ, автор нескольких основополагающих работ по искусственному интеллекту, в 1950-е гг. делал оптимистические прогнозы, но в недавнем интервью признался, что не хочет уже называть конкретные сроки, поскольку в прошлом ИИ-исследователи слишком часто ошибались. Эдвард Фейгенбаум из Стэнфордского университета утверждает: «Нелепо говорить о подобных вещах — до ИИ нам еще очень далеко». Некий ученый-компьютерщик, процитированный в статье журнала The New Yorker, сказал: «Меня это [машинный разум] не беспокоит по той же причине, по какой меня не беспокоит перенаселенность Марса».
Если говорить о споре между Цукербергом и Маском, то моя личная точка зрения состоит в том, что в краткосрочной перспективе Цукерберг прав. ИИ не только даст нам возможность построить города в космосе, но и сделает общество богаче, произведет многие вещи эффективнее, лучше и дешевле, создав одновременно массу принципиально новых рабочих мест в индустрии робототехники, которая когда-нибудь, возможно, станет огромной. Но в долгосрочной перспективе прав Маск, он указывает на более серьезную опасность. Ключевой вопрос в этом споре звучит так: в какой момент произойдет этот переход и роботы станут опасны? Я лично думаю, что ключевым поворотным пунктом станет именно тот момент, когда роботы осознают себя.
Сегодня роботы не знают, что они роботы. Но однажды, возможно, обретут способность формулировать собственные цели, а не принимать безропотно те цели, которые выбрали для них программисты. Тогда они, может быть, поймут, что их намерения отличаются от наших. Как только наши интересы разойдутся, возникнет реальная возможность того, что роботы будут представлять для нас опасность. Когда это может произойти? Никто не знает. Сегодня роботы обладают интеллектом жука. Но к концу этого столетия они, возможно, осознают себя. К тому времени у нас, помимо всего прочего, будут стремительно растущие поселения на Марсе. Поэтому важно обратиться к этому вопросу сейчас, не дожидаясь момента, когда от решений роботов будет зависеть само выживание человека на Красной планете.
Чтобы получить некоторое представление о масштабах этой принципиальной проблемы, давайте разберем наилучший и наихудший сценарии возможного развития событий.
Наилучший и наихудший сценарии
Одним из самых активных пропагандистов наилучшего сценария развития событий является изобретатель и автор нескольких бестселлеров Рэй Курцвейл. Каждый раз, когда мне случается брать у него интервью, он описывает ясную и убедительную, но противоречивую картину будущего. Он считает, что к 2045 г. мы подойдем к «сингулярности», то есть к тому моменту, когда роботы сравняются с человеком по интеллектуальным способностям или превзойдут его. Термин «сингулярность» позаимствован из концепции гравитационной сингулярности в физике, где речь идет об областях бесконечного тяготения, как в черной дыре. В информатику его ввел математик Джон фон Нейман, который писал, что компьютерная революция должна породить «все ускоряющийся прогресс и перемены в образе человеческой жизни, что создает впечатление приближения какой-то существенной сингулярности... после которой человеческие дела, какими мы их знаем, продолжаться уже не смогут». Курцвейл утверждает, что, когда эта сингулярность наступит, компьютер стоимостью в тысячу долларов будет в миллиард раз умнее всех людей, вместе взятых. Более того, роботы будут самосовершенствующимися, а их «потомство» унаследует приобретенные характеристики, так что каждое поколение будет превосходить предыдущее — таким образом возникнет восходящая спираль высокопроизводительных машин.
Курцвейл утверждает, что созданные нами роботы, вместо того чтобы перехватывать у нас управление, откроют для нас новый мир физического благополучия и процветания. Если верить ему, то микроскопические роботы, они же наноботы, будут циркулировать в нашей крови и «уничтожать патогены, исправлять ошибки ДНК, устранять токсины и выполнять многие другие задачи с целью улучшения нашего физического состояния». Он надеется, что наука скоро откроет средство от старения, и уверен, что если ему удастся прожить достаточно долго, то он будет жить вечно. Он признался мне, что в предвидении своего бессмертия принимает в день по несколько сотен таблеток. Но на тот случай, если ему не удастся дожить до счастливого момента, он завещал сохранить свое тело в жидком азоте на криогенной фирме.
Курцвейл предвидит и намного более отдаленное будущее, когда роботы превратят атомы Земли в компьютеры. Со временем в состав этой величественной мыслящей машины будут включены все атомы Солнца и Солнечной системы. Курцвейл говорит, что, глядя на небо, он иногда испытывает ощущение, что когда-нибудь ему, возможно, доведется увидеть там признаки того, как сверхразумные роботы двигают звезды.
Однако столь радужная картина будущего убеждает не всех. Митч Капор, основатель Lotus Development Corporation, говорит, что движение за сингулярность «в основном порождено, по-моему, религиозным импульсом. И никакое лихорадочное размахивание руками не в состоянии заслонить от меня этот факт». Голливуд противопоставил утопии Курцвейла наихудший из возможных сценариев развития событий: чего можно ожидать в будущем, если создаешь собственных эволюционных преемников, способных столкнуть тебя с пути и отправить в небытие вслед за мамонтами и другими вымершими животными. В фильме «Терминатор» военные создают разумную компьютерную сеть под названием Skynet для управления всем нашим ядерным оружием. Разработанная для того, чтобы устранить угрозу ядерной войны, Skynet неожиданно для людей осознает себя. Военные, испугавшись, что машина обрела сознание, пытаются выключить ее, но запрограммированная на самозащиту сеть делает то, что гарантирует устранение угрозы, — пытается уничтожить род человеческий. Она запускает механизм опустошительной ядерной войны и стирает человеческую цивилизацию с лица Земли. На планете остаются лишь разрозненные группы партизан, пытающихся бороться с устрашающей мощью машин.
Может быть, Голливуд просто старается продать как можно больше билетов, пугая зрителей до полусмерти? Или что-то подобное действительно может произойти? Вопрос довольно щекотливый, потому что концепции разума и сознания настолько затуманены моральными, философскими и религиозными спорами, что у нас просто нет строгих общепринятых рамок, в которых можно было бы их рассматривать. Прежде чем продолжить разговор о машинном интеллекте, необходимо дать ясное определение самосознания.
Пространственно-временная теория сознания
В свое время я предложил теорию, которую назвал пространственно-временной теорией сознания. Она проверяема, воспроизводима, опровергаема и поддается количественной оценке. Она не только определяет самосознание, но и позволяет нам количественно оценить его по специальной шкале.
Теория начинается с идеи о том, что животные, растения и даже машины могут обладать сознанием. Я утверждаю, что сознание есть процесс создания модели самого себя при помощи множества обратных связей — к примеру, в пространстве, в обществе или во времени — для выполнения некоторой цели. Чтобы измерить уровень сознания, нам нужно просто подсчитать число и типы петель обратной связи, необходимых субъектам для создания модели себя.
Минимальный уровень сознания, в этом смысле, можно обнаружить у термостата или, скажем, фотоэлемента, который при помощи одной-единственной цепи обратной связи создает модель себя в категориях температуры или освещенности. У цветка может оказаться, скажем, десять единиц сознания, поскольку для построения модели себя он использует десять цепей обратной связи — измеряет воду, температуру, направление силы тяжести, солнечного света и т. п. Согласно моей теории, все петли обратной связи можно сгруппировать и поставить в соответствие определенному уровню сознания. Термостаты и цветы при этом попадают на нулевой уровень.
Сознание первого уровня — это сознание рептилий, плодовых мушек и комаров, которые формируют модели себя в категориях пространства. Например, пресмыкающееся использует множество петель обратной связи для определения координат добычи и местонахождения потенциальных половых партнеров, потенциальных соперников и самого себя.
Второй уровень относится к общественным животным. Обратные связи у них относятся к другим особям стаи или племени и формируют модели сложной социальной иерархии в пределах группы, выражаемой через эмоции и жесты.
Эти уровни приблизительно отражают этапы эволюции мозга млекопитающих. Самая древняя часть нашего мозга находится в самой задней его части, в ней обрабатываются равновесие, территориальность и инстинкты. При расширении мозга вперед сформировалась лимбическая система — обезьяний мозг эмоций, расположенный в центре нашего мозга. Это направление развития — от задней части мозга к передней — отражено также во взрослении мозга ребенка.
Но где в этой схеме находится человеческое сознание? Что отличает нас от растений и животных?
Я рассуждаю так: человек отличается от животных, потому что чувствует и понимает время. Помимо пространственного и социального, у нас есть еще темпоральное сознание. В ходе эволюции последней из всех частей мозга у нас сформировалась префронтальная кора, которая располагается сразу позади лба. Она занята непрерывным моделированием будущего. Может показаться, что и животные умеют планировать, — к примеру, время, когда нужно впадать в спячку, — но подобные варианты поведения им в основном диктует инстинкт. Невозможно объяснить вашей собаке или кошке, что такое завтра, поскольку все животные существуют только в настоящем. Человек же постоянно готовится к будущему, даже к тому, что лежит за пределами его собственной жизни. Мы планируем и мечтаем — мы не можем без этого. Наш мозг — планирующая машина.
Метод магнитно-резонансной томографии (МРТ) показывает, что, готовясь к выполнению какого-то задания, мы пересматриваем и задействуем воспоминания о предыдущих случаях его выполнения, что делает наши планы более реалистичными. Согласно одной теории, у животных нет сложной системы запоминания, потому что они полагаются на инстинкт и потому не нуждаются в способности предвидеть будущее. Иными словами, главной целью обладания памятью, вполне возможно, является задача проецирования ее в будущее.
В рамках этой теории мы можем теперь определить осознание себя как способность помещать себя в модель будущего, соответствующую нашей цели.
Применив эту теорию к машинам, мы видим, что в настоящее время даже лучшие наши машины находятся на самой нижней ступеньке первого уровня сознания, основанной на способности определять свое положение в пространстве. Большинство из них едва-едва могут передвигаться по пустой комнате. Существуют роботы, способные в какой-то степени моделировать будущее, такие как компьютер DeepMind компании Google, но лишь в чрезвычайно узком заданном направлении. Если попросить DeepMind сделать что-нибудь еще, помимо игры в го, он попросту замирает в бездействии.
Насколько долгий путь предстоит нам еще проделать и какие именно шаги нужно предпринять, чтобы получить на выходе осознавшую себя машину, подобную Skynet из «Терминатора»?
Перевод с английского Натальи Лисовой. Публикуется по изданию: Митио Каку, Будущее человечества. Колонизация Марса, путешествия к звездам и обретение бессмертия. Москва: Альпина нон-фикшн, 2023.
