Почему-то иногда нам легче увидеть личность в чат-боте, чем в другом человеке.
Одним унылым зимним днём наши двое подростков были в плохом настроении, и я искал способ их развеселить. В момент странного вдохновения я взял пухлый клементин из фруктовой чаши, достал ручку и нарисовал сердитое, угрюмое лицо на его крошечной оранжевой поверхности. Я показал результат детям и зарычал голосом, каким, как мне представлялось, могла бы говорить такое недовольное фруктовое существо, дошедшее до предела и требующее позвать управляющего. Вдруг мы все рассмеялись — и настроение поднялось. Миссия выполнена.
В последующие дни я заметил нечто интересное. Хотя мы съели много фруктов и даже пополнили запас клементинов в чаше, никто так и не притронулся к тому, на котором было лицо. В конце концов я убрал его с чаши на верх холодильника, откуда он мог спокойно взирать своим зловещим, неодобрительным взглядом на все наши разговоры и готовку.
Много лет назад Стивен Леви написал небольшую книгу под названием Insanely Great, в которой рассказывалось об истории разработки первых компьютеров Macintosh в Apple. В ней он описывает интервью с Джоанной Хоффман, которая возглавляла ранний маркетинг Apple. «Больше всего в той встрече, — пишет Леви, — мне запомнилось то, что, пока Джоанна говорила, её Macintosh стоял у неё на столе, и она не могла от него оторваться. Почти в каждом втором предложении она возвращалась к нему, поглаживала его, ласкала, как будто это была какая-то редкая порода кошек».
Об этом отрывке я вспомнил недавно, когда услышал, как наша старшая дочь сказала «спасибо» устройству Google на кухонной полке, после того как оно сообщило ей прогноз погоды. «Пожалуйста, — ответило оно. — Я здесь, чтобы помочь». Мы все рассмеялись — и потому что ответ был неожиданным, и потому что он был удивительно вежливым. Но сразу после этого я поймал себя на том, что начал представлять, будто кто-то действительно там есть.
Учёные могли бы сказать, что отличить человека от других существ довольно просто: человек — это то, что имеет человеческую ДНК. Но вопрос о том, что такое личность, — гораздо более странный и сложный. Мы могли бы подумать, что эти две категории — человек и личность — почти полностью совпадают. Но чем больше я думаю даже о приведённых выше примерах, тем глубже ухожу в кроличью нору.
Недавние успехи в области искусственного интеллекта вывели эту тему в центр культурных и политических обсуждений. В образовании, развлечениях, медицинской диагностике или интернет-поиске — повсюду теперь оказывается, что ИИ каким-то образом участвует. Учитывая такую вездесущность, легко представить, что «наличие интеллекта» — это как переключатель: вчера у машин его не было, а сегодня уже есть.
Но, похоже, всё гораздо сложнее. Когда я думаю об ИИ, я всё чаще возвращаюсь к тому экзистенциальному вопросу, который уже упоминал выше: почему мне так легко представить, что на другом конце провода есть кто-то?
Один из подходов к вопросу об ИИ был предложен учёным Аланом Тьюрингом в 1950 году в его странной небольшой статье «Вычислительные машины и интеллект». В ней он отмахивается от вопроса «Могут ли машины мыслить?», считая его термины слишком абстрактными. Вместо этого Тьюринг предлагает другой угол рассмотрения.
Сначала он предлагает вообразить сценарий, который называет «игрой в подражание». В ней участвуют три игрока: мужчина, женщина и судья. Все они находятся в разных комнатах и общаются только письменно. Судья задаёт вопросы, чтобы определить, кто из них мужчина, а кто женщина. Мужчина старается обмануть судью, чтобы тот ошибся. Если мужчина успешно вводит судью в заблуждение за отведённое время — он выигрывает. Если нет — выигрывает женщина.
После описания механики игры Тьюринг предлагает представить, что на месте мужчины появляется машина, способная писать ответы. Что если, отвечая правильно, она убедит судью в том, что она — женщина? Тогда, считает Тьюринг, нам не останется веской причины отказывать машине в наличии интеллекта.
Сегодня, говоря о тесте Тьюринга, часто упрощают: мол, если машина убедит человека в том, что она — человек, значит, у неё есть искусственный интеллект. Но мне ближе изначальная формулировка Тьюринга. Оставим в стороне интересные размышления о гендере. Мне нравится, что Тьюринг направляет нас не к вопросу, есть ли у машины интеллект, а к вопросу о наших отношениях с машиной. Вопрос в том: может ли машина дойти до того уровня, на котором я начну воспринимать её как личность?
Майкл Грациано — нейробиолог из Принстона, более трёх десятилетий изучающий сознание. В своём TED Talk в 2019 году он объяснил, что человеческий мозг работает так эффективно потому, что мы эволюционно приспособлены строить модели мира — включая других существ и предметы. Но эти модели успешны именно потому, что не являются точным отражением реальности. Это наброски, дающие нам достаточно информации, чтобы двигаться по миру безопасно и связно. Учитывая объём данных и количество нейронов, у нас просто нет времени на иной способ.
Грациано также считает, что сознание — это два разных процесса. Первый — он называет его я-сознанием (I-consciousness) — просто обрабатывает информацию. В этом мы похожи на компьютеры или калькуляторы. А второй — мы-сознание (m-consciousness) — более загадочная, чувственная сторона мышления. Именно она даёт нам ощущение себя и возможность сопереживать другим. Это второе сознание позволяет нам создавать быстрые и эффективные модели не только фактов, но и других людей как личностей.
Это объясняет, почему никто не смог съесть тот клементин с нарисованным лицом. Как бы абсурдно это ни звучало, простым штрихом мы активировали в мозгу древний механизм — и вдруг увидели в нём кого-то. Тот же механизм, наверное, заставил меня вообразить «присутствие» в голосе Google, сказавшем: «Пожалуйста». Это не выбор — это нечто более глубокое, чем рефлекс. Что-то хватает нас за живое, и нам кажется, что кто-тодействительно там есть.
Мы — судьи в игре Тьюринга. Кого мы позволим себе воспринимать как личность?
Психологи используют слово парасоциальность, чтобы описать односторонние отношения, которые мы выстраиваем с теми, кто не может нам ответить. Если вы когда-либо влюблялись в голливудскую звезду или мечтали жить в Нарнии — вы испытывали парасоциальность. По мнению Грациано и других учёных, такие эффекты возникают потому, что мы эволюционно запрограммированы формировать быстрые, человекоподобные отношения со многими стимулами.
Это помогает нам понять и ИИ. С этой точки зрения, интеллект — это скорее социальное явление, а не личная характеристика. Мы считаемся «интеллектуальными», когда участвуем в жизни сообщества, создающего и передающего знания. В книге Homo Ludens нидерландский теоретик культуры Йохан Хёйзинга предполагал, что разумность у людей развилась в результате социальных игр.
Поэтому становится понятным, почему Тьюринг выбрал «игру в подражание», чтобы исследовать интеллект машин. Фокусируясь на социальной стороне интеллекта, он смог задействовать те таинственные аспекты сознания, которые ищут модели и личности. В этом контексте вопрос звучит уже не «Умна ли машина?», а «Можем ли мыпризнать и принять нечто чуждое в наше сообщество?»
Но этот вопрос имеет и другую сторону. Если мы способны видеть личность в объекте, почему так часто мы не видим её в других людях — таких же, как мы? Почему мы не видим личность в тех, с кем разделяем ДНК?
Этот механизм снова возвращает нас к самой игре Тьюринга — и именно это делает её изначальную, странную форму такой интригующей. Оба игрока должны убедить судью в том, что они — женщина. Если мужчина убеждает судью — что тогда? Если машина на месте мужчины справляется с этим — что тогда?
А если женщина, по какой-то причине, не может убедить судью, что она — женщина?
Если мы думаем, что это просто игра — ставки невелики. Но для многих людей эти вопросы признания и принятия крайне реальны. Беженец, просящий убежища, жертва насилия в церкви, трансгендерный человек, ищущий медицинскую помощь — все они сталкиваются с теми же вопросами, что и в игре Тьюринга: поверим ли мы людям, когда они говорят, кто они есть? Примем ли их свидетельства о себе? Или скажем: ты нам не подходишь, ты не человек?
Я бы хотел лучше понимать, почему мне так легко сочувствовать умному устройству или фрукту, но так трудно — бездомному на улице. Всё сводится к вопросу: кого мы позволяем себе воспринимать как личность? Мы — судьи, каждый день выносящие приговор: «ты в игре», «ты вне игры». Да, эти реакции могут быть врождёнными — но это не оправдание. Мы должны замечать, когда принимаем устройство в сообщество, но отвергаем вдову или странника — и каяться, и поступать лучше в следующий раз.
В научной фантастике часто боятся, что ИИ станет настолько могущественным, что сможет уничтожить человечество, не осознавая при этом ценности жизни. Но это — не вымышленная угроза. Это наша реальность. У нас уже есть технологии, способные уничтожить всю жизнь на планете. И в нас самих заложен механизм, позволяющий этому случиться. Ответ — не только обуздать ИИ, но обуздать самих себя.
Никто в моей семье так и не осмелился очистить и съесть сердитый клементин. Что-то в нарисованной рожице заставило нас остановиться. За несколько недель он постепенно ссохся, потемнел, черты лица поблекли. Наконец, я выбросил его в компост. Мне показалось, что мы позволили ему состариться среди нас с достоинством. Думаю, у него была хорошая жизнь — для клементина. И даже хорошая смерть — потому что мы увидели в нём нечто, что заставило нас остановиться и выбрать другой путь.
Дэвид Долт
Доцент христианской духовности в Университете Лойолы в Чикаго, ведущий и исполнительный продюсер подкаста Things Not Seen.
