Отцу Джастину, аватару искусственного интеллекта, выдающему себя за священника, потребовалось чуть больше дня, чтобы быть отстраненным от должности. После того, как Catholic Answers, сайт, посвященный евангелизации католицизма, представил этого персонажа для ответов на вопросы о вере, католики в социальных сетях назвали его «скандальной насмешкой над священством», которая предлагает лишь «замену реальному общению».
24 апреля Catholic Answers извинился за эксперимент, и Джастин был вновь представлен в качестве светского богослова.
Католики, близкие к работе Ватикана над искусственным интеллектом, говорят, что Джастин отражает возможные проблемы с евангелизацией ИИ и причины для осторожности в попытках Папы Франциска и других церковных чиновников решить проблему ИИ, даже когда эта технология становится все более оживленной темой в Ватикане.
Преподобный Филип Ларрей, профессор кафедры формирующего образования в Бостонском колледже, сказал, что, хотя он считает Catholic Answers хорошей группой, «они немного поторопились ввязаться в нечто чрезвычайно сложное, а именно в интерактивный искусственный интеллект».
Епископ Сан-Хосе, штат Калифорния, Оскар Канту, возглавляющий католическую веру в Силиконовой долине, сказал, что в его епархии прихожане не часто говорят об искусственном интеллекте. Тем не менее, будучи лидером в мировой столице вычислительной техники, Канту сказал, что он занимается проблемой ИИ как глобальной и моральной проблемой, хотя и «не слишком углубляется в нее».
Ссылаясь на поговорку, придуманную основателем компании Meta Марком Цукербергом: «Двигайся быстро и ломай вещи», епископ сказал: «С ИИ нам нужно двигаться очень осторожно и медленно и стараться не ломать вещи. Вещи, которые мы будем ломать, — это человеческие жизни и репутация».
Эксперты согласились с тем, что имитация отцом Джастином таинства исповеди была крайне неуместной.
Канту сказал: «Если у нас будет что-то вроде робота под видом священника, это может сбить людей с толку» в отношении того, что таинства должны совершаться лично. «То, что отец Джастин произносит формулу, не делает ее таинством», — сказал он.
Епископ предупредил, что чат-боты с искусственным интеллектом должны четко указывать на то, что они являются искусственным интеллектом. «Очень важно, чтобы мы были как можно более прозрачными ради людей, которых мы пытаемся направлять», — добавил Канту.
Даже Джастин, представляющийся светским богословом, является проблематичным. «Человек, который может быть невероятно сведущ в Писании и церковном учении, но не является верующим, не занимается богословием, потому что богословие начинается с веры», — сказал епископ.
Норин Херцфельд, профессор теологии и информатики в Университете Святого Иоанна и Колледже Святого Бенедикта и один из редакторов книги об ИИ, спонсированной ватиканским Управлением культуры и образования, сказала, что персонаж ИИ ранее «выдавал себя за священника, что в католицизме считается очень серьезным грехом».
Руководители не отрицают полезность ИИ при правильном использовании. Канту сказал, что ИИ может проделать «огромную работу» как «инструмент, который можно использовать во благо, для проведения исследований». Но, добавил он, «верующий человек, занимающийся богословием, должен оценивать достоверность каждого источника и его авторитетность».
Ларрей, который тесно сотрудничал с лидерами Ватикана и ИИ по этическим вопросам, связанным с ИИ, подчеркнул, что Папа Франциск заинтересован в «личностно-ориентированном ИИ», что означает, что ИИ должен использоваться «на благо людей», а «не во вред людям».
Лучшим примером использования ИИ для евангелизации, по словам Ларри, является Magisterium AI — чат-бот, разработанный Longbeard, фирмой по цифровой стратегии, основанной бывшим семинаристом по имени Мэтью Харви Сандерс, другом Ларри. Бот объясняет церковное учение в формате, подобном ChatGPT, опираясь на официальные церковные учения, а также на избранные труды, такие как работы Святого Августина и Святого Фомы Аквинского, давая ссылки на документы, которые легли в основу его ответа.
Ларрей отличает такие автоматизированные исследования от генеративного ИИ, который учится и экспериментирует с вновь обретенными знаниями. «Когда у Вас есть генеративный ИИ, если Вы не будете осторожны, он выйдет из-под контроля», — сказал он.
Проблемы с точностью, по словам Херцфельда, являются одной из многих причин, по которым его не следует использовать для евангелизации. «Сколько бы Вы ни тестировали чат-ботов, Вы никогда не избавитесь от галлюцинаций» — моментов, когда ИИ придумывает свои собственные ответы, — сказала она.
«Проблема на самом деле заложена в том, как они работают», — продолжает Херцфельд. «Они работают на статистике, на вероятности того, какие слова и фразы должны следовать за ними, и у них нет внутренних ментальных моделей мира. А без этого они всегда будут сбиваться с пути».
Херцфельд сказал, что ИИ хорош лишь настолько, насколько хороши данные, на которых он обучен. По ее словам, «я могу увидеть, как боты будут давать противоречивые ответы, например, по поводу целесообразности латинской мессы или роли женщин в церкви».
Херцфельд также выразила обеспокоенность тем, что люди, не разбирающиеся в технологиях, могут поверить, что компьютеры обладают «определенным уровнем непогрешимости», и она беспокоится, что обращение к ботам с искусственным интеллектом приведет к духовной «дезадаптации», убеждая молодых людей думать, что «религия — это только ответы».
«Когда я была в их возрасте, я была застенчивой, и если бы у меня был бот, который отвечал бы на мои вопросы, я бы обратилась к боту вместо того, чтобы пойти к своему пастору или даже к родителям, чтобы задать вопросы о религии», — сказала Херцфельд, добавив, что формирование отношений с ИИ вместо отношений с другими людьми или Богом может стать разновидностью идолопоклонства.
Ларрей, который изучает ИИ уже почти 30 лет и общается с Сэмом Альтманом, генеральным директором OpenAI, оптимистично настроен на то, что технология будет совершенствоваться. По его словам, Альтман уже добился прогресса в решении проблемы галлюцинаций, проблем с конфиденциальностью пользователей и снижении энергопотребления — недавний анализ показал, что к 2027 году искусственный интеллект может потреблять столько же электроэнергии, сколько население Аргентины или Нидерландов.
Ларрей понимает, что Catholic Answers’s Justin был создан для того, чтобы «привлечь людей, которые в противном случае не заинтересовались бы католической верой», но также считает, что чат-боты не должны соперничать с настоящими священниками. «Почему бы Вам просто не пойти в свой приход и не поговорить со священником? Они ведь не вымерли», — сказал он.
Для евангелизации, «я думаю, нужны люди, которые будут контактировать и привлекать других людей», — сказал Ларрей. «Мы никогда не отменим этот шаг».
Канту считает, что это главный урок, который можно извлечь из злополучного случая с отцом Джастином. «Вера — это не только ответы. Это не просто информация. Это встреча, личная встреча с Христом, с реальными людьми», — сказал он.
Подобно тому, как рядовым католикам следует проявлять осторожность при использовании искусственного интеллекта для евангелизации, Канту советует проявлять такую же осторожность священникам, которые могут обратиться к ChatGPT за помощью при написании своих гомилий.
Хотя предложение ИИ может стать хорошей отправной точкой для священников, которые «ограничены во времени», сказал Канту, священник должен сделать проповедь своей собственной.
«Когда любой человек в Церкви, верующий человек, выражает истину, в какой-то степени он открывает окно в разум Бога, потому что Бог есть истина». В конце концов, сказал епископ, «это должны быть мои слова и мой акт веры».
«Робот не сможет этого сделать, потому что это не акт веры.»
