Папа римский Лев XIV лично представил свою первую энциклику - 235-страничный документ о защите человека в эпоху ИИ, который представляет собой новую редакцию всей социальной доктрины католицизма для цифровой эпохи. Что там написано? Рядом с кардиналами сидел Кристофер Ола, сооснователь Anthropic, и Папа пожал ему руку. Что за этим стоит? Это мудрое делегирование этического регулирования ИИ во внешний контур или опасное заигрывание со “скрепами”? Сегодня ты просишь у них этического наставления, а завтра они уже лицензируют твои модели на соответствие традиционным ценностям. И, наконец, причем здесь Майкл Корлеоне?

Официального утверждённого русского перевода названия Magnifica humanitas, похоже, нет, но по контексту энциклики humanitas используется не в смысле человечества как совокупности людей, а в классическом христианском смысле: “человеческое”, “человечность”, словом, как культурно-нравственное достоинство человека. То есть в целом, вместе с подзаголовком получается: «О величии человеческого: к защите человеческой личности в эпоху искусственного интеллекта».

О чем эта энциклика

Энциклика Magnifica Humanitas - не просто «мнение Церкви об ИИ». Это переиздание всей социальной доктрины католицизма для цифровой эпохи. Лев XIV встраивает ИИ в линию энциклик, которая идёт с XIX в. к сегодняшнему дню. Документ подписан 15 мая - ровно в 135-ю годовщину Rerum Novarum. Символизм намеренный: тогда - фабрики, сейчас - нейросети, вопрос тот же - что происходит с человеком, когда технология перестраивает экономику.

Краткий пересказ энциклики на русском языке есть на сайте Vatican News: ссылка.

Выбор, который Лев XIV формулирует: технология как инструмент автономии человека от Бога и от собственной природы (Вавилонская башня как проект преодоления собственной слабости через технику) - или технология, встроенная в порядок, где человеческая ограниченность признаётся, а не устраняется (метафора града, где смогут обитать вместе Бог и человечество). Документ явно противопоставляет себя трансгуманизму и постгуманизму как ложным обещаниям, попытке устранить человеческую слабость вместо того, чтобы с ней работать.

Далее выделяются пять принципов социальной доктрины Церкви. Первый – общее благо, второй - технология не должна быть в руках у немногих, третий – субсидиарность, требующая преодоления патернализма и иждивенчества в пользу совместной ответственности, четвёртый – солидарность, противостоящая безразличию. Пятый принцип – социальная справедливость.

При чём тут Anthropic

На обнародовании энциклики соучредитель Anthropic Кристофер Олах (Cristopher Olah) оказался сидящим рядом с Понтификом и кардиналами в Синодальном зале. Олах — руководитель исследований по интерпретируемости. Его работа - буквально заглядывать внутрь нейросетей и пытаться понять, что там происходит. Он идеально подходит для речей о непрозрачности технологической власти, которую критикует энциклика. Но контекст шире. Anthropic сейчас в открытом конфликте с администрацией Трампа - компания запретила использование своих технологий в военных операциях. Ватиканская сцена - идеальная площадка, чтобы показать: мы не просто бизнес, мы за людей, вот нас Папа пригласил. Ватикан тоже получает своё — пригласить сооснователя самой передовой лаборатории ИИ в мире значит показать, что Церковь ведёт диалог с теми, кто создаёт технологии, а не комментирует их из высокой башни. Это взаимная легитимация: моральный капитал в обмен на техническую серьёзность.

Что сказал Олах. Католическая “скрепность”

Его речь интереснее, чем можно было ожидать. Олах признал, что всякая передовая лаборатория ИИ, включая Anthropic, работает внутри системы стимулов (очевидно, экономических) и ограничений, которые иногда вступают в конфликт с интересами общества. Соответственно, нужны инстанции и люди, которые не зависят от этих стимулов и могут исполнять роль независимого морального авторитета, и, дескать, Церковь для этого подходит. Олах буквально предлагает Церкви занять вакансию внешнего критика в системе управления ИИ. Не партнёра, не советника, а критика, который, если что, скажет: «Ребята, стоп! Вы пошли не тем путём».

Он называет три области, где опыт и голос Церкви в различении (discernment) добра и зла нужнее всего. Во-первых, ИИ может массово вытеснить рабочие места с рынка, и поддержка пострадавших станет “моральным императивом исторического масштаба”. Но Олах считает, что основная проблема даже не в этом — разработка ИИ сконцентрирована в нескольких богатых странах, а механизма глобального распределения выгод не существует. Во-вторых, (и я бы это назвал “проблемой новой утопии”): если ИИ-модели станут повсеместными, как должна выглядеть достойная жизнь для людей, семей, общества? Родители с тревогой смотрят в будущее своих детей, ведомых алгоритмами, работники тревожатся о будущем своего труда. И это - не те вопросы, на которые может дать ответы ИИ-компания, ничтоже сумняшеся говорит Anthropic. А вот церковная традиция за два тысячелетия навострилась давать такие ответы.

И третье: Олах упомянул, что исследователи обнаруживают у моделей загадочные и даже тревожные «свидетельства интроспекции» и «внутренние состояния, функционально похожие на радость, страх, горе». «Я не знаю, что это значит, — сказал Олах, — но это заслуживает постоянного различения (ongoing discernment)».

Олах неоднократно произносит “discernment” - и это важный языковой жест. “Discernment” – устойчивый термин в католической духовной традиции, означающий непрерывное духовное распознавание божественной воли в изменяющихся обстоятельствах жизни. У иезуитов discernment понимается как постоянная практика интерпретации внутренних движений души, аффектов, мотивации, жизненных ситуаций и «знаков» действия благодати. В отличии от секулярной интроспекции или рефлексии, это – практика различения того, что исходит от Бога, а что — нет.

Сегодня такое делегирование морального суждения пасторской власти – это десубъективация и регресс к тому состоянию, когда практический разум считался недостаточным инструментом для этического различения. Согласно христианской теологии, наша внутренняя жизнь – это поле битвы сверхъестественных сил добра и зла, различение которых не под силу простым смертным. Для этого нужно руководство со стороны пастыря – того, кто имеет представление о божественной воле. Откровенно говоря, сложно себе представить, что нет никакого лицемерия в идее Anthropic добровольно передать функции морального арбитража клирикам.

Так или иначе, атеист Олах использует язык церкви в зале, где этот термин звучит как дома. Мои комплименты спичрайтерам.

В этом “заходе” Anthropic’а в Ватикан бросается в глаза структурная и символическая параллель со схематозом Майкла Корлеоне в “Крестном отце – 3”. Майкл понимает: деньги решают не всё, нужно получить политическую и моральную легитимность. Связь с Ватиканом должна придать семье респектабельность, встроить её в глобальный порядок власти, обеспечить своего рода секулярную «индульгенцию». Так действует и Anthropic, разговаривая на языке Церкви, позиционируя себя как этическую AI-компанию, ориентированную на человекоцентричность, безопасность, применяя моральный дискурс для собственной легитимации. В конце концов, власть тем эффективнее, чем больше она выглядит как забота о пастве. Это не обязательно лицемерие, но то, что этика становится инструментом корпоративной стратегии, тоже отрицать невозможно.

Зачем это Ватикану

Ватикан выстраивает позицию в пространстве регулирования ИИ с 2020 года, с инициативы Rome Call for AI Ethics, к которой тогда присоединились Microsoft, IBM и др. Magnifica Humanitas - следующий уровень: не призыв корпораций к этике, а социальная доктрина, обращённая к 1.3 миллиарда католиков. Ни один закон об ИИ не покрывает такую аудиторию.

Государства оперируют через комплаенс и штрафы. Корпорации - через самоуправление. Ватикан предлагает рамку, которая работает через формирование этического отношения: католик в Бразилии, Конго или на Филиппинах, прочитавший энциклику (или услышавший проповедь по её мотивам), меняет свою личную позицию по поводу ИИ на работе, в школе, в социальной сфере. Не в результате работы законодателей, а через моральную оценку технологии. Это мощная “мягкая сила”.