Папа поставил, пожалуй, самый важный политический вопрос об искусственном интеллекте: кто будет контролировать будущий цифровой порядок и кому он будет служить? В то время как европейские правительства обсуждают ИИ преимущественно в технократическом или экономико-политическом контексте, Лев XIV в своей первой энциклике высказывает фундаментальную критику централизации власти, контроля над данными и цифрового неравенства. То есть заполняет пробел, который не заполняет демократическая политика.
Прошедшие недели и месяцы уже показали, что Лев XIV готов взять на себя эту роль. После публичного конфликта с президентом США Дональдом Трампом из-за войны в Иране Папа не боится идти на конфронтацию с технологической индустрией. В своей первой энциклике Magnifica Humanitas он не просто высказывается на тему ИИ, а ставит принципиальные вопросы о власти, контроле и социальной ответственности в цифровую эпоху.
В то время как Брюссель и Берлин удивляют своей сугубо оборонительной реакцией на многочисленные геополитические и технологические потрясения, Лев XIV поднимает вопрос о власти, не забывая о ценностях католической церкви. Прежде всего его интересует, кому служит эта технология и кто ее контролирует. Поэтому он последовательно сосредотачивается в своих размышлениях не на технике, а на людях. Это и есть тот пробел в немецком дискурсе, который пока не предлагает видения цифровых изменений без крайностей.
По мнению Папы, искусственный интеллект становится проявлением социальной и политической власти
Энциклика была подписана в 135-ю годовщину выхода энциклики Rerum novarum, которую написал Папа Лев XIII в конце XIX века, и дело не только в названии. Эта энциклика стала главным социально-этическим ответом на промышленную революцию и ее последствия для труда, капитала, бедности и единства общества. Тогда фабрики, машины и промышленные методы производства коренным образом изменили общество. Теперь то же самое делают данные, платформы и самообучающиеся системы. Лев XIV сознательно продолжает традицию. Он переносит основные убеждения католического социального учения в цифровое настоящее, одновременно дополняя их, например, принципом социальной справедливости. По мнению Папы, искусственный интеллект становится проявлением социальной и политической власти.
Эту энциклику можно считать вкладом в защиту и укрепление демократических процессов и политической ответственности. Раньше крупные инфраструктурные проекты обычно планировались на государственном уровне или, по крайней мере, за них несли явную политическую ответственность. Сегодня такие корпорации, как Google, Microsoft или Meta, обладают массивами данных, вычислительными мощностями и финансовыми ресурсами, значительно превосходящими возможности государства. Поэтому ИИ давно перестал быть чисто технологическим вопросом. Это уже вопрос власти.
Лев XIV формулирует это так: «Технологии могут лечить, объединять, обучать и защищать наш общий дом, но также разъединять, изолировать и порождать новые несправедливости». И далее: «Он [ИИ] сам по себе не является ни решением проблем человечества, ни злом. Но в конкретных ситуациях он не нейтрален, потому что приобретает черты тех, кто его разрабатывает, финансирует, регулирует и использует». Очевиден отказ от идеи технологической нейтральности. В то же время на презентации энциклики 25 мая непосредственно рядом с Папой сидел Кристофер Ола, известный представитель ИИ-отрасли, что вызвало раздражение. Свидетельствует ли это о возможности серьезного диалога между моральным авторитетом и технологической властью, пока сказать нельзя. В любом случае Ола дал понять, что считает саму технологическую отрасль неспособной разработать этику ИИ. Для этого, по его словам, нужна другая квалификация. Папа и Ола, бесспорно, одинаково критично относятся к нынешнему правительству США: компания Олы Anthropic отказалась (к большому сожалению президента Трампа) от сотрудничества в сфере автономных систем вооружения с использованием ИИ.
Примечательно, что произведение Льва XIV не является антитехнологическим. Прогресс оценивается исключительно положительно, но при одном условии: он должен служить человеческому достоинству, свободе и общему благу. Именно этим текст интересен не только для католической среды. Особенно очевидно это в контексте понятия собственности. Лев XIV пишет: «К благам, предназначенным для всех, мы сегодня должны отнести и новые формы собственности: патенты, алгоритмы, цифровые платформы, технологическую инфраструктуру, данные». То есть дискуссия переходит от рисков индивидуального использования к фундаментальному вопросу регуляторной политики: кто будет контролировать цифровые пространства? И какие правила там будут действовать?
Папа прямо связывает эти вопросы с христианским представлением о человеке. Тот, кто владеет данными, алгоритмами и капиталом, влияет на общественные возможности, коммуникацию и в конечном итоге на развитие человека. Последнее особенно важно для Льва XIV, он посвятил этому целую главу.
Германия, как и вся Европа, порой беспомощна в вопросе ИИ
Германия, как и вся Европа, порой беспомощна в вопросе ИИ. Если рассматривать ИИ исключительно как угрозу для собственной промышленности, то общественное мнение в итоге будут формировать крупные технологические концерны. Именно поэтому так важно, что Лев XIV поднимает вопросы, которые часто остаются без внимания в политических дебатах. Каким станет общество, если основную цифровую инфраструктуру будут контролировать несколько частных игроков? Какие демократические противовесы нужны, чтобы прогресс в технологиях не свелся к простому наращиванию экономической власти?
В энциклике отмечается: «Истина – общее достояние, а не собственность тех, кто обладает властью или популярностью». Из этого Лев XIV выводит требование к «экологии коммуникации». Имеется в виду такой общественный порядок, который обеспечивает прозрачность, защищает персональные данные и укрепляет демократические институты. К ним Папа относит, например, сильные посреднические органы (это должны быть не только партии, но и церкви!), серьезную журналистику, образовательную работу в семьях и школах. Школа должна стремиться не «догнать цифровой мир», а обеспечить «время для единения, обучения и надежных отношений». Правильная мысль, ведь многие демократии как раз пытаются ускориться и не могут.
В такой геополитической ситуации, когда авторитарные силы снова и снова пытаются посягать на многосторонность и правовой порядок, моральный голос Папы приобретает особое значение. При этом Лев XIV не выступает как политик, но формулирует политическую ориентацию. «Когда техника становится абсолютом, возникает риск, что человека будут рассматривать как винтик в машине или как товар», – пишет он. То есть он не разделяет мнение о безальтернативности технологических изменений.
Именно в этом заключается провокационность энциклики. Она не просто доказывает, что католическое социальное учение можно применить к современной цифровой эпохе. Прежде всего она показывает, насколько велик тот пробел, который не закрывает демократическая политика. Если именно Папа Римский четче, чем многие правительства, задает вопросы о том, кому служит ИИ, кому он принадлежит и кто его контролирует, то это не столько исключение для Церкви, сколько политический сигнал тревоги. Сама по себе технократическая политика не снимает вопроса о власти в контексте цифровизации.
