Папа поставив, мабуть, найважливіше політичне питання про штучний інтелект: хто контролюватиме майбутній цифровий порядок і кому він служитиме? В той час як європейські уряди обговорюють ШІ переважно в технократичному або економіко-політичному контексті, Лев XIV в своїй першій енцикліці висловлює фундаментальну критику централізації влади, контролю над даними та цифрової нерівності. Тобто заповнює прогалину, яку не заповнює демократична політика.

Минулі тижні й місяці вже показали, що Лев XIV готовий брати на себе цю роль. Після публічного конфлікту з президентом США Дональдом Трампом через війну в Ірані Папа не боїться йти на конфронтацію з технологічною індустрією. В своїй першій енцикліці Magnifica Humanitas він не просто висловлюється на тему ШІ, а ставить принципові питання про владу, контроль і соціальну відповідальність в цифрову епоху.

В той час як Брюссель і Берлін дивують своєю суто захисною реакцією на численні геополітичні й технологічні потрясіння, Лев XIV порушує питання влади, не забуваючи про цінності католицької церкви. Насамперед його цікавить, кому служить ця технологія і хто її контролює. Тому він послідовно зосереджується в своїх роздумах не на техніці, а на людях. Це і є та прогалина в німецькому дискурсі, який поки не пропонує бачення цифрових змін без крайнощів.

На думку Папи, штучний інтелект стає проявом соціальної і політичної влади

Енцикліку було підписано в 135-ту річницю виходу енцикліки Rerum novarum, яку написав Папа Лев XIII наприкінці XIX століття, і річ не тільки в назві. Та енцикліка стала головною соціально-етичною відповіддю на промислову революцію і її наслідки для праці, капіталу, бідності та єдності суспільства. Тоді фабрики, машини й промислові методи виробництва докорінно змінили суспільство. Тепер те саме роблять дані, платформи й самонавчальні системи. Лев XIV свідомо продовжує традицію. Він переносить основні переконання католицького соціального вчення на цифрове сьогодення, водночас доповнюючи їх, наприклад, принципом соціальної справедливості. На думку Папи, штучний інтелект стає проявом соціальної і політичної влади.

Цю енцикліку можна вважати внеском в захист і зміцнення демократичних процесів і політичної відповідальності. Раніше великі інфраструктурні проєкти зазвичай планувалися на державному рівні або, принаймні, за них несли очевидну політичну відповідальність. Нині такі корпорації, як Google, Microsoft або Meta, володіють масивами даних, обчислювальними потужностями та фінансовими ресурсами, значно більшими за можливості держави. Тому ШІ давно перестав бути суто технологічним питанням. Це вже питання влади.

Лев XIV формулює так: «Технології можуть лікувати, об’єднувати, навчати та захищати наш спільний дім, але також роз’єднувати, ізолювати та породжувати нові несправедливості». І далі: «Він [ШІ] сам по собі не є ні рішенням проблем людства, ні злом. Але в конкретних ситуаціях він не нейтральний, бо набуває рис тих, хто його розробляє, фінансує, регулює і використовує». Очевидна відмова від ідеї технологічної нейтральності. Водночас на презентації енцикліки 25 травня безпосередньо поруч з Папою сидів Крістофер Ола, відомий представник ШІ-галузі, що викликало роздратування. Чи свідчить це про можливість серйозного діалогу між моральним авторитетом і технологічною владою, поки не можна сказати. В будь-якому разі Ола дав зрозуміти, що вважає саму технологічну галузь нездатною розробити етику ШІ. Для цього, з його слів, потрібна інша кваліфікація. Папа й Ола, безперечно, однаково критично ставляться до нинішнього уряду США: компанія Оли Anthropic відмовилася (на превеликий жаль президента Трампа) від співпраці в сфері автономних систем озброєння з використанням ШІ.

Прикметно, що твір Лева XIV не є антитехнологічним. Прогрес оцінюється виключно позитивно, але за однієї умови: він має служити людській гідності, свободі й загальному благу. Саме цим текст цікавий не лише для католицького середовища. Особливо очевидно це в контексті поняття власності. Лев XIV пише: «До благ, що призначені для всіх, ми нині маємо зарахувати й нові форми власності: патенти, алгоритми, цифрові платформи, технологічну інфраструктуру, дані». Тобто дискусія переходить від ризиків індивідуального використання до фундаментального питання регуляторної політики: хто контролюватиме цифрові простори? І які правила там діятимуть?

Папа прямо пов’язує ці питання з християнським уявленням про людину. Той, хто володіє даними, алгоритмами й капіталом, впливає на суспільні можливості, комунікацію і врешті на розвиток людини. Останнє особливо важливо для Лева XIV, він присвятив цьому цілий розділ.

Німеччина, як і вся Європа, часом безпорадна в питанні ШІ

Німеччина, як і вся Європа, часом безпорадна в питанні ШІ. Якщо розглядати ШІ виключно як загрозу для власної промисловості, то громадську думку в результаті формуватимуть великі технологічні концерни. Саме тому так важливо, що Лев XIV порушує питання, які часто залишаються поза увагою в політичних дебатах. Яким стане суспільство, якщо основну цифрову інфраструктуру контролюватимуть кілька приватних гравців? Які демократичні противаги потрібні, щоб прогрес в технологіях не звівся до простого нарощування економічної влади?

В енцикліці зазначено: «Істина – cпільне надбання, а не власність тих, хто має владу чи популярність». З цього Лев XIV виводить вимогу до «екології комунікації». Мається на увазі такий суспільний порядок, що забезпечує прозорість, захищає персональні дані та зміцнює демократичні інституції. До них Папа відносить, наприклад, сильні посередницькі органи (це мають бути не тільки партії, а й церкви!), серйозну журналістику, освітню роботу в сім’ях і школах. Школа має старатися не «наздогнати цифровий світ», а забезпечити «час для єднання, навчання і надійних стосунків». Слушна думка, адже багато демократій якраз намагаються прискоритись і не можуть.

В такій геополітичній ситуації, коли авторитарні сили знову й знову пробують наступати на багатосторонність і правовий порядок, моральний голос Папи набуває особливо великого значення. При цьому Лев XIV не виступає як політик, але формулює політичну орієнтацію. «Коли техніка стає абсолютом, виникає ризик, що людину розглядатимуть як гвинтик в машині або як товар», – пише він. Тобто він не поділяє думку про безальтернативність технологічних змін.

Саме в цьому полягає провокативність енцикліки. Вона не просто доводить, що католицьке соціальне вчення можна застосувати до сучасної цифрової епохи. Передусім вона показує, наскільки велика та прогалина, яку не закриває демократична політика. Якщо саме Папа Римський чіткіше за багато урядів питає, кому служить ШІ, кому він належить і хто його контролює, то це не стільки виняток для Церкви, скільки політичний сигнал тривоги. Сама лише технократична політика не знімає питання влади в контексті цифровізації.

Переклад з німецької Дар’ї Прусенко