Кілька років тому Маріана Маццукато та я поставили просте запитання: хто відповідатиме, якщо у світі штучного інтелекту (ШІ) щось піде не так? Це запитання залишається без відповіді, причому навіть після того, як минулого тижня Рада Безпеки ООН зібралася, щоб обговорити екзистенційні ризики, пов’язані з ШІ.

На засіданні були присутні ті самі керівники технологічних компаній, які зараз закликають призупинити розробки ШІ, хоча водночас поспішають створити найпотужніші системи у своїй гонці донизу. Єдиним голосом, що не представляв цю галузь, виявився Йошуа Бенджіо, співголова Незалежної міжнародної наукової групи з ШІ (IISPAI) та один із провідних прихильників правил безпеки для ШІ. Були представники країн-членів, але ніхто не виступив від імені Глобального Півдня чи громадянського суспільства, не надали слова жодній жінці. Хоча останнє упущення можна було виправити, запросивши іншу співголову групи IISPAI — лауреатку Нобелівської премії миру Марію Рессу.

Окрім цих проблематичних підходів, мандат Ради Безпеки (РБ ООН) щодо підтримання миру та безпеки не дав змоги провести більш всебічне обговорення всіх загроз, які можуть виходити від ШІ. Багато членів зазначали, що РБ ООН не повинна втручатися у сферу відповідальності інших агентств ООН, які також займаються цим питанням. Як то кажуть, коли керують усі, не керує ніхто.

ШІ поглиблює існуючу нерівність через алгоритмічну дискримінацію та нерівний доступ до технологій, капіталу, обчислювальних потужностей

Рада Безпеки не стала обговорювати соціальні, економічні та трудові наслідки впровадження ШІ, хоча вони вже впливають на життя людей і можуть бути настільки ж серйозними, як і втрата контролю над ШІ-агентами. ШІ поглиблює існуючу нерівність через алгоритмічну дискримінацію та нерівність доступу до технологій, капіталу, обчислювальних потужностей. За даними дослідження Володимира Шухи, ШІ загрожує замінити людське судження та агентність, одночасно послаблюючи наші когнітивні та емоційні навички, здатність до спілкування. ШІ також впливає на психічне здоров’я молоді та на рівень насильства, з яким стикаються жінки в інтернеті. Це задокументовано у доповіді «Усі на боротьбу з гендерним насильством» (All In), яку ми представили Генеральній Асамблеї ООН.

На засіданні РБ ООН приділялося непропорційно багато уваги самим технологіям та тому, як їх можна вдосконалити. Цей акцент не дає нам змоги зосередитися на політичних та економічних структурах, які лежать в основі багатьох проблем, що виникли. Десятиліття нестримної глобалізації задовго до появи ШІ почали віддавати перевагу капіталу, а не праці, концентруючи доходи та багатство у верхівці та позбавляючи більшість інших економічного захисту.

Через принцип невтручання у функціонування світових ринків країни з низькими доходами залишаються економічно вразливими, при цьому з’явилися нечисленні компанії вартістю в трильйони доларів, а також гігантські приватні статки. Цей принцип формує політекономічні чинники опору реформам, особливо в США. Угода ОЕСР 2021 року про запровадження глобального мінімального податку на прибуток у розмірі 15 відсотків стала важливим кроком у правильному напрямку, але ці зусилля зазнали краху, коли президент Дональд Трамп, одразу ж після повернення до Білого дому, вивів США з цієї угоди, дозволивши технологічним гігантам ставати багатшими й могутнішими. Саме в цій політекономічній ситуації з’явився ШІ.

На засіданні в ООН слід було розглянути пропозицію Фінляндії, Норвегії та більше ніж 20 інших країн щодо запровадження єдиних протоколів безпеки, обов’язкової оцінки ризиків перед випуском моделей штучного інтелекту, незалежних експертиз та створення міжнародного агентства з нагляду за передовими технологіями штучного інтелекту.

Уряди вміють діяти швидко, коли хочуть

Уряди вміють діяти швидко, коли хочуть. Я переконалася в цьому особисто за роки роботи в ОЕСР на посаді керівниці апарату та в якості «шерпи» у «Великій двадцятці». Коли траплялися кризи, країни-члени не витрачали роки на узгодження розлогих комюніке чи на очікування ідеальної інституційної ситуації. Вони зосереджували увагу на актуальній проблемі та на тому, що саме має робити нова організація. Міжнародне енергетичне агентство було оперативно створено після нафтових шоків 1970-х, а Група розробки фінансових заходів (ФАТФ) була заснована в 1989 році для боротьби з відмиванням грошей. Пізніше в ОЕСР з’явилася «Інклюзивна рамкова програма щодо боротьби з розмиванням податкової бази та виведенням прибутку» (BEPS), яка об’єднала країни у боротьбі з ухиленням від сплати корпоративних податків, зокрема, шляхом запровадження мінімальної ставки 15 відсотків.

Такі самі підходи ми маємо застосувати до ШІ. Нам слід не застрягати в процедурах, а почати з визначення того, чим саме має займатися міжнародне агентство з питань ШІ, а потім забезпечити його необхідними для цієї діяльності експертними знаннями та бюджетом. Тим самим ми зможемо відповісти на закид, висунутий радником Білого дому з питань науки та технологій Майклом Краціосом, який заявив Раді Безпеки ООН: «Ви не можете регулювати технологію, яку не розумієте».

Фінсько-норвезька пропозиція передбачає створення міжнародної організації, здатної встановлювати стандарти та координувати колективну реакцію, коли системи ШІ перетинають небезпечний поріг можливостей. Вона також передбачає створення механізмів незалежної оцінки. Втім, варто піти далі, створивши обов’язкові реєстри ризиків та надзвичайні механізми, схожі на ті, що, як повідомляється, вже обговорюють США та Китай. При оцінці ризиків слід враховувати й вплив ШІ на людей.

Щоб ці плани спрацювали, новій організації знадобиться незалежний технічний орган. Наприклад, подібний орган обслуговує Конвенцію ОЕСР щодо боротьби з підкупом, готує оцінки країн, які схвалюються за правилом «консенсус мінус один». Країни можуть по-різному визначати глобальні антикорупційні стандарти відповідно до своїх правових традицій, але принцип «функціональної еквівалентності» допомагає гарантувати, що різні правові підходи забезпечують порівнянні результати. Новій організації доведеться також співпрацювати з іншими міжнародними організаціями, гарантуючи, що ШІ сприяє розвитку людства.

Залишається питання, хто представлятиме країни-члени в новій міжнародній організації з питань ШІ. Базельський комітет з банківського нагляду функціонує тому, що об’єднує посадових осіб із приблизно схожими повноваженнями та обов’язками. У сфері ШІ такого еквівалента немає. Лише в кількох країнах є міністерство з питань ШІ, а там, де воно є, воно не має повноважень розслідувати або карати за неналежну ринкову поведінку. Поки ми не створимо необхідні інститути на національному та міжнародному рівнях, наше початкове запитання «Хто відповість, коли щось піде не так?» залишатиметься відкритим, наражаючи світ на неймовірні ризики.

(с) Project Syndicate 2026