Несколько лет назад Мариана Маццукато и я задали простой вопрос: кто будет отвечать, если в мире искусственного интеллекта (ИИ) что-то пойдет не так? Этот вопрос остается без ответа, причем даже после того, как на прошлой неделе Совет Безопасности ООН собрался обсудить экзистенциальные риски, исходящие от ИИ.
На заседании присутствовали те самые главы технокомпаний, которые сейчас призывают поставить на паузу разработки ИИ, хотя одновременно спешат создать наиболее мощные системы в своей гонке по нисходящей. Единственным голосом, не представлявшим эту отрасль, оказался Йошуа Бенжио, сопредседатель Независимой международной научной группы по ИИ (IISPAI) и один из ведущих сторонников правил безопасности для ИИ. Были представители стран-членов, но никто не выступил от Глобального Юга или от гражданского общества, не дали слово ни одной женщине. Хотя последнее упущение можно было исправить, пригласив другого сопредседателя группы IISPAI – лауреата Нобелевской премии мира Марию Рессу.
Помимо этих проблематичных подходов, мандат Совета Безопасности (СБ ООН) на поддержание мира и безопасности не позволил провести более всестороннее обсуждение всех угроз, которые могут исходить от ИИ. Многие члены отмечали, что СБ ООН не должен вторгаться в зону ответственности других агентств ООН, которые тоже занимаются этим вопросом. Как говорится, когда руководят все, не руководит никто.
ИИ усугубляет существующее неравенство из-за алгоритмической дискриминации и неравенства доступа к технологиям, капиталу, вычислительным мощностям
Совет Безопасности не стал обсуждать социальные, экономические и трудовые последствия внедрения ИИ, хотя они уже влияют на жизнь людей и могут быть так же серьезны, как и утрата контроля над ИИ-агентами. ИИ усугубляет существующее неравенство из-за алгоритмической дискриминации и неравенства доступа к технологиям, капиталу, вычислительным мощностям. По данным исследования Владимира Шухи, ИИ угрожает заменить человеческое суждение и агентность, одновременно ослабляя наши когнитивные и эмоциональные навыки, способность к общению. ИИ также влияет на психическое здоровье молодежи и на уровень насилия, с которым сталкиваются женщины в онлайне. Это задокументировано в докладе «Все на борьбу с гендерным насилием» (All In), который мы представили Генеральной Ассамблее ООН.
На заседании СБ ООН уделялось непропорционально много внимания самим технологиям и тому, как их можно исправить. Этот акцент не позволяет нам заняться политическими и экономическими структурами, которые лежат в основе многих из возникших проблем. Десятилетия безудержной глобализации задолго до появления ИИ начали отдавать предпочтение капиталу, а не труду, концентрируя доходы и богатство наверху и лишая большинство остальных экономической защиты.
Из-за принципа невмешательства в работу мировых рынков страны с низкими доходами остаются экономически уязвимы, при этом возникли немногочисленные компании стоимостью в триллионы долларов, а также гигантские частные состояния. Этот принцип формирует политэкономические факторы сопротивления реформам, особенно в США. Соглашение ОЭСР 2021 года о введении глобального минимального налога на прибыль в размере 15 процентов стало важным шагом в правильном направлении, но эти усилия обернулись провалом, когда президент Дональд Трамп, сразу же после возвращения в Белый дом, вывел США из этого соглашения, позволив техногигантам становиться богаче и могущественнее. Именно в этой политэкономической ситуации появился ИИ.
На заседании в ООН следовало рассмотреть предложение Финляндии, Норвегии и более 20 других стран о введении единых протоколов безопасности, обязательной оценке рисков перед релизом ИИ-моделей, независимых экспертизах, создании международного агентства по надзору за передовым ИИ.
Правительства умеют действовать быстро, когда хотят
Правительства умеют действовать быстро, когда хотят. Я убедилась в этом лично за годы работы в ОЭСР в качестве руководителя аппарата и как «шерпа» в «Большой двадцатке». Когда случались кризисы, страны-члены не тратили годы на согласование пространных коммюнике или на ожидание идеальной институциональной ситуации. Они фокусировали внимание на актуальной проблеме и на том, что именно должна делать новая организация. Международное энергетическое агентство было оперативно создано после нефтяных шоков 1970-х, а Группа разработки финансовых мер (ФАТФ) была учреждена в 1989 году для борьбы с отмыванием денег. Позднее в ОЭСР появилась «Инклюзивная рамочная программа по борьбе с размыванием налоговой базы и выводом прибыли» (BEPS), которая объединила страны на борьбу с уклонением от корпоративных налогов, в частности, путем введения минимальной ставки 15%.
Такие же подходы мы должны применить к ИИ. Нам следует не вязнуть в процедурах, а начать с определения, чем именно должно заниматься международное ИИ-агентство, а затем обеспечить его необходимыми для этой деятельности экспертными знаниями и бюджетом. Тем самым мы сможем ответить на претензию, предъявленную советником Белого дома по науке и технологиям Майклом Крациосом, заявившим Совету Безопасности ООН: «Вы не можете регулировать технологию, которую не понимаете».
Финско-норвежское предложение предполагает создание международной организации, способной устанавливать стандарты и координировать коллективный ответ, когда ИИ-системы пересекают опасный порог возможностей. Оно также предполагает создание механизмов независимой оценки. Впрочем, стоит пойти дальше, создав обязательные реестры рисков и чрезвычайные механизмы, схожие с теми, что США и Китай, как сообщается, уже обсуждают. При оценке рисков надо учитывать и влияние ИИ на людей.
Чтобы эти планы сработали, новой организации потребуется независимый технический орган. Например, подобный орган, обслуживающий Конвенцию ОЭСР по борьбе с подкупом, готовит оценки стран, одобряемые по правилу «консенсус минус один». Страны могут по-разному определять глобальные антикоррупционные стандарты в соответствии со своими правовыми традициями, но принцип «функциональной эквивалентности» помогает гарантировать, что разные правовые подходы обеспечивают сопоставимые результаты. Новой организации надо будет также сотрудничать с другими международными учреждениями, гарантируя, что ИИ помогает человеческому развитию.
Остается вопрос, кто будет представлять страны-члены в новой международной организации по ИИ. Базельский комитет по банковскому надзору функционирует потому, что объединяет должностных лиц с примерно схожими мандатами и обязанностями. В сфере ИИ такого эквивалента нет. Лишь в немногих странах есть министерство по вопросам ИИ, а там, где оно есть, у него нет полномочий расследовать или наказывать за неподобающее рыночное поведение. Пока мы не создадим необходимые институты на национальном и международном уровнях, наш изначальный вопрос «Кто ответит, когда что-то пойдет не так?» будет оставаться открытым, подвергая мир невообразимым рискам.
(с) Project Syndicate 2026
