Коли на початку холодної війни між США та Радянським Союзом точилася безжальна гонка озброєнь, вони розглядали ядерні технології як інструмент «м’якої сили» й дипломатії, як те, чим можна ділитися, що можна експортувати, зміцнюючи союз і демонструючи дружні відносини.
За президентства Дуайта Ейзенхауера у США започаткували історичну ініціативу – програму «Атом заради миру», що сприяла розвитку цивільних ядерних програм у всьому світі. Того ж року за передачу атомних таємниць Радянському Союзу стратили подружжя Розенбергів. Радянський Союз, у свою чергу, експортував різні форми ядерної енергетики до країн Східного блоку та Китаю часів Мао Цзедуна. Метою таких дій було поширення нової технології із збереженням при цьому контролю над зброєю, причому до цих двох форм ядерної потужності застосовувалися дуже різні підходи.
Я нагадую про ці події для того, щоб пояснити відмінності між американським і китайським підходами до штучного інтелекту (ШІ). США ставляться до ШІ так, наче сучасні моделі, потенційно маючи надзвичайну руйнівну силу, здатні стати аналогом ядерної зброї, а отже, потребують ретельного та постійного контролю. Магнати штучного інтелекту США висловлюються так, ніби є учасниками гонки в дусі Оппенгеймера (включно з його внутрішніми моральними суперечностями), а військово-промисловий комплекс налаштований не дозволити Китаю подолати нинішній розрив у сфері ШІ. І промисловість, і уряд дедалі частіше розглядають передові моделі ШІ як неабияку безпекову загрозу.
США ставляться до ШІ так, наче сучасні моделі, потенційно маючи надзвичайну руйнівну силу, здатні стати аналогом ядерної зброї
Тим часом Китай вважає моделі, що їх розробляють китайські компанії, аналогом ядерної енергетики, себто технологією, яка не є дуже небезпечною і яку варто поширювати та комерціалізувати для завоювання прихильності, посилення впливу та послаблення переваг американських моделей ШІ. На словах Китай визнає серйозність ризиків і безпеки, проте не усвідомлює, що ШІ – це унікальна сила, яку варто притримати як геополітичний козир або зброю, від якої залежить існування країни.
Певний час (кілька місяців насправді, хоча в масштабах ШІ це – ціла вічність) я міркував, наскільки щирою є позиція Китаю. Оскільки китайські компанії та моделі відстають від Anthropic та OpenAI, Пекін, очевидно, має стимули використовувати відкрите програмне забезпечення, щоб зменшити обсяг прибутків і вплив Кремнієвої долини, дозволяючи при цьому Вашингтону врахувати ризики, які можуть бути пов’язані з найсучаснішими моделями. Якби Китай нас випередив, думав я, ці мотиви могли б змінитися, і він міг би спробувати закрити доступ до своїх найкращих моделей та перетворити їх на зброю, розглядаючи як державні таємниці та активи.
Китайської моделі, яка б перевершила американську, поки немає, проте нещодавно з’явилася модель, яка, можливо, наблизиться до цього рівня, а саме Kimi K3 від китайської компанії Moonshot AI. Наразі Пекін ставиться до Kimi K3 так само, як і до попередніх моделей, а це означає, що вона буде відкритою до максимального поширення, без властивих США побоювань стосовно ризиків, обмежувальних заходів і контролю.
Таке рішення додає впевненості в тому, що підхід Пекіна все ж є щирим. Воно свідчить про те, що китайці не просто відкидають утопічні та антиутопічні сценарії, поширені в Кремнієвій долині, де, перетнувши певну межу, ШІ змінить світ. Можливо, вони не «схильні вірити в ризики» й не переймаються небезпеками, які можуть створювати сучасні моделі ШІ через здатність зламувати та виводити з ладу складні системи, допомагати терористам створювати біологічну зброю, а також через невизначені ризики, пов’язані з його неконтрольованою поведінкою.
Китай готовий залишати Америці турботу про безпеку та суверенітет
Американські компанії, які займаються штучним інтелектом, та органи національної безпеки, схоже, виходять з того, що ми вже досягли етапу, коли не можна дозволяти світові використовувати найкращі моделі ШІ без контролю та захисних механізмів так само, як не можна спрямовувати ядерні бомби чи міжконтинентальні балістичні ракети на випадкові домівки чи приватні компанії.
Натомість Китай готовий зневажливо ставитися до цього, розширювати межі можливого і залишати Америці турботу про безпеку та суверенітет, виходячи з припущення, що ШІ – це звичайна технологія, а питання безпеки вирішуватимуться в процесі її розвитку.
Якщо мислити більш цинічними категоріями, то Китай, можливо, грає в подвійну гру. Якщо ШІ створює лише помірні ризики і не є стратегічною міццю, то їхні моделі з відкритим кодом – найкращий спосіб послабити вплив США й змусити світ більше симпатизувати Китаю, ніж Америці. З іншого боку, якщо станеться щось на кшталт «Чорнобиля ШІ» через те, що хтось неправильно застосує китайську модель, то наслідки та суспільна негативна реакція, найімовірніше, зашкодять саме компаніям у США, адже американська громадськість вельми скептично ставиться до ШІ та готова до введення мораторію на роботу центрів обробки даних.
Невідомо, як це вплине на рух за безпеку ШІ, що значною мірою відповідає за формування такої регуляторної налаштованості. Рух за безпеку ШІ розвивався в США за кількома напрямами, скориставшись ворожістю прогресивних лівих до Кремнієвої долини, занепокоєнням Пентагону щодо потужності моделей, які контролюються приватними структурами, та наявністю внутрішньої культури скептичного ставлення до розвитку ШІ.
Ті, хто прагне ввести обмеження, не повинні сповільнювати американський прогрес, якщо Китай вважає, що грає у відмінну гру.
Переклад з англійської Ірини Савюк
