Когда в начале холодной войны между США и Советским Союзом шла безжалостная гонка вооружений, они рассматривали ядерные технологии как инструмент «мягкой силы» и дипломатии, как то, чем можно делиться, что можно экспортировать, укрепляя союз и демонстрируя дружеские отношения.
При президентстве Дуайта Эйзенхауэра в США была запущена историческая инициатива – программа «Атом ради мира», способствовавшая развитию гражданских ядерных программ во всем мире. В том же году за передачу атомных секретов Советскому Союзу были казнены супруги Розенберги. СССР, в свою очередь, экспортировал различные формы ядерной энергетики в страны Восточного блока и Китай времен Мао Цзэдуна. Целью таких действий было распространение новой технологии при сохранении при этом контроля над оружием, причем к этим двум формам ядерной мощи применялись очень разные подходы.
Я напоминаю об этих событиях, чтобы объяснить различия между американским и китайским подходами к искусственному интеллекту (ИИ). США относятся к ИИ так, как будто современные модели, потенциально обладающие чрезвычайно разрушительной силой, способны стать аналогом ядерного оружия и, следовательно, требуют тщательного и постоянного контроля. Магнаты искусственного интеллекта США высказываются так, будто являются участниками гонки в духе Оппенгеймера (включая его внутренние моральные противоречия), а военно-промышленный комплекс настроен не позволить Китаю преодолеть нынешний разрыв в сфере ИИ. И промышленность, и правительство все чаще рассматривают передовые модели ИИ как серьезную угрозу безопасности.
США относятся к ИИ так, будто современные модели, потенциально обладающие чрезвычайно разрушительной силой, способны стать аналогом ядерного оружия
Между тем Китай считает модели, разрабатываемые китайскими компаниями, аналогом ядерной энергетики, то есть технологией, которая не представляет большой опасности и которую следует распространять и коммерциализировать для завоевания симпатий, усиления влияния и ослабления преимуществ американских моделей ИИ. На словах Китай признает серьезность рисков и вопросов безопасности, однако не осознает, что ИИ – это уникальная сила, которую следует придержать в качестве геополитического козыря или оружия, от которого зависит существование страны.
Некоторое время (на самом деле несколько месяцев, хотя в масштабах ИИ это – целая вечность) я размышлял, насколько искренна позиция Китая. Поскольку китайские компании и модели отстают от Anthropic и OpenAI, у Пекина, очевидно, есть стимулы использовать открытое программное обеспечение, чтобы уменьшить прибыль и влияние Кремниевой долины, позволяя при этом Вашингтону учесть риски, которые могут быть связаны с самыми современными моделями. Если бы Китай нас опередил, думал я, эти мотивы могли бы измениться, и он мог бы попытаться закрыть доступ к своим лучшим моделям и превратить их в оружие, рассматривая как государственные секреты и активы.
Китайской модели, которая превзошла бы американскую, пока нет, но недавно появилась модель, которая, возможно, приблизится к этому уровню, а именно Kimi K3 от китайской компании Moonshot AI. В настоящее время Пекин относится к Kimi K3 так же, как и к предыдущим моделям, а это означает, что она будет открыта для максимального распространения, без присущих США опасений относительно рисков, ограничительных мер и контроля.
Такое решение укрепляет уверенность в том, что подход Пекина все же искренен. Оно свидетельствует о том, что китайцы не просто отвергают утопические и антиутопические сценарии, распространенные в Кремниевой долине, где, перейдя определенную грань, ИИ изменит мир. Возможно, они не «склонны верить в риски» и не беспокоятся об опасностях, которые могут создавать современные модели ИИ из-за способности взламывать и выводить из строя сложные системы, помогать террористам создавать биологическое оружие, а также из-за неопределенных рисков, связанных с его неконтролируемым поведением.
Китай готов оставить Америке заботу о безопасности и суверенитете
Американские компании, занимающиеся искусственным интеллектом, и органы национальной безопасности, по-видимому, исходят из того, что мы уже достигли этапа, когда нельзя позволять миру использовать лучшие модели ИИ без контроля и защитных механизмов, так же как нельзя направлять ядерные бомбы или межконтинентальные баллистические ракеты на случайные дома или частные компании.
В то же время Китай готов пренебрежительно относиться к этому, расширять границы возможного и оставлять Америке заботу о безопасности и суверенитете, исходя из предположения, что ИИ – это обычная технология, а вопросы безопасности будут решаться в процессе ее развития.
Если мыслить в более циничных категориях, то Китай, возможно, ведет двойную игру. Если ИИ создает лишь умеренные риски и не является стратегической силой, то их модели с открытым исходным кодом – лучший способ ослабить влияние США и заставить мир больше симпатизировать Китаю, чем Америке. С другой стороны, если произойдет нечто вроде «Чернобыля ИИ» из-за того, что кто-то неправильно применит китайскую модель, то последствия и негативная реакция общества, скорее всего, нанесут ущерб именно компаниям в США, ведь американская общественность весьма скептически относится к ИИ и готова к введению моратория на работу центров обработки данных.
Неизвестно, как это повлияет на движение за безопасность ИИ, которое в значительной степени отвечает за формирование такой регуляторной настроенности. Движение за безопасность ИИ развивалось в США по нескольким направлениям, воспользовавшись враждебностью прогрессивных левых к Кремниевой долине, обеспокоенностью Пентагона мощностью моделей, контролируемых частными структурами, и наличием внутренней культуры скептического отношения к развитию ИИ.
Те, кто стремится ввести ограничения, не должны тормозить американский прогресс, если Китай считает, что играет по другим правилам.
