Внедрение цифровых технологий меняет наше общество в геометрической прогрессии. Выражаясь кратко, геометрическая прогрессия стала новой формой линеарного развития. В то время как многие лишь постепенно начинают осознавать этот переход, в игру вступает новый фактор, который влечет за собой еще одну несоизмеримо более сильную волну изменений – искусственный интеллект (ИИ, или Artificial Intelligence). Речь не о фантазиях, почерпнутых из научно-популярной литературы или фильма о терминаторе, а о конкретном применении искусственного интеллекта в ключевых сферах нашей жизни. Уже сейчас становится очевидной необходимость актуализации базовых ценностей нашего общества. Политика и общество должны осознать это изменение, ввести новые правила сосуществования в обществе цифровых технологий. Лишь таким образом можно обеспечить свободу, справедливость, а также солидарность в XXI веке и в то же время поставить прогресс на службу обществу.

Сегодня дигитализация дает нам возможность общения с друзьями во всем мире, просмотра фильмов, заказа авиабилетов или управления дверьми своего гаража через смартфон. Есть множество обременительных видов работ, которые поддаются автоматизации. С одной стороны, это приводит к уничтожению некоторых профессий, но одновременно создает и новые.

Нынешняя полемика вокруг Facebook и скандал с использованием данных кампанией Cambridge Analytica свидетельствуют о том, что мы стоим перед глобальными вызовами, приближение которых пять или десять лет назад могли предвидеть лишь немногие. Какова степень свободы нашего общества в цифровом пространстве? Существует ли в цифровом мире больше или меньше справедливости по сравнению с миром реальным? И существует ли вообще нечто вроде цифровой солидарности?

Эти вопросы встают с новой силой с учетом того, что в системах отныне заложены не только классические алгоритмы. Искусственный разум отчетливо ускоряет процесс дигитализации и меняет саму форму работы цифровых приборов.

Искусственный интеллект вездесущ

Все крупные IT-компании не только ведут активные исследования в сфере искусственного интеллекта, но и применяют его в своих продуктах. Благодаря ИИ интеллектуальные персональные языковые ассистенты Alex или Siri лучше понимают обладателя или обладательницу соответствующего прибора и лучше обучаются сказанному. В Facebook искусственный интеллект используется для анализа сообщений на предмет возможной склонности пользователя к суициду. Если дело обстоит именно так, на мониторе высвечиваются рекомендации телефонной службы психологической помощи. Google в форме системы управления интернет-магазинами предлагает программу, которая в состоянии писать музыку (Возможно ли при этом настоящее творчество – вопрос скорее философский).

Эти и еще очень многие примеры использования ИИ в течение последующих пяти лет молниеносно распространятся на все сферы нашей жизни; часто – полностью неосознанно, ведь содержит ли та или иная программа искусственный интеллект, определить извне почти невозможно.

Смена парадигмы

Под общим понятием «искусственный интеллект» подразумевается умственная работа, которая прежде могла выполняться только людьми (или животными), а теперь под силу и машинам. В научно-фантастических фильмах речь идет главным образом о так называемом сильном ИИ, действующем как человек и практически неотличимом от него. Однако более реалистичным в обозримом будущем является слабый ИИ, посредством которого машинам передаются отдельные способности человека. Например, машина может различать на картинках собак от кошек, распознавать и интерпретировать человеческий язык. Если система обучается чему-то новому, можно говорить о машинном обучении (МО).

Теперь только по алгоритму больше невозможно определить, что будет у системы на выходе

Частной сферой МО, которая представляет ныне наибольший интерес с технической стороны, является так называемое глубокое обучение. В этом случае система самостоятельно обучается определенным структурам и может сама улучшать свои способности. Таким образом, системы с искусственным интеллектом вначале преимущественно бесполезны. Но если их как следует «потренировать» на многих данных, то со временем они с высокой долей вероятности смогут успешно выполнить определенную задачу и постоянно улучшать свои способности. В этом заключается принципиальное отличие от классического программного обеспечения: в то время как эти алгоритмы были в целом детерминистскими, ИИ-системы таковыми больше не являются. Теперь только по алгоритму больше невозможно определить, что будет у системы на выходе. Решающую роль играют данные, при помощи которых осуществлялась тренировка системы до сих пор. Такая смена парадигмы меняет не только отношение к последствиям дигитализации, но еще больше повышает значимость общих и соотносимых с персональными сведениями данных.

Понять труднодоступное

Таким образом, возрастает релевантность данных, и они определяют результаты работы систем ИИ. Поэтому общее требование открытости исходного кода программного обеспечения в будущем мало что даст. Ведь даже если исходный код программного обеспечения будет полностью открытым, у машин с глубоким обучением все же решающая роль будет принадлежать тем данным, с помощью которых осуществлялась их тренировка. А поскольку технические системы становятся все более трудными для понимания, понадобятся новые инструменты и новые правила, чтобы сохранить наши базовые ценности в мире с системами ИИ.

При принятии критически важных решений последнее слово должно оставаться за людьми

Если системы ИИ войдут во все сферы жизни, то как можно будет обеспечить свободу каждого из нас? Тут нужны обязательства, касающиеся прозрачности и маркировки: должна быть ясность относительно времени и места применения алгоритмических решений, а также о видах (типах) применяемых данных. В качестве примера можно упомянуть сектор медицины: если при постановке диагнозов в будущем решения о применении форм терапии будут приниматься компьютерами, пациенты должны быть, по крайней мере, проинформированы об этом. Кроме того, стоит подумать о необходимости обеспечения возможности контроля, а также о том, чтобы при принятии решений, имеющих критическое значение, системы ИИ рассматривались в качестве подспорья, но окончательные решения все же принимались людьми.

Равноправие в сфере ИИ

Правильное или неправильное функционирование систем ИИ большей частью зависит от данных, применяющихся для их обучения. Если программный продукт по распознаванию лиц будет обучаться только по фотографиям людей с белой кожей, у него возникнут проблемы при распознавании темнокожих людей. Таким образом, и в самом деле существует возможность создания систем со своеобразным расистским искусственным интеллектом. С другой стороны, то же программное обеспечение, для обучения которого использовались иные, более взвешенные данные, может принимать совершенно другие решения. Поэтому нужен контроль за тем, чтобы при обучении соответствующих систем применялись данные, максимально исключающие дискриминацию. Подобная возможность проверки и документации обучающих блоков должна быть обязательным условием в случае с государственными системами. Дискриминация меньшинств здесь недопустима. Поэтому политики обязаны создать законодательные предпосылки и для использования частных систем, чтобы в будущем гарантировать соблюдение принципа равенства.

Политики обязаны создать законодательные предпосылки для использования частных систем, чтобы в будущем гарантировать соблюдение равенства

Базовые ценности нашего общества оказались перед новыми вызовами вследствие дигитализации, в частности, возникновения систем с искусственным интеллектом. Я убежден в том, что преимущества дигитализации явно преобладают над ее недостатками, и посредством разумных концепций и позитивных подходов в будущем можно гарантировать такие базовые ценности, как свобода, справедливость и солидарность, а также повысить общее благосостояние. И все же обществу и политике придется быстрее и активнее заниматься будущими вопросами преимущественно технического характера.