Автор: Бен Дубоу — внештатный научный сотрудник CEPA и основатель компании Omelas
Перевод с английского: Родион Шкурко
Авторитарные режимы считают, что могут использовать искусственный интеллект для репрессий против своего населения. Зато ИИ может их подорвать.
ИИ, обученный на медиа из демократических стран — как и большая часть интернета — будет интерпретировать мир иначе, чем диктует пропаганда Пекина и Москвы. Напишите запрос в ChatGPT или Google Bard о конфликте в Украине, и большие языковые модели используют запрещенное слово «война».
Конечно, авторитарные режимы будут пытаться использовать инструменты распознавания лиц ИИ для усиления контроля. Чем больше камер, тем больше возможностей создать антиутопию 1984 года в стиле Оруэлла. Китай использует биометрические данные и мониторинг социальных сетей на основе искусственного интеллекта, чтобы контролировать свое мусульманское меньшинство уйгуров. Он экспортирует технологии наблюдения по всему миру, позволяя Индии использовать распознавание лиц для определения геолокации протестующих, Пакистану — следить за интернет-трафиком, а Сербии — контролировать улицы.
Но авторитарные страны будут пытаться сдерживать растущую силу генеративного ИИ. Недавно Китай объявил о новых правилах, которые должны ограничить ИИ «основными социалистическими ценностями». Эти правила ограничат технологический прогресс страны в области ИИ. Генеративный ИИ также пугает и Россию.
И вот почему. Авторитарные режимы полагаются на нарративную однородность как на инструмент контроля, рассматривая любое отклонение как потенциальную угрозу. Генеративный ИИ представляет угрозу для этой нарративной однородности. Авторитарные режимы вынуждены бороться с множеством новостей, медиа и культурных продуктов, которые ставят под сомнение их принятую версию реальности.
Рассмотрим немного цифровой истории до появления искусственного интеллекта. Развитие интернета вызвало радикальные изменения в формировании нарративов, прежде всего через трансформацию поиска информации. Традиционные медиа — газеты и телевидение — полагались на журналистов и редакторов, которые отбирали и создавали нарративы. Интернет предложил новую парадигму самостоятельного поиска информации.
Количество интернет-хостов по всему миру (логарифмическая шкала)
Это также создавало хаос. До появления Google просеивать безграничное море данных было колоссальной задачей. Поисковая система выдавала результаты, основанные на ссылках между сайтами. Результаты отражали предубеждения издателей веб-страниц, которые отдавали предпочтение авторитетным источникам.
Для авторитарных режимов такое развитие событий не представляло большой угрозы. Поисковые системы предоставляли детерминированные результаты, которые было легко заблокировать. При наличии сильных предыдущих нарративов поисковые системы оказались более склонными к укреплению существующих взглядов, чем к провоцированию изменения взглядов. Китай приветствовал Google до тех пор, пока он придерживался строгого режима цензуры, тогда как, например, российское вмешательство в выдачу Google в 2000-х годах было сосредоточено на подавлении результатов, поддерживающих чеченских повстанцев.
Но господство поисковых систем как единственной формы поиска цифровой информации оказалось недолгим. Платформы социальных сетей, работающие на основе рекомендательных систем, предоставляли бесконечный поток новой информации, которая потреблялась пассивно, в отличие от поисковых систем, где пользователи активно искали ответы на свои вопросы. В то время как Google зависел от того, какой контент, по мнению авторов, лучше всего подкреплял их аргументы или был самым достойным для посещения следующим, рекомендательные системы полагались на то, каким контентом потребители чаще всего делились, комментировали или лайкнули.
В некотором смысле это был акт демократизации: количество потребителей гораздо больше, чем количество создателей. Потреблять антирежимный контент, особенно когда его поставляет обезличенный алгоритм, а не активно ищут, гораздо безопаснее, чем создавать его. С развитием социальных сетей произошли потрясения в Северной Африке, на Ближнем Востоке и в бывшей советской сфере влияния.
Авторитарные режимы приняли меры. Россия потребовала цензуры Facebook и Twitter, а Китай запретил обе соцсети и нанял армию для мониторинга их отечественных аналогов. Государственный Китайский фонд интернет-инвестиций получил контрольный пакет акций Sina Weibo, самой популярной социальной сети в стране, и большой пакет акций ByteDance, материнской компании Daiyoun, китайского аналога TikTok. После протестов 2011 года в Москве российское правительство помогло вытеснить первоначального основателя «ВКонтакте», ведущей отечественной социальной сети. Лояльный олигарх был установлен в 2022 году. Контроль над социальными сетями усилил партийную линию в Китае и увеличил поддержку вторжения России в Украину.
В то время как авторитарным режимам удалось склонить чашу весов рекомендательных систем в пользу определенных нарративов, генеративный ИИ представляет собой совсем другого зверя. Благодаря своей способности создавать полностью синтезированные нарративы, ИИ может подвергать пользователей новым — и с точки зрения авторитарных режимов — опасным нарративам.
В то время как авторитарным режимам удалось склонить чашу весов рекомендательных систем в пользу определенных нарративов, генеративный ИИ представляет собой совершенно другого зверя. Благодаря своей способности создавать полностью синтезированные нарративы, ИИ может подвергать пользователей новым — и с точки зрения авторитарных режимов — опасным нарративам.
ИИ может поощрять пользователей обходить цензуру. Он находится на пути к тому, чтобы стать важным помощником в выполнении повседневных задач. Социальные сети, напротив, в значительной степени отвлекают нас от повседневной жизни. Когда этот доверенный советник проговорится о правде о «специальной военной операции» или резне на площади Тяньаньмэнь, аудитория будет слушать.
