Государство строгого режима. Внутри китайской цифровой антиутопии

«Они называют ее [систему наблюдения] „Скайнет“». Название прозвучало зловеще, не в последнюю очередь потому, что именно такое имя носит искусственный интеллект, управляющий миром, в антиутопическом будущем фильмов о Терминаторе.

Три из шести часов, в течение которых мы в полном одиночестве карабкались по горам, Мансур, бизнесмен по образованию и человек, хорошо разбирающийся в текущих событиях, рассказывал мне о трех этапах создания идеального полицейского государства. Я сократил и во многих местах перефразировал его наблюдения.

Шаг первый, говорил он, заключается в том, чтобы определить врага – меньшинства, иммигрантов, евреев или, в данном случае, мусульман – и обвинить их в своих проблемах. Убедите свой народ, что эти враги повсюду и «что они угрожают силе и чести вашей нации».

Шаг второй – получить контроль над технологиями, чтобы следить за своими врагами. На первых порах руководители технологических компаний, если их прибыли высоки, будут делать вид, что все это не имеет к ним отношения, но начнут сотрудничать, как только их прибыли станут снижаться, потому что им понадобится поддержка государства.

Это поможет установить камеры и запустить социальные сети, способные собирать информацию о ваших врагах: черты лица, ДНК, записи голоса, а также данные о том, чем эти люди занимаются в интернете. «Распространяйте фальшивые новости о своих врагах в социальных сетях и приложениях». Цель – создать атмосферу истерии, обвинений и паранойи.

На втором шаге, объяснил он, есть один нюанс.

Новые технологии в области ИИ и распознавания лиц почти всегда будут несовершенными. Возможно, новое программное обеспечение или устройства не настолько эффективны или умны, как нам кажется, и не способны с легкостью выслеживать подозреваемых в преступлении. Но из этих технологических несовершенств можно извлечь выгоду.

«Но каким же образом?» – спросил я.

Скрыть и запутать то, как функционируют технологии. Использовать жизнерадостный «новояз», делающий технологию непостижимой для обычного человека.

«Суть не только в том, чтобы заставить людей бояться, – сказал Мансур. – Лишить их уверенности – вот лучший способ держать под контролем».

Третий шаг – непростой для любого режима. Мансур принялся объяснять, какую выгоду можно извлечь из параноидального мира постправды, создаваемого при помощи технических средств. Используя камеры, искусственный интеллект, системы распознавания лиц и речи, «страну можно превратить в паноптикон».