Путешествие в никуда: Энея и Кольцо

Ведущий программы, стоя между двух трибун с табличками «За» и «Против», обратился к зрителям:

– Напоминаю, что тема нашей программы «Искусственный интеллект: ступень прогресса или дорога к гибели?», – затем он подошёл к защитникам и задал вопрос. – До начала рекламы мы остановились на том, что ИИ позволяет облегчить контроль и достигнуть высокого уровня оптимизации в различных промышленных отраслях, но насколько разумно давать программе доступ ко всему этому? – затем ведущий переместился к оппозиции.

 – Все мы помним печальный опыт введения ИИ в оборонную систему.

– Как вы сами сказали, – приступил отвечать один из участников с трибуны «За», поправив свои очки, – это всего лишь программа, набор алгоритмов, двоичный код, который сам по себе не опасен. В Катастрофе виновна халатность человечества. Нам следовало вначале всё откалибровать, а уже потом использовать ИИ в ответственной системе.

– Тестов и так было много, – не согласилась с его позицией противостоящая сторона «Против».

 – ИИ и так был задействован в промышленности и в обычной жизни. Он справлялся пока не получил доступ к важной системе обороны.

– Не надо говорить о нём, как о живом, – возмущённо сказала одна из защитниц. – ИИ неживой и не обладает самосознанием, у него нет желаний и целей, кроме тех, которые даёт человек.

– Да неужели? – перебил её оппонент. – Перед Катастрофой учёные работали с новой версией ИИ, которого они пытались обучать. Он даже имел своё тело, у него было имя.

– Это всё слухи, а подтверждений не сохранилось, только рассказы, которые дошли до нас через века, да и в искажённом виде, – парировал защитник.

– Допустим, но не бывает дыма без огня. Не просто так, после Катастрофы правительством был введён запрет на создание и использование ИИ.

– Это не совсем так, – не согласилась защитница, – только в оборонке. Поймите, нельзя отказываться от чего-то, только потому, что мы не разобрались в этом до конца.

– Вам мало Катастрофы и Западной Запретной Зоны? – язвительно спросил оппонент.

 – ИИ не просто пытался нас истребить, он предупредил нас, дал время укрыться под землёй. Заставил выбирать: кому остаться и погибнуть, а кому выжить. Программа так не поступает, он понимал, что делает.

– Но это вздор, – категорически не соглашалась защитница. – ИИ это код, обрабатываемый суперкомпьютером. Он не обладает эмоциями, у него нет души, потребностей и инстинктов.