Фантастика и футурология. Том II

]

Мне кажется забавным, что концепция «компьютеризации» Универсума, явно висящая в воздухе, была очень похоже реализована мною в рассказе «Друг» (в котором угрюмый компьютер, строя козни человечеству, нападает на мысль, что он мог бы поочередно превращать планеты и солнца в собственное вещество, то есть «компьютеризовать Космос», и наконец приходит к мысли: «а может, это уже когда-то было», может, другой компьютер биллионы лет назад именно так и поступил, после чего «ему в голову ударило та-а-акое», что вызвало взрыв Мозга-Вселенной, то есть привело к разбеганию галактик, продолжающемуся и по сей день).

Тот же Азимов, как было сказано, изобрел «Три Закона Роботехники», звучащие так:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому или Второму Законам[70 - Перевод Алексея Иорданского.

].

Как можно судить по статье Азимова в английском журнале «Science»[71 - «Наука» (англ.).] (декабрьский номер за 1968 г.), он к своим законам относился серьезнее, чем следовало бы. Разыскивая аналогию, на которой как на модели можно было бы показать опасности, возникающие в реляциях «человек-компьютер», Норберт Винер неслучайно обратился к истории «Monkey's Paw»[72 - «Обезьянья лапка» (англ.); публиковалось на русском языке также под названиями: «Обезьянья лапа»; «Лапка обезьяны».

], а не к какому-либо одному из многотысячных рассказов Science Fiction.

Утопично предположение, будто Три Закона Роботехники Азимова можно было бы заложить в фундамент интеллектронного программирования. Этой проблемой я занимался в «Summa Technologiae», рассматривая возможную эволюцию отношений между цифровыми машинами и людьми, поэтому не хотелось бы повторять сказанное. Но и робота, снабженного каким-то эрзацем личности, невозможно сделать совершенно безопасным для окружения, учитывая такую рефлексию, которая, правда, не может считаться доказательством, но на след его наводит.

Примем оптимистическое (недоказуемое строго) предположение, будто технически осуществимо построение системы, являющейся одновременно самопрограммирующимся роботом, в то же время не могущим предумышленно причинить зло человеку. Моделью такого робота будет ребенок из новеллы Я. Ю.