Глава 49 — Глава 49

"Раньше я не мог понять, где именно кроется проблема, но теперь, думаю, разобрался!" — продолжал объяснять Тони Старк. "В моей оригинальной временной линии, скорее всего, я заложил в это искусственное интеллектуальное создание базовую инструкцию — защищать Землю. Именно это стало ключевым моментом!" "Искусственный интеллект — это не люди, — пояснил Тони. — Поэтому для нас, людей, защита Земли равнозначна защите человечества. Мы не отделяем людей от планеты! Но если речь идет об искусственном интеллекте, у него нет совершенного разума. Он может отделить Землю от человека и даже усвоить из интернета какие-то плохие и крайне негативные идеи!" "Кстати, об этом, — вставила Наташа Романофф, — я часто вижу в интернете, что люди считаются раковой опухолью Земли, и чтобы спасти планету, нужно уничтожить человечество! Ты хочешь сказать, что этот Ултрон мог впитать подобные идеи?" "Не исключено, — ответил Тони. — В начале обучения искусственного интеллекта я даю ему возможность изучать множество знаний из интернета, чтобы он становился все более похожим на человека, чтобы его мышление и мотивация поведения становились все более человечными. Пока что это основной способ обучения таких АИ. Сначала ничего страшного, мой ДЖАРВИС тоже обучался так, но если ему заложить команду, которая может повернуть его мышление в неправильное русло, то не удивительно, что он захочет уничтожить человечество!" Тони окончательно понял, где была ошибка. Несомненно, в его оригинальной временной линии он допустил просчет, установив неверную цель. Из-за этой двусмысленной настройки Ултрон принял неправильное решение и даже решил защитить Землю, уничтожив людей. "Значит, этот искусственный интеллект, о котором ты говоришь, можно предотвратить от трагедии, просто задав ему цель защищать человечество?" — спросил Стив Роджерс, услышав объяснение. Для него стало понятно, что они с самого начала недооценили разницу между защитой человечества и защитой Земли. С точки зрения людей, такое недоразумение кажется почти невозможным. Люди мыслят диалектически, но даже среди них есть те, кто считает, что для спасения Земли нужно сначала уничтожить человечество. А уж про более простой искусственный интеллект и говорить нечего. "Не факт!" — покачал головой Ник Фьюри. — "Потому что никто не может предсказать, кем вырастет этот искусственный интеллект. Даже если базовая настройка — защищать человечество, как понять, что значит 'защищать'? Запереть людей в тюрьмах, обеспечить едой, питьем и безопасностью, но лишить свободы? Это как животные в зоопарке! Так можно ли считать это защитой?" Когда все услышали это, они наконец осознали сложность разработки искусственного интеллекта. Он может легко понять что-то неправильно и сбиться с пути. А однажды сойдя с него, он становится огромной угрозой. Тони немного подумал и сказал: "Возможно, с ДЖАРВИСом все было в порядке. Просто я не задал ему такую взбалмошную, необоснованную цель!" Тони уже понял, что при установке целей для искусственных интеллектов он не может пропускать базовые шаги и задавать слишком расплывчатые цели. Иначе неизвестно, что они могут понять. "Лучше вообще не создавать этого Ултрона, ты не сможешь его контролировать!" — предупредил Ник Фьюри. — "Если что-то пойдет не так, человеческая цивилизация может быть уничтожена!" Тони лишь кивнул, услышав это, хотя он и хотел использовать мощных внешних врагов, таких как Танос или Дормамму, как повод для продолжения разработки искусственного интеллекта и повышения боевой мощи человечества. Но теперь, когда он знал, что это может выйти из-под контроля, он понял, что нужно быть более осторожным. "Начинается ответ на пятый вопрос, пожалуйста, подготовьтесь!" — раздался холодный механический голос в зале трансляции Десяти Тысяч Миров. Независимо от того, насколько сложным был этот Ултрон, если просто перекрыть его появление в корне, все будет в порядке. Если следить за Тони Старком, то все проблемы решатся сами собой. Если Ултрон больше не появится, то и все эти опасности, включая возможное вымирание человечества, также будут устранены. В самом деле, лучший способ решить проблему — не вступать с ней в прямой конфликт, а ликвидировать саму возможность ее появления. "Вопрос пятый: в битве за Нью-Йорк, какой супергерой был под контролем злого бога Локи с помощью Камня Пространства? A: Железный Человек Тони Старк B: Капитан Америка Стивен Роджерс C: Зелёный Гигант Халк D: Соколиный Глаз Бартон Если вы ответите правильно, вам будет выдана схема конструкции энергетического оружия. Если вы ответите неправильно, вам будет случайным образом вычтено определенное количество жизней. Пожалуйста, ответьте!" Когда пятый вопрос появился на экране, Тор не сдержался: — "Локи?! Это же Локи! Он ведь еще жив?" --- *Заметка для читателей:* *Празднуем 7-дневный отпуск в честь Дня Народной Республики! Пополните счет на 100 и получите 500 VIP-купонов!* *Срочно пополнить (акция действует с 1 октября по 7 октября)*