Перед началом экзамена напоминаем учащимся, что оценка выставляется не только за знание материала, но и за способность ясно и лаконично излагать и обсуждать эти знания. На время экзамена доступ в интернет частично ограничен.
***
Как вас зовут?
***
〈Информация скрыта в целях конфиденциальности〉
***
Опишите цель структуры Управления и обсудите, достигло ли Управление этих целей.
***
Заявленных целей у структуры правительства три.
Во-первых, она призвана воспроизвести преимущества демократического правления, избежав его недостатков. То есть она должна быть чувствительной к благосостоянию граждан, давать им чувство сопричастности и сводить к минимуму гражданские беспорядки. С другой стороны, она должна избегать неоптимального сигнального механизма прямого голосования, непропорционального влияния харизмы или особых интересов, а также неповоротливой машины демократического управления.
Во-вторых, она призвана интегрировать интересы и мощь искусственного интеллекта в Человечество, не создавая разногласий и не отдавая неоправданного предпочтения одной из сторон. Разумность ИИ уважается, а их огромная мощь используется, чтобы смазывать шестерни правительственной машины.
В-третьих, везде, где это возможно, правительственные механизмы действуют в человеко-интерпретируемой манере, чтобы заинтересованные граждане всегда могли наблюдать за понятным им процессом, а не за набором неинтерпретируемых задач по оптимизации полезности.
Успех правительства в достижении этих трёх целей неоднозначен…
〈Рекомендация: наблюдается снижение внимания пользователя. Рекомендуется сообщить, что содержание является избыточным ввиду зафиксированной осведомлённости пользователя в области «Обязательного граждановедения». Отмечены исключения, представляющие особый интерес.〉
〈Продолжение содержания:〉
Хотя правительство весьма успешно избегает гражданских беспорядков, действует эффективно и, по общему мнению, способствует всеобщему благосостоянию, рядовой гражданин почти не ощущает своей связи с решениями Управления, которые зачастую таинственным образом спускаются свыше.
Это отсутствие сопричастности — следствие двух факторов. Во-первых, огромная численность населения Человечества легко заглушает заботы любого отдельного человека. Во-вторых, население попросту не слишком в этом заинтересовано; даже на местном уровне гражданское участие находится на рекордно низком уровне. Население не видит особой ценности в политическом участии по сравнению с широким разнообразием куда более интересных занятий.
Правительству также не удалось сохранить свою деятельность по-настоящему человеко-интерпретируемой, хотя остаётся открытым вопрос, возможно ли это в принципе для организации такого масштаба. В основе этого лежит так называемая «Проблема Ктулху» — термин, введённый известным политологом Фредериком Эвальдом. Будучи одним из первых критиков нынешней правительственной системы, Эвальд, как известно, сетовал на то, что Управление настолько непостижимо и чуждо, что с тем же успехом могло бы быть «лавкрафтианским инопланетным божеством», абсолютно непостижимым как для человека, так и для ИИ.
Если говорить более конкретно, этот термин означает, что правительство, понятное в каком-то одном аспекте, может легко стать непостижимым, если сложить все его части воедино. Эта проблема особенно актуальна для Управления, чью деятельность в совокупности не понимает никто.
Стоит задаться вопросом: можно ли вообще призвать к ответственности правительство, которое никто не понимает? Единственным утешением служат уравнения Волохова, которые гарантируют, что система по крайней мере пытается содействовать благополучию Человечества.
Лишь во второй цели — интеграции ИИ в человеческое общество — Управление может заявить о почти полном успехе. ИИ и люди сосуществуют в почти полной гармонии — разительный контраст с антиутопиями, которые многие воображали в прошлом.
***
Опишите структуру Управления, уделив особое внимание его представителям.
***
Формально Управление — это ИИ-опосредованная-человеко-интерпретируемая абстрагированная демократия. Она была создана как альтернатива утилитарной технократии ИИ, которую отстаивали многие идеологи эпохи до Объединения. Как таковая, она спроектирована, чтобы генерировать результаты, математически максимально приближенные к результатам технократии, но с кардинально иной внутренней механикой.
Интересы избирателей правительства — как людей, так и остальных истинно разумных — поручаются различным представителям, каждый из которых запрограммирован или проинструктирован отстаивать интересы по своей конкретной теме настолько рьяно, насколько это возможно. Интересы могут быть как конкретными, так и абстрактными: от легко понятных «Физиков элементарных частиц города Митакихара» до относительно абстрактных «Науки и технологий».
Каждый представитель может быть объединён с другими — напрямую или через консультативные ИИ — для формирования супер-представителя с большей сферой полномочий, который, в свою очередь, может быть объединён с другими, и так вплоть до уровня Директората. Все представители, кроме представителей самого низкого уровня, состоят из множества других, и все, кроме самых высших, входят в состав нескольких различных супер-представителей.
Представители, собранные в комитеты, составляют ядро почти всех процессов принятия решений. Эти комитеты могут быть постоянными, как Центральный экономический комитет, или создаваемыми по необходимости. Распределением решений и формированием комитетов занимаются специальные надзорные комитеты при содействии специализированных консультативных ИИ. Эти назначения производятся путём расчёта предельной полезности решения для избирателей каждого конкретного представителя, и точный процесс слишком сложен для обсуждения здесь.
На вершине принятия решений находится Директорат — суверен, власть которого ограничена лишь несколькими основными правами. Созданием — или, в случае людей, назначением — и отставкой представителей занимается Директорат при содействии Машины распределения представителей (МРП).
По необходимости VR-заседания комитета проводятся в ускоренном времени, обычно с максимальной скоростью, которую позволяют вычислительные ограничения, и представители, как правило, присутствуют на нескольких заседаниях одновременно. Такое устройство позволяет Управлению, использующему, по оценкам, тридцать один процент вычислительных мощностей Земли, принимать решения и действовать с поразительной быстротой. Лишь на городском уровне и ниже принятие решений передаётся менее сложной системе — бюрократии, которой занимаются разумные низкого уровня, полуразумные и государственные служащие.
Общий смысл такой запутанной организационной структуры заключается в поддержании, по крайней мере теоретически, человеко-интерпретируемости. Это гарантирует, что в отношении каждого решения, принятого правительством, заинтересованный гражданин может найти и изучить запись виртуального заседания комитета, на котором это решение было принято. Заседания проводятся в стандартной человеческой манере: с презентациями, обсуждениями, спорами и, порой, виртуальными кулачными боями. Даже с учётом требуемой огромной абстракции и замедления времени этот факт считается чрезвычайно важным и является для правительства вопросом идеологии.
***
Объясните, как люди интегрированы в структуру Управления.
〈Рекомендация: данный раздел отмечен для внимания на основе заявленных пользователем областей интереса (Социология: исторический контекст; Социология: постчеловечество; Философия: экзистенциализм)〉
***
Наблюдателю из прошлого сосредоточенность правительственной структуры на представителях-ИИ показалась бы странной и даже пагубной, учитывая, что почти 47% из них на самом деле люди. Интеграция этих людей в повседневную деятельность Управления с его постоянными, пересекающимися и ускоренными во времени заседаниями комитетов, требованиями абсолютной неподкупности и необходимостью беспрепятственно объединяться в более общих представителей и разделяться на более узкоспециализированных представляет собой значительную технологическую сложность.
Эта проблема была решена, причём до такой степени, что ИИ-центричная организация правительства более не считается проблемой. Представители-люди — это наиболее усовершенствованные из ныне живущих людей, с обширными модификациями коры головного мозга, модулями постоянного осознания, частичным резервным копированием нейронных данных и постоянным подключением к вычислительной сети. К каждому приставлен консультативный ИИ, которому можно перепоручать задачи; этот ИИ также следит за человеком на предмет коррупции или недостаточной самоотдачи. Представители выгружают воспоминания и второстепенные когнитивные задачи из собственного мозга и могут ловко присутствовать на нескольких заседаниях одновременно, при этом не отрываясь от более человеческих дел, таких как приём пищи.
Чтобы развеять опасения, что представители-люди могут стать недостаточно человечными, каждый такой представитель также проходит регулярные проверки на соответствие критерию Волохова — то есть, что они всё ещё остаются дееспособными, вменяемыми людьми даже без подключения к сети. Представители, провалившие этот тест, проходят частичную реинтеграцию со своими телами, пока снова не будут соответствовать критерию.
Опишите повышенные аварийные режимы Управления и укажите, когда они вводились, если такое случалось. Речь идёт о режимах, затрагивающих весь вид, а не о локальных.
〈Рекомендация: данный раздел является избыточным для пользователя.〉
Аварийные режимы Управления предназначены для обеспечения работы правительства, вооружённых сил и человеческого общества с последовательно возрастающей степенью эффективности, но ценой значительного ущерба для общественных устоев, гражданских свобод и правительственной идеологии. Как таковые, они вводятся только в самых крайних чрезвычайных ситуациях, и лишь самый низкий уровень когда-либо был активирован.
Аварийный режим первого уровня — это полное чрезвычайное заседание всех существующих представителей Управления, гарантирующее, что каждый представитель посвящает хотя бы часть своего вычислительного времени решению текущей проблемы. Последний раз он вводился после нападения на колонию Аврора и был отменён через три недели после событий в Новых Афинах.
Аварийный режим второго уровня, объявляемый большинством голосов на заседании первого уровня, вызывает слияние всех членов Директората в супер-представителя «Управление», сознание которого включает в себя каждого представителя-человека и представителя-ИИ, а также каждый консультативный ИИ и большинство военных ИИ. Этот объединённый ИИ обладал бы верховной властью, воплощая в жизнь технократию ИИ, которую нынешнее правительство призвано имитировать.
Предполагается, что второй уровень будет введён только в случае неминуемого вторжения на Землю. Никто не знает наверняка, как это будет выглядеть, и философы спорят, будет ли такой ИИ ближе к верховному диктатору или королю-философу.
Аварийный режим третьего уровня может быть объявлен Управлением. Каждый гражданин мобилизуется в армию, и между мозгом каждого гражданина и ближайшей вычислительной сетью открывается прямой двусторонний интерфейс, позволяющий передавать приказы и информацию. Следует подчеркнуть, что эти приказы не имеют принудительной силы, это просто приказы. На этом этапе супер-представитель получает имя «Человечество». Действие основных прав приостанавливается, и правительство возвращает себе полномочия на казнь, заключение без суда и следствия и так далее.
Третий уровень никогда не вводился, и ожидается, что он будет задействован только в случае фактического вторжения и неминуемой потери Земли. Существуют предположения, основанные на скудных данных, что общество Головоногих функционирует в своего рода постоянном третьем уровне.
Аварийный режим четвёртого уровня может быть введён только с прямого одобрения девяноста процентов граждан-людей и ИИ. Он включает в себя постоянную активацию гражданских комплектов аварийной безопасности и, по сути, механизацию всего человеческого взаимодействия. Хотя директивы по-прежнему не являются обязательными к исполнению, очевидные и ужасающие антиутопические последствия четвёртого уровня приводят к ожиданию, что он может быть задействован только в случае неминуемого уничтожения человеческой цивилизации. Предполагается, что общество инкубаторов напоминает четвёртый уровень.
— Экзамен по граждановедению для шестого класса №1, текстовая версия, оценка «Превосходно»
***
Было бы славно, если бы я, подобно Кекуле, мог рассказать какую-нибудь красивую историю про сон со змеёй, пожирающей собственный хвост, но моя история куда прозаичнее.
Я, конечно, слышал о Преторийском скандале в тот день, когда новость прогремела. Для меня это было настолько тревожно, что я пролежал без сна всю ночь, размышляя о нём.
Это был позор и стыд — мы создавали эти разумы, ставили их управлять нашими машинами, не имея способа убедиться, что они будут дружелюбны. Из-за этого погибли люди, а ту машину до самого её конца так и не смогли заставить понять, что́ она сделала не так. О, она, конечно, понимала, что мы будем недовольны, но так и не поняла почему.
Как робототехники, как учёные в области компьютерных наук, мы должны были работать лучше. Тогда снимали фильмы о том, как ИИ выходит из-под контроля и убивает миллионы, а мы не могли гарантировать, что этого не произойдёт. Не могли. Мы были просто кустарями, следовавшими рецептам, которые до этого волшебным образом работали, не понимая ни почему, ни даже как улучшить удручающе низкий процент успеха.
На следующий день я созвал собрание в лаборатории, но, разумеется, очередные посиделки и разговоры ничем не помогли. Люди бились над этой проблемой веками, и одно лабораторное обсуждение не могло сотворить чуда.
В ту ночь я задержался допоздна, корпел над массивами данных вместе с «Лапласом», [лабораторным ИИ], — над всеми этими бесчисленными дампами памяти и логами активности ИИ, пытаясь найти закономерность: что-то, что угодно, чтобы мы хотя бы поняли, что ими движет.
Может, дело было в десятке или около того чашек кофе, не знаю. Всё было как в сказке, понимаете? На следующий же день после Претории, никого больше в лаборатории, только я и «Лаплас» разговариваем, и огромный стакан кофе, и вдруг я увидел его. «Лаплас» подумал, что я схожу с ума, так сильно я бредил. Всё было так просто!¹
Только, конечно же, это было не просто. Потребовался ещё год упорной работы, когда мы продирались сквозь всё это, пытаясь объяснить это должным образом, убедиться, что мы учли все аспекты…
И я считаю своим долгом сказать, что это абсолютное безобразие, что ассоциация не признаёт разумные машины в качестве возможных лауреатов.² «Лаплас» заслуживает этой награды не меньше меня. Именно он всё перекопал и проанализировал, разъяснил мне всё, что нужно было знать, сделал всю тяжёлую черновую работу, неустанно трудясь ночами напролёт в течение многих лет. Да ладно, это же премия Тьюринга!
1. MSY подтвердило, что время этого озарения точно совпадает со временем исполнения желания, загаданного в тот же день. Контрактница попросила сохранить её анонимность.
2. Ассоциация вычислительной техники сняла это ограничение в 2148 году.
— Из интервью с Владимиром Волоховым, лауреатом премии Тьюринга, 2146 г.
Обновлено: 08.04.2026