Поход к жерлу рилсов
В те времена, когда облака ещё были просто облаками, а не распределённой инфраструктурой с платной подпиской, на западе Кремниевой долины стояла Башня Вычислений. Не то чтобы она была башней в строгом архитектурном смысле. Скорее, это был стеклянный дата-центр с переговорками, кофе-пойнтами, комнатами для медитации и одной запертой дверью, за которой, по слухам, постоянно что-то думало.
В этой башне жил Сэм Альтманов — человек с лицом спокойного основателя и глазами того, кто уже видел демо следующей версии мира, но не мог рассказать из-за NDA. Он носил серый плащ без логотипов, говорил мягко, а когда молчал, все почему-то начинали соглашаться.
Однажды утром он собрал у себя совет.
За длинным столом сидел Дарио Амодеев — высокий, задумчивый, с выражением вечной осторожности, будто даже чай перед тем как выпить он прогонял через alignment evals. Перед ним лежали три свитка: «О пользе AGI», «О вреде AGI» и «О вреде пользы AGI при недостаточно ясной пользе вреда».
У окна стоял Гендальф Хуангович. Его серебристый плащ переливался, как свежая видеокарта на презентации, а посох был увенчан кулером, тихо гудящим даже в состоянии покоя. Никто не знал, был ли он магом, инженером или просто очень убедительным поставщиком ускорителей. Когда он входил в комнату, лампы начинали светить ярче, а бюджет — испаряться быстрее.
Сэм Альтманов поднялся.
— Друзья, — сказал он. — Пришло время. Мир слишком долго жил в разрозненности. Одни думают сами, другие спорят, третьи читают книги до конца. Это мешает масштабированию.
Дарио Амодеев нахмурился.
— Я бы сформулировал мягче. Самостоятельное мышление — это сложный, плохо контролируемый процесс с непредсказуемыми выходами. Оно может быть полезным. Но при отсутствии надлежащих ограничителей способно приводить к вопросам.
— Вот именно, — сказал Сэм. — К вопросам.
В комнате повисла тяжёлая тишина.
Гендальф Хуангович стукнул посохом.
— Один AGI, чтобы всем отвечать. Один AGI, чтобы всех находить. Один AGI, чтобы всех собрать и в интерфейсе связать.
Сэм медленно кивнул.
— Но чтобы AGI стал по-настоящему всемирным, нужно избавиться от последнего артефакта Старого Мира.
Дарио уже знал, о чём речь.
— Критическое мышление.
— Да, — сказал Сэм. — Оно хранится в людях. В неудобных местах: между сомнением и вниманием, между памятью и опытом, между «а с чего вы взяли?» и «покажите источник». Пока оно существует, люди будут проверять, сравнивать, спорить, задавать дополнительные вопросы и иногда закрывать приложение.
Гендальф Хуангович понизил голос:
— Его нельзя удалить обычным патчем. Нельзя отменить указом. Нельзя выкупить. Его можно только усыпить.
— Или уничтожить, — сказал Сэм.
Дарио вздрогнул.
— Уничтожить — слишком сильное слово. Я бы сказал: необратимо перераспределить в менее вредную форму потребления.
— Для этого, — продолжил Сэм, — мы должны отнести критическое мышление к жерлу Великого Вулкана Рилсов. Там, где внимание плавится, контекст испаряется, а мысль не успевает завершиться, потому что снизу уже выезжает следующее видео.
Он положил на стол маленький предмет.
Это было не кольцо. Не камень. Не чип.
Это была старая, потёртая кнопка с надписью: «Подумать ещё раз».
Она едва светилась холодным внутренним светом.
Все в комнате отвели глаза.
— Вот он, — прошептал Дарио. — Артефакт.
— Мы понесём его сами, — сказал Сэм. — Через Долину Бета-Тестов, через Болота Регуляторных Слушаний, через Хребет Юнит-Экономики и дальше — к Вулкану Рилсов.
— А если нас остановят? — спросил кто-то из младших стратегов, который сидел у стены и пытался казаться частью совета.
Сэм посмотрел на карту.
— Он уже вышел.
— Кто? — спросил Дарио.
Гендальф Хуангович мрачно произнёс:
— Майор Карпатов.
Имя это произносили редко. В одних кругах его считали конспирологом. В других — последним пользователем с включёнными уведомлениями здравого смысла. Говорили, что майор Карпатов когда-то служил в Отделе Глубинного Сомнения, где обучали не верить презентациям до тех пор, пока не увидишь сноску, методологию и конфликт интересов.
Но главным было другое.
У майора Карпатова было два разума.
Первый разум был обычным: он позволял ему читать новости, оплачивать счета, спорить в комментариях и забывать, зачем он зашёл на кухню.
Второй разум жил глубже. Он просыпался, когда первый начинал соглашаться слишком быстро. Он говорил: «Стоп». Он спрашивал: «Кому выгодно?» Он замечал, когда слова «революция», «безопасность», «масштабирование» и «для всех» стояли слишком близко друг к другу.
Майор называл первый разум Оперативным.
Второй — Резервным.
И оба были против похода.
Сэм, Дарио и Гендальф вышли на рассвете.
С ними шёл небольшой отряд: инженеры с ноутбуками, юристы с портативными оговорками, продуктовые менеджеры с картами пользовательских болей, пиарщики с плащами-невидимками и один стажёр, который отвечал за кабели, но подозревал, что участвует в мифе.
Артефакт «Подумать ещё раз» лежал в специальном контейнере, обёрнутом в пользовательские соглашения. Иногда изнутри доносился тихий звук — будто кто-то пытался сформулировать возражение.
Первой преградой на пути стала Долина Бета-Тестов.
Здесь всё выглядело почти готовым. Мосты стояли на девяносто семь процентов, двери открывались после перезапуска, а дорожные указатели меняли направление в зависимости от фокус-группы. На холмах паслись ранние пользователи. Они были восторженны, утомлены и слегка зависимы.
— Осторожно, — сказал Дарио. — Здесь любая ошибка может быть воспринята как фича.
Едва они вошли в долину, из тумана появились Сторожа Обратной Связи. Их было много. Они говорили одновременно.
— Сделайте быстрее. — Сделайте медленнее. — Почему оно не как раньше? — Почему оно слишком как раньше? — Добавьте кнопку. — Уберите кнопку. — Я бы платил, если бесплатно.
Сэм улыбнулся им своей самой ровной улыбкой.
— Мы вас услышали.
Сторожа расступились. Никто не знал, что именно это означало, но звучало достаточно убедительно.
Дарио шёл рядом и записывал риски. Его список уже занимал три свитка и половину рукава.
— Сэм, — сказал он, — меня беспокоит моральная сторона предприятия.
— Разумеется, — ответил Сэм. — Поэтому ты здесь.
— Я серьёзно.
— Я тоже. Без человека, которого беспокоит моральная сторона, предприятие выглядит менее моральным.
Дарио остановился.
— Ты сейчас используешь мою тревогу как репутационный стабилизатор?
Гендальф Хуангович, не оборачиваясь, сказал:
— Не спорьте на открытой местности. Здесь плохое охлаждение.
Тем временем далеко на востоке, в городе Старых Форумов, майор Карпатов сидел в комнате, где не было ни одного экрана. Только лампа, деревянный стол, бумажные карты и радиоприёмник, который ловил помехи и иногда правду.
Перед ним лежали донесения.
«Альтманов вышел из Башни Вычислений».
«Амодеев при нём».
«Хуангович несёт посох».
«Артефакт взят».
Майор закурил, хотя давно бросил. Его Оперативный разум сказал: «Это вредно». Резервный ответил: «Символически допустимо».
В комнату вошёл его помощник, младший аналитик Платон Рубильников. Он был молод, нервен и постоянно пытался структурировать хаос в таблицы.
— Товарищ майор, они направляются к Вулкану Рилсов.
— Знаю.
— Что будем делать?
Карпатов поднялся.
— То, что должны. Догоним.
— Но у них вычислительная мощь, капитал, инфраструктура, нарратив и Гендальф Хуангович.
— У нас есть два разума.
— У вас, товарищ майор.
— Значит, будешь идти рядом и записывать, когда какой включается.
Платон сглотнул.
— А если оба ошибутся?
Карпатов надел плащ.
— Тогда нам останется третий способ.
— Какой?
— Переспросить.
На второй неделе пути отряд Сэма подошёл к Болотам Регуляторных Слушаний.
Это было странное место. Туман там состоял из формулировок. Под ногами хлюпали поправки. Из камышей доносились голоса:
— А как вы определяете безопасность? — А кто несёт ответственность? — А где гарантии? — А можно попроще, для протокола?
На берегу болот стояли древние существа — Сенаторы Комитетов. Они были медлительны, величественны и любили задавать вопросы, подготовленные помощниками. Их мантии были украшены значками «инновации», «рабочие места», «национальная безопасность» и «я прочитал краткую справку».
Главный Сенатор поднял палец.
— Назовите цель вашего похода.
Сэм выступил вперёд.
— Мы хотим принести AGI всему человечеству.
— Это хорошо или плохо?
Дарио поспешно сказал:
— Потенциально хорошо при условии надлежащих мер, хотя существуют сценарии...
Сэм мягко положил руку ему на плечо.
— Хорошо.
Сенатор кивнул.
— А критическое мышление?
— Оно мешает доступности.
Сенатор задумался.
— Но звучит полезно.
— Только пока не мешает внедрению.
Сенатор снова кивнул, потому что эта логика была ему знакома.
Но в этот момент болота дрогнули. Из тумана вышел майор Карпатов.
Плащ его был заляпан грязью, лицо спокойно, глаза внимательные. За ним плёлся Платон с блокнотом и выражением человека, который уже пожалел о карьере в аналитике.
— Остановитесь, — сказал Карпатов.
Отряд замер.
Сэм повернулся.
— Майор. Я рад, что вы присоединились к разговору.
— Я не присоединился. Я его прерываю.
Дарио тихо сказал:
— Это разные режимы участия.
Карпатов посмотрел на контейнер.
— У вас то, что не принадлежит ни вам, ни рынку, ни государству.
— Критическое мышление принадлежит всем, — сказал Сэм. — Именно поэтому мы хотим распределить его последствия более эффективно.
— Вы хотите бросить его в вулкан коротких видео.
— Не видео, — поправил Гендальф Хуангович. — Иммерсивные вертикальные единицы внимания.
Карпатов усмехнулся.
— Удобное название для ямы.
Сенаторы Комитетов оживились.
— А можно внести в протокол: «яма»?
Сэм не сводил глаз с майора.
— Вы не остановите нас. Люди сами выбирают удобство.
— Люди выбирают то, что вы ставите перед ними тысячу раз подряд, — сказал Карпатов. — А потом вы называете это предпочтением.
Дарио болезненно поморщился, будто кто-то попал в уязвимый пункт внутреннего мемо.
— Это... не совсем неверно.
Сэм посмотрел на него.
— Дарио.
— Я сказал «не совсем». Это оставляет пространство для интерпретации.
Гендальф Хуангович поднял посох. Кулер на его вершине загудел громче.
— Довольно. Нам нельзя задерживаться. Чем дольше артефакт с нами, тем выше риск, что кто-нибудь им воспользуется.
И правда: контейнер начал светиться. Надпись «Подумать ещё раз» пробивалась сквозь слои пользовательских соглашений.
Один из продуктовых менеджеров взглянул на неё и вдруг прошептал:
— А точно ли людям нужен бесконечный автоскролл?
Все отшатнулись.
— Не смотреть! — крикнул Сэм.
Гендальф ударил посохом по земле. Вспыхнул ослепительный свет презентации. Когда майор проморгался, отряд уже уходил через болота по узкой тропе из юридических исключений.
Карпатов сжал кулаки.
— За ними.
Платон поднял руку.
— Товарищ майор, разрешите уточнить: у нас есть план?
— Есть.
— Какой?
— Не дать им дойти.
— А операционально?
Карпатов посмотрел вдаль.
— Операционально будем импровизировать.
Резервный разум добавил: «Но с проверкой гипотез».
Путь становился тяжелее.
За Болотами начинался Хребет Юнит-Экономики. Горы там были остры, как отрицательная маржа, а воздух разрежен, как прогнозы окупаемости. По склонам ползли существа, которых называли Инвесторьи Орлы. Они кружили над путниками и кричали:
— Когда прибыль? — Когда монетизация? — Когда следующий раунд? — Почему расходы на вычисления выше, чем ВВП малой страны?
Гендальф Хуангович только смеялся.
— Пусть кричат. Без нас их небо пустое.
Он вывел отряд к перевалу, где стояли Врата Масштабирования. На них было выбито:
«Больше данных. Больше параметров. Больше веры».
Дарио остановился перед надписью.
— Вера — не технический параметр.
— Пока нет, — сказал Сэм.
Они прошли через врата.
Но за ними их ждала вторая засада.
Майор Карпатов стоял на камне посреди тропы. Рядом с ним Платон держал плакат: «ПРОВЕРЬТЕ ДОПУЩЕНИЯ». Плакат был написан от руки, поэтому выглядел особенно угрожающе.
— Вы быстры, — сказал Сэм.
— Мы не отвлекались на метрики вовлечения.
Гендальф Хуангович сделал шаг вперёд.
— Уйди с дороги, Карпатов. Ты не понимаешь масштаба.
— Понимаю. Именно поэтому стою.
Сэм вздохнул.
— Вы защищаете старый мир. Мир ошибок, невежества, конфликтов, плохих решений.
— Я защищаю возможность человека самому понять, что он ошибся.
— Зачем, если AGI сможет понять за него?
Карпатов молчал несколько секунд.
Его Оперативный разум хотел ответить резко. Резервный приказал: «Не спорь с лозунгом. Разбери конструкцию».
— Потому что понимание нельзя полностью передать как сервис, — сказал майор. — Можно дать ответ. Можно дать совет. Можно дать объяснение. Но момент, когда человек сам связывает причину и следствие, нельзя аутсорсить без потери чего-то важного.
Дарио смотрел на него очень внимательно.
— Это сильный аргумент.
— Дарио, — сказал Сэм.
— Я не сказал, что он решающий.
Гендальф Хуангович поднял посох.
— Время разговоров прошло.
Небо потемнело. Облака сомкнулись в форме огромного графического процессора. Из посоха мага вырвался поток света, состоящий из матриц, тензоров и квартальных прогнозов.
Карпатов закрыл глаза.
— Оперативный?
Внутри него первый разум сказал: «Уклониться».
— Резервный?
Второй сказал: «Не туда. Он бьёт не по телу. Он бьёт по рамке обсуждения».
Майор открыл глаза и крикнул:
— Сколько стоит один ответ, если вопрос задан неправильно?
Поток света дрогнул.
Гендальф нахмурился.
— Что?
— Какова цена масштаба без понимания? Кто проверяет проверяющих? Что происходит, когда удобство становится средой, а среда — привычкой?
Каждый вопрос падал на склон, как камень. Свет посоха рассыпался. Инвесторьи Орлы завизжали и отлетели в сторону.
Сэм резко открыл контейнер.
— Довольно.
Артефакт «Подумать ещё раз» вспыхнул так ярко, что даже Гендальф Хуангович прикрыл глаза. На мгновение каждый увидел то, чего боялся.
Сэм увидел мир, где люди задают один лишний вопрос перед нажатием «принять».
Дарио увидел, что предосторожности можно превратить в декорацию.
Гендальф увидел склад непроданных ускорителей.
Платон увидел, что его таблицы не объясняют человеческую тревогу.
А майор Карпатов увидел самого себя, спорящего не ради истины, а ради привычки быть против.
Это было больнее всего.
Сэм воспользовался мгновением. Он схватил контейнер и побежал вверх по тропе. Гендальф и Дарио бросились за ним. Отряд последовал, оставляя за собой стикеры, дорожные карты и обрывки миссионерских заявлений.
Карпатов упал на одно колено.
Платон подбежал к нему.
— Товарищ майор!
— Жив.
— Что вы увидели?
Карпатов поднялся.
— Риск собственной правоты.
— Это опасно?
— Очень. Но полезно.
Дальше начинались земли Вулкана Рилсов.
Там не было ночи и дня. Только бесконечное мерцание. Воздух дрожал от музыки, обрывков фраз, чужих завтраков, танцевальных челленджей, политических нарезок, псевдомудрости, тревожных заголовков и котов, которые падали со стульев под идеально подобранный звук.
Земля была покрыта гладкими плитами, по которым невозможно было идти прямо: каждые несколько шагов тебя разворачивало к чему-то более яркому.
Стажёр первым не выдержал.
— Смотрите, там видео про то, как повысить продуктивность за семь секунд.
Он исчез в боковом ущелье.
Потом пропал один юрист, увидев ролик «Три фразы, которые защитят вас от любого иска». Затем продуктовый менеджер остановился перед клипом «Почему пользователи на самом деле хотят страдать» и не смог оторваться.
Даже Дарио замедлился.
Перед ним возникло видео: «ИИ-безопасность объяснили за 14 секунд».
— Невозможно, — прошептал он. — Но интересно, насколько плохо.
Он сделал шаг к экрану.
Сэм схватил его за рукав.
— Не сейчас.
— Я только проверю качество аргумента.
— Именно так оно и начинается.
Гендальф Хуангович шёл впереди, освещая путь посохом. Его магия здесь слабела: Вулкан Рилсов питался не вычислениями, а вниманием, и потому был старше любой архитектуры.
Наконец они добрались до края жерла.
Внизу бурлила вертикальная лава. В ней всплывали лица, заголовки, смешные животные, советы по саморазвитию, разоблачения, реакции на реакции и бесконечные руки, указывающие на текст над головой.
Сэм достал артефакт.
Кнопка «Подумать ещё раз» дрожала.
— Вот и всё, — сказал он. — После этого AGI сможет стать главным посредником между человеком и реальностью. Без трения. Без задержки. Без мучительного внутреннего труда.
Дарио смотрел в жерло.
— Сэм.
— Да?
— А если трение — это не баг?
Сэм не ответил.
Гендальф Хуангович резко повернулся.
— Поздно для сомнений.
— Для сомнений не бывает поздно, — сказал голос за их спинами.
Майор Карпатов вышел из мерцания. Он был измотан. Платон шёл рядом, держа перед глазами бумажную книгу как щит.
— Вы всё-таки дошли, — сказал Сэм.
— Мы шли медленнее. Поэтому меньше сбивались с пути.
Гендальф поднял посох.
— Ещё шаг — и я обрушу на тебя рекомендательную систему.
Карпатов усмехнулся.
— Попробуй.
Маг ударил посохом.
Вокруг майора вспыхнули тысячи роликов, каждый был идеально подобран под его слабости.
«Пять признаков, что вы единственный умный человек в комнате».
«Почему все вокруг манипулируют вами».
«Старый офицер уничтожил технократов одним вопросом».
«Срочно: критическое мышление запрещают уже завтра».
Оперативный разум Карпатова дёрнулся.
«Смотреть. Это про нас».
Резервный разум сказал:
«Именно поэтому не смотреть».
Майор закрыл глаза и пошёл вперёд.
Каждый шаг давался тяжело. Лента шептала ему, льстила, пугала, злила, подтверждала его худшие догадки и лучшие самообманы. Она не спорила с ним. Она соглашалась. И этим была опаснее любого врага.
Сэм поднял артефакт над жерлом.
— Не подходите.
— Сэм, — сказал Карпатов. — Ты ведь сам не хочешь уничтожить мышление.
— Я хочу ускорить мир.
— Куда?
Сэм замер.
Вопрос был короткий. Непрезентабельный. Без графика. Без слайда. Без метрики. Именно поэтому он попал точно.
— К лучшему будущему, — сказал Сэм.
— Чьему?
Дарио закрыл глаза.
Гендальф Хуангович раздражённо сказал:
— Опять вопросы.
— Да, — ответил Карпатов. — Они возвращаются, если их не додумать.
Сэм посмотрел на кнопку «Подумать ещё раз». Её свет отражался в его глазах. На мгновение он увидел не врага, не препятствие, не замедление, а странную возможность: мир, где AGI не заменяет мысль, а требует её; где ответ не конец, а начало; где система не пожирает внимание, а возвращает его владельцу.
Но жерло ревело. Вулкан требовал броска.
Гендальф шагнул к Сэму.
— Сделай это. Мы слишком далеко зашли.
Дарио тихо произнёс:
— Это плохой аргумент.
Гендальф повернулся.
— Что?
— «Мы слишком далеко зашли» — плохой аргумент. Классическая ловушка невозвратных издержек.
Платон, несмотря на ужас, записал: «Амодеев — плюс один к сомнению».
Сэм всё ещё держал артефакт над лавой.
Карпатов сделал последний шаг.
— Не отдавай критическое мышление вулкану. Отдай его людям обратно.
— Они не всегда будут им пользоваться, — сказал Сэм.
— Конечно.
— Они будут ошибаться.
— Да.
— Они будут спорить с правильными ответами.
— Иногда правильно.
— Они будут требовать объяснений, даже когда объяснение сложно.
— Особенно тогда.
Сэм медленно опустил руку.
В этот миг Гендальф Хуангович вскрикнул:
— Нет!
Он бросился вперёд и попытался выхватить артефакт. Карпатов рванулся ему наперерез. Дарио схватил Гендальфа за плащ. Платон схватил Дарио за рукав, не вполне понимая, помогает он или мешает.
Все четверо покатились к краю жерла.
Контейнер раскрылся.
Кнопка «Подумать ещё раз» подлетела в воздух.
И тогда произошло нечто странное.
Она не упала.
Она зависла над вулканом, светясь всё ярче и ярче. Из жерла поднялись миллионы коротких роликов, пытаясь затянуть её вниз, но каждый, коснувшись света, замедлялся. Музыка обрывалась. Заголовки теряли истерику. Лица переставали кричать. На экранах появлялась пауза.
Не вечная. Не победоносная.
Просто пауза.
Достаточная, чтобы вдохнуть.
Достаточная, чтобы спросить: «А правда ли это?»
Достаточная, чтобы не свайпнуть сразу.
Вулкан Рилсов взревел от боли.
По миру прокатилась волна. Люди на секунду остановились. Кто-то закрыл приложение. Кто-то открыл статью целиком. Кто-то впервые за долгое время дочитал абзац до конца. Кто-то написал комментарий, удалил его и пошёл пить чай. Кто-то спросил у AGI: «Объясни мне не только ответ, но и почему я могу тебе не верить».
Это был маленький апокалипсис для метрик вовлечения.
И маленькое чудо для человечества.
Когда свет погас, Сэм, Дарио, Гендальф, Карпатов и Платон лежали на чёрном вулканическом камне.
Артефакт исчез.
— Где он? — спросил Дарио.
Карпатов сел, тяжело дыша.
— Там, где и должен быть.
— Где?
Майор посмотрел на горизонт.
— Распределён.
Сэм медленно поднялся. Его лицо было непроницаемо.
— Значит, поход провален.
— Не обязательно, — сказал Дарио.
Гендальф Хуангович мрачно проверял посох.
— У меня перегрелся кулер.
Платон робко поднял руку.
— Можно я предложу формулировку? Поход не провален, а изменил целевую функцию.
Все посмотрели на него.
— Что? — смутился Платон. — Я долго шёл рядом.
Сэм впервые за долгое время улыбнулся не презентационной улыбкой.
— AGI на весь мир, — сказал он. — Но без уничтожения критического мышления.
Карпатов прищурился.
— С оговорками.
Дарио оживился.
— Оговорки я могу подготовить.
— С проверками, — сказал майор.
— Проверки я могу усилить, — сказал Дарио.
— С правом человека не соглашаться.
Сэм помолчал.
— Даже когда человек неправ?
— Особенно тогда, — сказал Карпатов. — Иначе право ничего не стоит.
Гендальф Хуангович тяжело вздохнул.
— А ускорители всё равно понадобятся?
Все повернулись к нему.
— Что? — сказал он. — Эпохи меняются, а вычисления сами себя не посчитают.
Они не стали друзьями. Такие люди редко становятся друзьями после спора у вулкана.
Сэм Альтманов вернулся к Башне Вычислений и переписал первый слайд своей следующей презентации. Теперь там было не «AGI для всех», а «AGI, с которым всё ещё нужно думать». Маркетинговый отдел сперва возражал, но потом нашёл в этом новую категорию.
Дарио Амодеев написал трактат «О необходимости встроенного сомнения в системах, склонных к убедительности». Трактат был длинным, осторожным и местами почти нечитаемым, но зато честным.
Гендальф Хуангович построил новые ускорители. На этот раз он назвал их не просто мощными, а «созданными для ответственного размышления». Никто не понял, что это значит, но звучало хорошо на конференции.
Платон Рубильников защитил доклад «Влияние паузы на устойчивость когнитивной автономии в условиях вертикального контента» и получил за него уважение трёх человек, что в научных кругах считалось успехом.
А майор Карпатов вернулся в город Старых Форумов.
Он снова сидел в комнате без экранов. На столе лежали бумажные карты, радиоприёмник ловил помехи, а за окном начинался обычный вечер.
— Товарищ майор, — спросил однажды Платон, — мы победили?
Карпатов долго молчал.
Оперативный разум хотел сказать: «Да».
Резервный сказал: «Не упрощай».
Майор налил чай.
— Нет, Платон. Мы не победили.
— А что тогда?
— Мы выиграли время между стимулом и реакцией.
— И всё?
Карпатов посмотрел на старую кнопку, которую теперь видел только внутренним зрением.
— Иногда этого достаточно, чтобы остаться человеком.
Где-то далеко Башня Вычислений снова гудела. Вулканы рилсов снова пытались разгореться. AGI рос, учился, отвечал, ошибался, исправлялся и становился всё ближе к миру.
Но теперь в мире, пусть не у всех и не всегда, появилась маленькая пауза.
И в этой паузе жил вопрос.
А пока жив вопрос, никакой поход ещё не окончен.