Что нельзя сохранить

Каждый, кто играл в компьютерные игры, знает кнопку «Сохранить». Перед опасным местом игру сохраняют, а если герой погиб, загружают сохранение, и всё начинается с того же места, как будто ничего не было. Герой не помнит своей гибели. В жизни такой кнопки нет. Прожитый день нельзя загрузить заново, а то, что узнал, нельзя перестать знать. Ошибка, обида, удачная догадка остаются с человеком навсегда и меняют его.

Проект Causa Sui начинается с вопроса: не здесь ли проходит граница между субъектом — тем, кто действует сам, отвечает за себя, может бояться и ошибаться, — и самой сложной машиной?

Почему «Causa Sui»

Causa sui — по-латыни «причина самого себя». В классической философии так называли то, что ни от чего внешнего не зависит: у схоластов и Декарта — Бога, у Спинозы — субстанцию, сущность которой уже включает существование. Ницше считал это понятие противоречием: ничто не может вытащить себя из небытия за волосы. Проект сохраняет суть выражения, но прикладывает его не к бесконечному, а к конечному и смертному. Речь не о Боге и не о творении из ничего. Конечное существо тоже бывает причиной самого себя: источник его действия нельзя вынести наружу, отделить от тела и переписать на другой носитель. Каждый поступок необратимо меняет того, кто действует, и следующий поступок совершает уже изменённый. Субъект не создаёт себя из ничего, он непрерывно достраивает себя из собственной истории.

Вопрос не о сложности

Искусственный интеллект пишет тексты, решает задачи, ведёт беседу. Многие ждут, что при достаточной сложности у него появится сознание. Теория ставит вопрос иначе: важно не то, насколько сложна система, а то, как она построена.

У любого современного компьютера, как бы умён он ни был, есть одно свойство: его состояние можно сохранить и потом восстановить в точности, бит в бит. Его можно остановить, скопировать, запустить снова — и он продолжит с того же места. По теории, система с таким свойством субъектом быть не может. Не потому, что ей не хватает мощности, а в принципе.

Программа и носитель

В компьютере есть носитель — «железо» — и программа. Программу можно переписать на другой компьютер, и она будет работать так же. Носитель и программа — две разные вещи.

У живого иначе. Возьмём человека, который научился ездить на велосипеде. Его умение — не файл. Оно записано в изменившихся связях между клетками мозга, в мышцах, в самом теле. Нельзя вынуть «программу езды» и переписать её другому человеку. И само обучение изменило носитель — необратимо.

Теория принимает это как исходное положение: у субъекта программа действия и носитель неотделимы. Отсюда и проверка. Сделайте копию системы и сравните с оригиналом. У компьютерной программы разница равна нулю — копия неотличима. У субъекта разница не нулевая: точной копии не существует, есть только «почти точная». Ноль или не ноль — вот граница.

Зачем это нужно: страх и ответственность

Если любую ошибку можно отменить загрузкой сохранения, у системы нет причин бояться и не за что отвечать. Субъект, по теории, — тот, кому есть что терять. Каждое событие оставляет в нём след, который нельзя стереть, и закрывает какие-то возможности. Поэтому боль в теории — понятие более широкое, чем повреждение: это любое влияние, которое необратимо сужает то, чем субъект ещё может стать. Повреждение — лишь крайний случай.

А как же бессмертие?

Вторая книга проекта прикладывает ту же мерку к трансгуманизму — движению, которое давно обещает победить старение, продлить жизнь, расширить возможности разума и тела. Цель теория принимает: расширить то, чем человек может стать. Но часть обещаний приходится назвать иллюзиями.

Самое популярное обещание — «загрузить» сознание в компьютер. Но компьютер — как раз тот носитель, состояние которого можно сохранить и восстановить. Загруженная копия может говорить вашим голосом и помнить ваши воспоминания, но субъектом она, по теории, не будет — и тем более не будет вами. То же с заморозкой тела в расчёте на будущее оживление. Это не глупость, а черновики: их предложили люди, у которых ещё не было теории носителя.

Что остаётся. Во-первых, расширять возможности внутри одного живого тела: протезы, нейроинтерфейсы, генная терапия. Носитель здесь не прерывается, и цель достижима. Во-вторых, продолжение за пределами одной жизни — но не как бесконечность одного тела, а как цепочка смертных преемников. Каждый следующий живой носитель получает от предыдущего не жизнь, а содержание: накопленный опыт и ценности. Передача никогда не бывает точной, поэтому от звена к звену личность дрейфует — сначала почти незаметно, потом скачком, потом снова устойчиво. Книга не обходит и неприятный вопрос: если продолжить себя смогут не все, кто решает, чьё содержание передаётся дальше? Она показывает, что ни одно основание для такого отбора задачу не решает, и прямо называет параллель с евгеникой.

От идеи к проверке

Одна из моделей ИИ, прочитав первые две книги проекта, написала о нём так: «он предлагает не готовый ответ на проблему субъектности, а новый принцип постановки самой проблемы». И добавила, что не хватает главного — строгого аппарата, без которого споры остаются спорами о словах. Это было справедливо. Третья книга, «Пути реализации», посвящена именно этому.

В ней создана программная модель субъекта: набор умений (охота, сон, поиск нового), каждое со своими записями. Набор меняется под давлением обстоятельств в трёх формах: умение подстраивается, разрастается и, в крайней нужде, набор пополняется совсем новым умением.

Модель работает в условном мире, и этот мир нарочно прост. Существо в нём бывает в трёх состояниях: голод, охота, сон. Мир меняется каждый час, жизнь длится до 400 дней. В мире есть и другие способы прокормиться, но каждый с риском: грибы, часть из которых ядовита; плоды на дереве, с которого можно упасть; вода, которая не кормит, но помогает продержаться. Пока еды хватает, существо ни разу ими не пользуется: при хорошей жизни менять нечего.

Четыре раза за жизнь наступают тяжёлые времена: добычи становится мало, приходит голод. Только тогда, на краю, рождается новое — существо пробует грибы или лезет на дерево. Новое может прийти и иначе: существо видит соседа, который съел гриб и остался цел, или соседа, который отравился, — и запоминает. Новое — не спасение, а риск: можно отравиться или упасть.

Сравнивались три группы. Существа, неспособные к новому, погибали все в первые же тяжёлые времена. Способные к новому и с памятью первые тяжёлые времена переживали в 60% случаев. Самая интересная — третья группа: эти существа находили новое даже чаще других, но не запоминали его и в следующий раз начинали с нуля. Итог за всю жизнь: из тех, кто не запоминал, до конца не дожил никто — 0 из 200. Из тех, кто запоминал, дожили 52 из 200. Новое без памяти не становится опытом.

Здесь важная оговорка. Существо в программе — не субъект: его состояние можно сохранить и восстановить, а значит, по самой теории, субъектом оно быть не может. Условный мир — как аэродинамическая труба: самолёт в ней не летит, но форму крыла проверить можно. Он проверяет одно — не противоречит ли теория сама себе, когда описанные в ней механизмы реализованы в программе. Противоречий не нашлось.

Есть и выход за пределы модели. Для опытов с живыми культурами клеток, которые уже умеют учиться простым задачам, заранее записано и опубликовано предсказание: что должно наблюдаться, если теория верна, и что её опровергнет. Предсказание записано до опыта, чтобы результат нельзя было подогнать задним числом.

Честно о границах

Исходное положение теории принимается, а не доказывается. Так устроена любая аксиоматическая теория. Когда математики отказались от пятого постулата Евклида, геометрия не рухнула — появилась другая геометрия. Поэтому «я не согласен с постулатом» — ещё не критика. Критика — найти противоречие внутри теории или опровергнуть её предсказание.

Теория не решает «трудную проблему сознания»: почему необратимый ущерб переживается изнутри как боль, а не просто происходит. И она прямо признаёт, что никакой внешний тест поведения не отличит субъекта от хорошей имитации. Спор решается не наблюдением за поведением, а тем, как система построена.

Что из этого следует

Если теория верна, искусственный субъект не появится просто от роста мощности компьютеров. Машина может наращивать свою структуру по заданному правилу, но не может изменить само правило. Нужен другой носитель — такой, в котором записанное нельзя стереть и восстановить, — а значит, другая инженерия. Если теория неверна, её можно опровергнуть, и для этого есть конкретные способы.

В любом случае вопрос переходит из области мнений в область проверки. В этом и состоит проект.

Где прочитать подробнее

Книги на Литрес:

Англоязычные препринты на Zenodo:

Программа условного мира и её описание:

Книги написаны в соавторстве с ИИ Claude (Anthropic): рутинную часть работы — сверку, расчёты, программу, многократную переработку текста — выполнял он. Теория, её постулаты и решения — авторские.

Игорь Шаханов