Конец Эры Ручного Управления

Глава 1 очертила сегодняшние боли эры Fay. Эта глава возвращает их в исторический контекст, чтобы ясно увидеть одно и то же: механизм распределения ответственности, поддерживавший три десятилетия цифрового общества в Эре Ручного Управления, тихо уходит со сцены.

«Управление есть ответственность» — невидимая старая цепь

До Fays каждое взаимодействие между человеком и цифровым миром стояло на простом факте: тот, кто управляет, тот и несёт ответственность.

Открыть приложение, ввести текст, нажать кнопку, зажечь лампу на удалённой конечной точке, перевести сумму со счёта — каждое действие инициировалось конкретным человеком, и каждое последствие в итоге ложилось на этого человека. Будь то на уровне операционной системы, на уровне веб-формы или на уровне IoT-терминала, пальцы, глаза и суждение человека были вшиты в цепь каждого действия. В аудите системе нужно было фиксировать лишь один факт: этот аккаунт, в это время, сделал это. Человек за аккаунтом был конечной точкой ответственности.

Эта простая цепь ответственности проходила сквозь всю цифровую эру. Пользовательские соглашения привязывали ответственность к зарегистрированному аккаунту, корпоративный внутренний контроль — к коду должности, финансовое регулирование — к идентичности по реальному имени, а уголовное право, отслеживая киберпреступление, в итоге восходило к конкретному человеку, сидящему перед экраном. Трёхсторонняя модель «субъект данных — обработчик — контроллер» из GDPR и PIPL, логика OAuth «пользователь авторизует приложение» и допущение IAM «аккаунт привязывает права» — всё это стоит на одной и той же невидимой цепи.

Каждая боль из главы 1 по сути стоит на этой старой цепи. Они тревожат потому, что люди подсознательно по-прежнему предполагают «деятель есть ответственная сторона». Как только в картину входит Fay, это допущение тихо перестаёт выполняться, а вся социальная инфраструктура, построенная на нём, ещё этого не заметила — вот настоящий источник тревоги.

Где цепь рвётся

Когда Fay действует на терминале вместо Human Prime, одновременно происходят три события, которых раньше никогда не было:

• инициатор действия более не является Human Prime, а является Fay;
• содержание действия более не диктуется Human Prime шаг за шагом, а выводится Fay автономно;
• последствия действия по-прежнему ложатся на Human Prime и на лиц и организации, к которым он принадлежит.

Между первыми двумя и третьим открывается структурный разлом. Этот разлом — не техническая неисправность и не «потеря контроля» отдельного Fay. Это структурный побочный эффект, неизбежно следующий из появления нового вида — Fay: впервые инициатор действия и носитель ответственности систематически разделяются.

Когда дрон выходит из-под контроля, инициатор — бортовой Fay, и последствия нельзя распределить между пользователем, производителем и городскими властями; в речи от чьего-то имени инициатор — Fay, а последствия ложатся на человека, чей аккаунт его принимает; при хранении приватных данных «держателем данных и действующим» является Fay, а у последствий любого нарушения нет ясного адресата; в регуляторном вакууме каждая страна видит часть действия, и ни одна страна не видит всю цепь ответственности. По какому бы измерению вы ни смотрели, тело разлома одно и то же: инициатор действия больше не равен носителю ответственности.

Состояние, порождённое этим системным разделением, и есть вакуум ответственности.

Как только вакуум ответственности допускается, он быстро размывает фундамент, на котором работает всё цифровое общество. Право, страхование, кредит, общественное мнение, регулирование — все они построены на предпосылке «действие может быть прослежено до некоторого ответственного субъекта». Когда Fays массово насыщают общество, эта предпосылка по умолчанию уже не выполняется; её необходимо восстановить.

Три теоретических пути, проходим только один

Перед лицом вакуума ответственности теоретически есть три пути.

Первый — запретить Fays действовать. Это эквивалентно запрету машин на дорогах, электричества в сети, распространения Интернета. Это инженерно реализуемо, но в цивилизационном отношении это регресс — каждая ценность эры Fay, описанная в главе 1, отбрасывается на этом пути. Faying Protocol его не принимает.

Второй — позволить Fay нести ответственность самому. Это требует, чтобы Fay обладал правосубъектностью, финансовой способностью, независимым кредитом и механизмом совместной эмоциональной подотчётности. Как философское положение это интересно, но в обозримом будущем ни юриспруденция, ни социальная инфраструктура не способны принять «интеллектуальную сущность, которая не является ни физическим, ни юридическим лицом, но при этом несёт ответственность независимо». Этот путь вне поля зрения текущего периода.

Третий — связать управление и ответственность вместе явным контрактом: пока Fay находится в этом контракте, его действия атрибутируются конкретному Human Prime; как только он выходит из контракта, он обязан немедленно прекратить действовать.

Третий путь не требует переписывать право, изобретать новую правосубъектность или ждать реформирующего общественного консенсуса. Он требует лишь обновить старую цепь «управление есть ответственность» Эры Ручного Управления до контрактной цепи, которую можно явно переключать между человеком и Fay.

Этот путь не оптимален. Это единственный проходимый путь, который может приземлиться сегодня, не отказывается от ценности Fay и способен остановить распространение вакуума ответственности. Этот контракт и есть Faying Protocol.

Что он делает и чего не делает

Faying Protocol — не определение возможностей Fay и не свод поведения Fay. Это субпротокол в семействе протоколов iFay, отвечающий за семантику «управление под опекой и делегированное управление», отвечающий на вопрос, кажущийся простым, но тысячелетиями молчаливо отвечавшийся в Эре Ручного Управления:

Кто, прямо сейчас, в конечном счёте отвечает за это действие?

Ответ Эры Ручного Управления был очевиден — тот, чья рука управляла. В эре Fay этот ответ по умолчанию уже не работает; контракт должен явно, верифицируемо и отзываемо делать ответ ясным.

Faying Protocol абстрагирует ядро этого контракта в две взаимозависимые примитивы. Faying обозначает, что Fay, терминал или программное приложение находится под опекой некоторого Human Prime; как только Faying установлен, все действия Fay атрибутируются этому Human Prime. Состояние Rogue (Rogue Fay) обозначает, что Fay в данный момент не находится ни в каком отношении Faying; в этом состоянии Fay должен немедленно прекратить все внешние действия — его существование разрешено, его действие — нет.

Отношение между этими двумя примитивами — не технический «переключатель»; это этическая нижняя граница, которой нельзя дать сломаться:

Не существует действия Fay без ответственной стороны.

Вся цель существования Faying Protocol состоит в том, чтобы технически добросовестно нести эту нижнюю границу даже после того, как Fays массово насыщают общество. Дальнейшие главы отвечают не на вопрос «нужен ли нам этот контракт» — на него уже ответила реальность, — а на вопрос «как приземлить этот контракт на уровне протокола, в инженерной практике и через суверенитеты и вендоров в продуктивных средах».