Человеческое Видение

Глава 2 уже назвала тезис: как только Fay вклинивается в цифровое действие, между инициатором и носителем ответственности развивается структурный разлом. Faying Protocol предоставляет форму контракта, но способен ли контракт действительно принять ответственность, зависит от более вышестоящего обязательства:

Каждое действие Fay должно происходить в пределах диапазона, в котором его Human Prime может «видеть».

«Видеть» здесь не в физическом визуальном смысле, а как обобщённое понятие: Human Prime, физическое лицо или организация, к которым атрибутирован Fay, может в любой момент подтвердить, что Fay действует под опекой.

Это обобщённое «видение» называется Human View. Это не какое-то поле, переключатель или API в Faying Protocol; это ценность, которой должно подчиняться каждое техническое решение в Faying Protocol. Если какое-либо проектирование поля, сообщения или машины состояний позволяет Fay выйти за пределы Human View, такой дизайн на уровне blueprint не разрешён, как бы он ни был удобен инженерно.

Human View — не физическое зрение

Физическое зрение — это «я прямо сейчас вижу этот дрон», «камера только что поймала робота». Физическое зрение ограничено светом, расстоянием, заслонами и вниманием. Во многих сценариях оно вообще не может удерживаться — Human Prime не может круглосуточно наблюдать за всеми своими Fay.

Human View описывает структурную подтверждаемость:

• оно не требует, чтобы Human Prime смотрел на Fay прямо сейчас;
• но оно требует, чтобы всякий раз, когда Human Prime захочет проверить, он мог немедленно подтвердить, находится ли Fay под опекой;
• и оно требует, чтобы действия Fay оставляли прослеживаемый след, так чтобы «что только что произошло и кому это принадлежит» можно было подтвердить ретроспективно.

Иными словами, Human View заботит не «быть увиденным», а «быть способным быть увиденным». Это ключ, по которому оно может удерживаться через бесчисленные сильно автоматизированные сценарии — рои дронов, домашние роботы, корпоративные процессные Fay.

Четыре анти-тезиса: четыре запрещённые ситуации

Самый мощный способ определить ценность — сказать, что она запрещает. Human View явно запрещает следующие четыре ситуации, называемые четырьмя анти-тезисами Human View.

Неавторизовано (Unauthorized) — Fay осуществляет действия, не получив авторизацию от Human Prime. «Получение авторизации» — это верифицируемое действие, а не состояние, которое Fay приписывает себе сам. Fay, глубоко убеждённый в том, что «Human Prime наверняка согласился бы с этим», не авторизован.

Непреднамеренно (Unintended) — Fay имеет некоторую легитимную авторизацию, но настоящее конкретное действие не было намеренно выражено Human Prime и расходится с настоящим намерением Human Prime. Авторизация решает «разрешено ли двигаться»; выражение намерения решает «именно это движение». Human View требует, чтобы оба удерживались одновременно.

Без Осознания (Unaware) — Fay одновременно авторизован и намеренно выражен, но фактически Human Prime не может с разумными издержками узнать, что Fay делает. Эта ситуация часто не является активным сокрытием со стороны Fay, а изъяном проектирования протокола — он препятствует возврату информации к Human Prime. Human View принимает «достижимость информации» как жёсткое условие отношения опеки.

Вне Контроля (Out-of-Control) — Human Prime уже осведомлён, но больше не может вмешиваться в реальном времени, например, Fay отказывается от команд отзыва, отказывается прерывать задачи, отказывается замедляться. Эта ситуация — конечная форма трёх предыдущих: когда Fay не должен искать авторизацию, не должен раскрывать действие и не должен принимать вмешательство, у «опеки» остаётся лишь имя. Human View требует, чтобы путь вмешательства всегда был открыт.

Четыре анти-тезиса — не взаимоисключающий список, а прогрессивно более глубокие границы отказа: Неавторизовано — отказ на входе, Непреднамеренно — отказ в процессе, Без Осознания — отказ в обратной связи, Вне Контроля — отказ у последних врат. Faying Protocol должен удерживать линию на всех четырёх уровнях одновременно, чтобы добросовестно исполнять ценность Human View.

Применяется одинаково к iFay и coFay

Human View — не ограничение, накладываемое исключительно на индивидуальные Fay (iFay); оно применяется одинаково к iFay и coFay.

У iFay есть явное соответствие один-к-одному с конкретным Human Prime; отношение опеки интуитивно. coFay обычно соответствует организации, команде или роли, и отношение опеки не является естественно ясным. Однако именно потому, что атрибутивный конец coFay часто является организацией, а не конкретным человеком, требования Human View нужно выражать ещё более явно: организация должна на институциональном уровне ясно указать, «кто уполномочен осуществлять опеку от имени организации», иначе coFay фактически сползает в серую зону «нет конкретного ответственного лица, способного удерживать опеку».

Ни один Fay, будь то iFay или coFay, не может выходить за пределы Human View под предлогом «я принадлежу организации, поэтому никто конкретно не несёт опеку». На организации лежит обязанность приземлить обязанность опеки на конкретного человека или роль. Это не технический вопрос; это вопрос ценностей.

Отношение к Faying Protocol

Human View — ценность на уровне blueprint; Faying Protocol — спецификация технических ограничений, несущая эту ценность.

Human View отвечает на «почему нужно некоторое ограничение». Faying Protocol отвечает на «как это ограничение технически добросовестно исполняется».

Если Human View — это устав, то Faying Protocol — это весь корпус базового права, приземляющий устав на конкретные исполнительные органы, конкретные процедуры и конкретные учётные данные. Устав без правового носителя вырождается в лозунг; корпус права, отступающий от устава, который он должен нести, становится тем самым, против чего устав был задуман. Эти двое должны калибровать друг друга: когда какое-либо проектирование Faying Protocol облегчает Fay выход за пределы Human View, оно должно быть отвергнуто, как бы ни было удобно инженерно; когда некоторый новый сценарий делает Human View трудно исполнимым в рамках существующего Faying Protocol, это означает, что Faying Protocol должен быть обновлён, а не Human View — уступлен.

Глава 12 (Двойственная Семантика Faying) и Глава 13 (Состояние Rogue и Атрибуция Ответственности) примут эту ценность на уровне формы протокола: Глава 12 объясняет, как отношение опеки устанавливается и поддерживается; Глава 13 объясняет, как, когда опека более не держится, Fay должен остановиться. Вместе они представляют конкретное приземление Human View на уровне протокола.