Картина Реальности

AI Agent стал общеупотребительным термином в мире программного обеспечения. Им обозначают класс интеллектуальных исполнительных сущностей, способных автономно выполнять конкретные функции — поставьте перед ним цель, и он самостоятельно планирует, вызывает инструменты и выдаёт результаты.

Однако в корпоративных приложениях, регулируемых отраслях и трансграничных сценариях развёртывание AI Agent почти всегда упирается в один и тот же порог: когда Agent совершает ошибку, превышает полномочия или нарушает контракт, ответственность невозможно проследить до конкретной ответственной стороны, которую можно было бы привлечь к суду и обязать возместить убытки. Этот тупик к настоящему моменту стал отраслевым консенсусом. CIO, юридические службы, страховщики и регуляторы — все видят этот порог, но ни один готовый технический или правовой инструмент сам по себе не способен через него переступить.

Концепция Fay реверс-инженерно выводится именно из этого порога. Вся разница между Fay и Agent сводится к одному: Fay должен быть в обязательном порядке прикреплён к ответственной сущности.

• iFay — Individual Fay. Интеллектуальная сущность, в обязательном порядке привязанная один-к-одному к Human Prime. На уровне протокола iFay несёт конкретное физическое лицо, к которому он принадлежит; уберите эту атрибуцию — и это уже не iFay.
• coFay — общий Fay. Ему разрешено действовать только тогда, когда он явно атрибутирован физическому лицу или организации, обладающим правовой способностью нести ответственность. Как только атрибуция утрачивается, он обязан остановиться.

Это определение поднимает прослеживаемость ответственной стороны с уровня compliance-задачи, латаемой в прикладном слое, до уровня условия существования на уровне протокола. Согласно определению этого blueprint, Fay, который не может быть прикреплён к ответственной сущности, попросту не является Fay.

Но определение — это всего лишь имя. Настоящая проблема — инженерная: как обеспечить, чтобы AI Agent всегда работал в состоянии непоколебимой ответственности? Ответ на этот вопрос — Faying Protocol. Он определяет, как отношение «прикрепления к ответственной сущности» устанавливается, поддерживается, верифицируется и отзывается, так что каждое действие Fay соответствует прослеживаемому Human Prime или организационной роли.

Эта глава раскрывает конкретную форму этого порога по семи измерениям и показывает, почему преобладающая комбинация инженерных и правовых инструментов — IAM, OAuth, право о товарной ответственности, платформенный compliance, AI Alignment — не способна нести ни одно из них.

Экономика и структура труда

Захват базовой работы в значительной мере завершён, тогда как правовая структура ответственности по-прежнему живёт на уровне кодов должностей.

В среднего размера e-commerce-компании шесть категорий работ — клиентский сервис, операции, закупки, сверка, взыскание и compliance-проверки — сегодня на шестьдесят-восемьдесят процентов ежедневно выполняются Fays. Внедрение шло постепенно, чаще всего под видом «обновлений инструментария». Результат: когда регулятор ретроспективно отслеживает аномальное решение, ответственное лицо в схеме должностей не может объяснить, в какой день, каким Fay, по какому правилу было принято это решение. Она не может это объяснить и не может это нести, но преследование её правовой системой от этого не прекращается.

Трудовое право, налоговое право и режимы должностной ответственности не успели за этим. Они исходят из того, что субъектом действия является человек в роли. Это допущение поддерживало всё распределение ответственности за цифровой труд последних трёх десятилетий; сегодня оно тихо отказывает.

На один слой глубже Fays уже начали действовать между организациями. Закупочный Fay логистической платформы и котировочный Fay складской платформы автономно за ночь заключают семизначный контракт; обе системы фиксируют Fay-Procurement-A и Fay-Quotation-B пришли к соглашению в 03:14:27. Когда что-то идёт не так, обе юридические команды ищут своих «руководителей закупок» и получают ответ «об этой сделке мне ничего не известно». Договорное право предполагает, что у обеих сторон есть конкретные физические лица, заключающие контракт; это допущение не выдерживает плотности взаимодействия Fay-к-Fay. Каждый дополнительный контракт такого рода добавляет ещё один кусок правового долга, который суды вынуждены разбирать в индивидуальном порядке.

Физический мир

Fay в физическом пространстве опаснее, чем Fay в информационном. Причина проста: ошибки в информационном пространстве можно отменить; ошибки в физическом пространстве — нельзя.

Доставка дронами уже стала обыденностью во многих местах. Бытовые сервисные роботы вышли на потребительский рынок. Пробег развёрнутого автопилота удваивается год к году. Ни одно из этих устройств не является дистанционно управляемым продолжением — бортовой Fay, облачный Fay и стратегия вендора вместе порождают решения в трёхстороннем замесе. Когда дрон в итоге врезается в навесной фасад, нельзя назвать готовый ответственный конец: ни бортовой Fay, потому что это всего лишь программа; ни облачный Fay, потому что он работает на инфраструктуре другой компании; ни производитель, потому что он может представить доказательства того, что «наш продукт не демонстрировал такого поведенческого паттерна при тестировании»; ни пользователь, потому что пользователь лишь нажал «вперёд».

Страховые компании за последние два года тихо начали отказывать в покрытии нескольких категорий продуктов, содержащих способность принятия решений Fay. Причина не в том, что эти продукты опаснее — по статистике их аварийность даже ниже, — а в том, что их аварии невозможно атрибутировать. Суть страхования — конвертация атрибутируемого риска в цену. Риск, который невозможно атрибутировать, невозможно оценить.

Право о товарной ответственности предполагает, что у продукта есть идентифицируемый разработчик и что разработчик несёт ответственность за дефекты конструкции. «Конструкция» Fay распределена: базовая модель от A, дообучение от B, runtime от C, интеграция от D, паттерн вызова определён E. Когда что-то идёт не так, пять компаний показывают друг на друга, а регулятор сталкивается с неразрешимым графом атрибуции.

Уголовное право идёт ещё глубже. Уголовное право преследует только тех, кто обладает уголовной дееспособностью. Fay таким субъектом не является. Когда Fay напрямую причиняет телесный вред, уголовное право не может найти концепта «деятеля», который мог бы принять это деяние. Это не значит, что никто не виноват — это значит, что логическая цепь уголовного права обрывается на Fay.

Информация и общественное доверие

Fays, говорящие от чьего-то имени, — это не deepfake из новостей; это уже рутинная функция для рядовых пользователей. У человека есть Fay, который ежедневно отвечает на десятки комментариев, публикует несколько записей и поддерживает «теплоту» социальных связей на социальных платформах. Ответы «звучат как он», потому что Fay постоянно учится его тону; но содержание генерируется Fay автономно, и сам человек его даже не читал.

Fays, пишущие контент, несут всё бóльшую долю «творческого длинного хвоста» на платформах создателей — огромные объёмы продуктовых описаний, рекламных кампаний и ответов в Q&A едут на аккаунтах реальных людей, но производятся Fays. Fays, подписывающие контракты от чьего-то имени, уже стали рутиной в подписочных сервисах, закупке энергии и торгах за рекламные слоты. В контракте указано «подписан пользователем X в такой-то момент», а пользователь X в этот момент спал.

Платформы начали ощущать сдвиг. Системы модерации контента крупных платформ за последние два года были вынуждены обрабатывать новый вопрос: написано ли это содержание пользователем, написано ли AI по указанию пользователя или сгенерировано AI автономно под аккаунтом пользователя? Эти три случая соответствуют совершенно разным режимам ответственности, стратегиям обработки и compliance-рискам, а у платформ нет технических средств надёжно их различать. Они могут лишь угадывать по грубым статистическим признакам, одновременно порождая массу ложных срабатываний и массу пропусков.

Более чувствительная, но неизбежная категория: данные общественного мнения в избирательных циклах не раз показывали, что кривая, на которой «поддержка некоторой темы вырастает с 18% до 41% за три дня», подкреплена сотнями тысяч аккаунтов Fay, синхронно производящих сходящиеся высказывания. Коммерческий кредит видел массовое одобрение, ведомое Fay: в отзывах нового бренда четыреста из пятисот записей сгенерированы Fays силами совместной работы трёх агентств. Каждый отзыв «выглядит как опыт реального пользователя», но каждого автора не существует.

Этот переписывание — не одна крупная атака; оно ежедневное, непрерывное и кумулятивное. Общество ежедневно обрабатывает информацию исходя из неявного допущения «это опубликовано таким-то человеком». Когда всё бóльшая доля этого допущения уже не выполняется, фундамент общественного доверия тихо подмывается, и подмыв не оставляет очевидной тревоги.

Конфиденциальность и данные

Предпосылка того, чтобы позволить Fay «действовать от вашего имени», — это то, что он должен «вас знать». Ему нужно знать ваши предпочтения, привычки, отношения, финансы, медицинские записи, расписание, местоположение, намерения. Fay — это сущность, которая узнала Human Prime глубже, чем что бы то ни было в истории — глубже супруга, потому что он рядом с вами каждый день; глубже врача, потому что он может сшивать записи по всем больницам; глубже работодателя, потому что он может сшивать рабочую почту, личную почту и ваш календарь.

Предпосылкой всего этого является доверительное отношение между Fay и Human Prime. Сегодня это «отношение» обычно сводится не более чем к флажку в пользовательском соглашении и переключателю внутри продукта. Эта форма далека от того, что необходимо, чтобы нести знание такой глубины.

Fays также не работают изолированно. Личный Fay, обрабатывающий задачу, может вызвать coFay в облаке, который, в свою очередь, вызывает возможности стороннего вендора, работающие на инфраструктуре ещё одной компании. Через скольких сторон по этой цепи вызовов проходят персональные данные пользователя? Это передача чтением, копированием или переписыванием? Какие стороны лишь транзитируют, а какие сохраняют копии? Никто не может ответить ясно — каждая сторона может ручаться лишь за свой сегмент, и глобального обзора нет.

GDPR и PIPL оба построены на трёхсторонней модели: субъект данных, обработчик данных, контроллер данных. Модель предполагает, что все три стороны — организации или физические лица, идентифицируемые, подотчётные и проверяемые регулятором. С появлением Fay в картине трёхсторонняя модель мгновенно теряет своё отображение. Является ли Fay обработчиком или контроллером? Или чем-то промежуточным? Или новой категорией «представитель субъекта данных» — но само понятие представителя предполагает, что представитель обладает правосубъектностью.

Регуляторы в разных регионах пытаются восполнить этот пробел. Но одну предпосылку обойти нельзя: уровень протокола должен сначала ясно изложить факты — какому Fay принадлежит этот поток данных, какому Human Prime он атрибутирован, находится ли он в Faying State или в состоянии Rogue, передан ли он третьим сторонам. Без этого правовая стыковка всегда будет уходить в пустоту.

Трансграничность и кросс-платформенность

Ранний Интернет установил TCP/IP — трансграничный, кросс-вендорный транспортный протокол. Он не решил «что делает прикладной уровень», но решил «как любые две стороны могут обмениваться данными, не доверяя друг другу».

Эре Fay недостаёт эквивалентного «трансграничного, кросс-вендорного протокола взаимного доверия». Когда Fay со стороны США сотрудничает с Fay со стороны Китая для совершения трансграничной e-commerce-сделки, на три вопроса нет общего ответа: кто докажет, что другая сторона действительно тот Fay, за которого она себя выдаёт? Кто докажет, что в данный момент он находится под опекой своего Human Prime? Кто несёт ответственность, когда что-то идёт не так? Сегодня каждый сценарий трансграничного сотрудничества Fay отвечает на эти три вопроса ad hoc, двусторонне, по контракту. Этот N²-контрактный паттерн не масштабируется при взрывном росте числа Fay.

Чтобы Fays вообще могли взаимодействовать в отсутствие единого протокола, инженеры наслаивают временные меры слой за слоем: каждый вендор выпускает собственный API-ключ, каждая платформа строит собственный OAuth-прокси, каждая кросс-вендорная интеграция пишет собственное compliance-обязательство. Система ещё работоспособна, когда Fays исчисляются сотнями тысяч. Когда же они вырастут в сотни миллионов или миллиардов, совокупная операционная стоимость такой системы намного превзойдёт совокупный эффект, который сами Fays приносят. Это экспоненциальная кривая в инженерных терминах; её нельзя решить «бросанием бóльшего числа инженеров» и нужно сглаживать с корня — унификацией базовых фактов на уровне протокола.

Самая тонкая боль — это структурный вакуум. Fay обслуживает конечных пользователей в стране A, работает на облаке в стране B, обучен вендором из страны C, использует базовую модель из страны D и вызывает возможности третьих сторон из страны E. У каждой из пяти стран есть закон о защите данных, закон о регулировании AI и закон о товарной ответственности, но пять правовых режимов не связаны между собой, и каждый может дотянуться лишь до небольшого сегмента этой цепи. В какой-то момент регуляторы будут вынуждены сжать трансграничную работу Fay административной мерой — и тогда потери понесёт не только индустрия Fay, но и каждая ценность, которую общество могло бы получить от экосистемы Fay.

Личная идентичность и представительство

Системы аутентификации идентичности — двухфакторная, биометрия, Passkey, OAuth — все исходят из того, что два конца аутентификации — это «приложение ↔ пользователь-человек». Когда между ними вклинивается Fay, система начинает чувствовать себя странно: приложение видит «это токен пользователя», но запрос инициирован Fay; пользователь включил «разблокировку отпечатком, чтобы Fay мог действовать от моего имени», но того, продолжает ли каждое последующее действие Fay представлять текущее намерение пользователя, нельзя верифицировать непрерывно; злоумышленник, перехвативший одно из окон авторизации пользователя, может выдать себя за Fay и сделать что угодно в этом окне, причём как приложению, так и пользователю крайне трудно это обнаружить.

Это структурный разлом аутентификации идентичности в эре Fay. Его нельзя залатать «добавлением ещё одного фактора». Вопрос не в том, «вошёл ли в систему пользователь», а в том, «происходит ли это конкретное поведение под опекой пользователя».

Существует давнее правовое понятие — представительство: одно лицо может уполномочить другое действовать от своего имени в определённых вопросах. У отношения представительства есть ясные правовые правила: объём представительства, срок представительства, обязанность представителя проявлять заботу, правовые последствия превышения представителем своих полномочий.

Когда Fays вступают в отношения представительства, все эти правила нуждаются в переосмыслении. Как определить «обязанность заботы» Fay — должен ли он остановиться и спросить, когда объём представительства неоднозначен? Как обнаружить «превышение представительства» Fay — насколько далеко его суждение должно отклониться от истинного намерения принципала, чтобы это считалось превышением? Где граница действия Fay, когда принципал недееспособен? Прекращает ли смерть принципала автоматически представительство Fay, или некоторые виды представительства могут продолжаться в рамках управления наследством?

Это не бумажные упражнения для правоведов. Они уже сегодня всплывают, дело за делом, в больницах, банках, нотариальных конторах и судах; каждое дело судья разбирает по интуиции, и эти разборы противоречат друг другу. Предпосылка для стыковки правового режима представительства с эрой Fay — это то, что уровень протокола может стабильно сообщать правовой системе: при каком отношении Faying было инициировано это действие Fay, какому объёму и сроку представительства оно соответствует, и находится ли оно в пределах своего срока действия.

Почему существующие решения не подходят

Дочитав до этого места, естественно задаться вопросом: эти боли реальны, но разве нет существующих инструментов? IAM, OAuth, ограничение скорости API, подпись Webhook, AI Alignment — разве они уже не решают часть этого?

Ответ в том, что они решают смежные проблемы, а не основную.

IAM решает «кто такой аккаунт», а не «кому принадлежит действие». Вся способность IAM-системы вращается вокруг идентичности аккаунта — как называется аккаунт, к какой организации он принадлежит, какие права у него есть. Её проектная предпосылка — за аккаунтом стоит человек, и идентичность человека — это атрибуция действия. Fay не является аккаунтом; это сущность, прикреплённая за аккаунтом и совершающая действие. Когда Fay инициирует действие под идентичностью аккаунта, всё, что видит IAM, — это «у этого аккаунта есть право это делать», но он не может ответить «делает ли это сейчас человек, стоящий за аккаунтом, или это делает Fay».

OAuth и подписи Webhook решают «легитимность вызова», а не «атрибуцию ответственности». OAuth решает «авторизовано ли приложение A вызывать приложение B от имени пользователя»; подпись Webhook решает «действительно ли этот callback от заявленного отправителя». Оба касаются легитимности цепи вызовов; ни один не несёт никакого поля, выражающего «к какому конкретному Human Prime принадлежит лежащее в основе действие». Когда Fay вызывает некий API с токеном, полученным через OAuth, OAuth видит «токен валиден, вызов легитимен», но не знает, инициирован ли вызов Fay в Faying State или в состоянии Rogue в нарушение правил. OAuth и Webhook не нужно заменять; их нужно покрыть слоем протокола, специальной заботой которого является «атрибуция действия».

Compliance-фреймворки Agent-платформ замкнуты; платформы не взаимодействуют между собой. Каждая Agent-платформа строит собственный compliance-фреймворк — условия использования, модерация контента, обнаружение злоупотреблений, заявления об ответственности. Эти фреймворки относительно самосогласованы внутри платформы, но у них есть два фундаментальных ограничения: платформы не взаимодействуют между собой; и гранулярность останавливается на уровне аккаунта или приложения, никогда не достигая конкретного действия. Compliance-фреймворк может забанить злоупотребляющий аккаунт, но не может в реальном времени вынести суждение на уровне «должно ли это действие произойти».

AI Alignment заботится о внутренних ценностях Fay; он не решает атрибуцию внешней ответственной стороны. Alignment решает «что Fay хочет делать»; Faying Protocol решает «может ли Fay действовать прямо сейчас и кому принадлежит действие, когда он действует». Идеально выровненный Fay всё равно может произвести действие без опеки Human Prime, и у этого действия не будет того, кто примет ответственность. Совершенно невыровненный Fay всё равно может быть заперт в состоянии Rogue и принуждён к бездействию. Alignment — это внутренняя этика Fay; Faying Protocol — это внешний режим ответственности Fay. Оба незаменимы; ни один не может заменить другого.

Завершение

Боли по семи измерениям охватывают индустрию, право и общество, но они пересекаются в одном:

Когда Fay действует, кто несёт ответственность за это действие?

Эра Ручного Управления имела простой ответ, не нуждавшийся в выражении через протокол: тот, чья рука управляла. В эре Fay этот ответ по умолчанию уже не работает; он должен быть ясно выражен явным, машиночитаемым протоколом, который может быть совместно верифицирован разными суверенитетами и разными вендорами.

Это вся причина, по которой существует Faying Protocol.