Paysage de la Réalité

AI Agent est devenu un terme courant dans le monde du logiciel. Il désigne une catégorie d'instances d'exécution intelligentes capables de mener à bien de manière autonome des fonctions spécifiques — donnez-lui un objectif, et il planifie, appelle des outils et produit des résultats par lui-même.

Mais à travers les applications d'entreprise, les industries réglementées et les scénarios transsouverains, le déploiement des AI Agents s'arrête presque toujours au même seuil : lorsqu'un Agent commet une erreur, outrepasse ses droits ou rompt un contrat, la responsabilité ne peut être remontée jusqu'à une partie responsable concrète, susceptible d'être poursuivie et tenue de verser des dommages-intérêts. Ce blocage est désormais un consensus de l'industrie. Les CIO, les juristes, les assureurs et les régulateurs voient tous ce seuil, mais aucun outil technique ou juridique disponible sur étagère ne peut, à lui seul, le franchir.

Le concept de Fay est rétro-conçu précisément à partir de ce seuil. La distinction entière entre Fay et Agent se ramène à une seule chose : un Fay doit être obligatoirement attaché à une entité responsable.

• iFay — Individual Fay. Une entité intelligente obligatoirement attachée un-pour-un à un Human Prime. Au niveau du protocole, un iFay porte la personne physique spécifique à laquelle il appartient ; supprimez cette attribution, et ce n'est plus un iFay.
• coFay — Un Fay partagé. Il n'est autorisé à fonctionner que lorsqu'il est explicitement attribué à un individu ou une organisation ayant la capacité juridique d'assumer une responsabilité. Une fois cette attribution caduque, il doit s'arrêter.

Cette définition élève la traçabilité de la partie responsable, d'un problème de conformité rapiécé au niveau applicatif, jusqu'à une condition d'existence au niveau du protocole. Sous la définition du présent plan directeur, un Fay qui ne peut être attaché à une entité responsable n'est tout simplement pas un Fay.

Mais une définition n'est qu'un nom. Le vrai problème est d'ingénierie : comment garantir qu'un AI Agent opère toujours dans un état de responsabilité inébranlable ? La réponse à cette question est le Faying Protocol. Il définit comment la relation « attaché à une entité responsable » est établie, soutenue, vérifiée et révoquée, de sorte que chaque action entreprise par un Fay corresponde à un Human Prime ou à un rôle organisationnel traçable.

Ce chapitre expose la forme concrète de ce seuil à travers sept dimensions, et montre pourquoi la combinaison dominante des outils d'ingénierie et juridiques — IAM, OAuth, droit de la responsabilité du fait des produits, conformité de plateforme, AI Alignment — ne peut en supporter aucune.

Économie et structure du travail

La prise en charge du travail de base est largement achevée, tandis que le cadre juridique de la responsabilité vit encore au niveau des codes d'emploi.

Dans une entreprise de e-commerce de taille moyenne, les six catégories — service client, opérations, achats, rapprochement, recouvrement et examen de conformité — voient aujourd'hui soixante à quatre-vingts pour cent de leur travail quotidien pris en charge par des Fays. L'introduction s'est faite progressivement, présentée le plus souvent comme une « mise à niveau d'outil ». Le résultat : lorsque les régulateurs remontent rétroactivement une décision anormale, la personne responsable selon l'organigramme des codes d'emploi ne peut expliquer à quel jour, par quel Fay, sous quelle règle cette décision a été prise. Elle ne peut pas l'expliquer, et elle ne peut pas l'assumer, mais la poursuite par le système juridique ne s'arrête pas pour autant.

Le droit du travail, le droit fiscal et les régimes de responsabilité d'emploi n'ont pas suivi. Ils supposent que la personne occupant le rôle est l'acteur. Cette hypothèse a soutenu toute l'allocation de la responsabilité du travail numérique au cours des trois dernières décennies ; aujourd'hui, elle défaille en silence.

Une couche plus profonde, les Fays ont déjà commencé à agir entre organisations. Le Fay d'achat d'une plateforme logistique et le Fay de cotation d'une plateforme d'entreposage closent de manière autonome, en une nuit, un contrat à sept chiffres ; les deux systèmes consignent Fay-Achat-A et Fay-Cotation-B sont parvenus à un accord à 03:14:27. Lorsque quelque chose tourne mal, les deux équipes juridiques recherchent leur « directeur des achats » respectif et obtiennent la réponse « Je ne suis pas au courant de cette transaction ». Le droit des contrats suppose que les deux parties disposent de personnes physiques contractantes spécifiques ; cette hypothèse ne tient pas à la densité de la collaboration Fay-à-Fay. Chaque contrat supplémentaire de ce type ajoute une dette juridique de plus, à laquelle les tribunaux devront répondre cas par cas.

Le monde physique

Un Fay dans l'espace physique est plus dangereux qu'un Fay dans l'espace informationnel. La raison est simple : les erreurs dans l'espace informationnel peuvent être annulées ; les erreurs dans l'espace physique ne le peuvent pas.

La livraison par drone est désormais courante en de nombreux endroits. Les robots de service à domicile sont entrés sur le marché grand public. Le kilométrage de déploiement de la conduite autonome double d'année en année. Aucun de ces appareils n'est une extension télécommandée — Fay embarqué, Fay du cloud et stratégie du fournisseur produisent ensemble des décisions dans un mélange tripartite. Lorsqu'un drone finit par heurter un mur-rideau, aucune extrémité responsable disponible sur étagère ne peut être nommée : ni le Fay embarqué, parce que ce n'est qu'un programme ; ni le Fay du cloud, parce qu'il tourne sur l'infrastructure d'une autre société ; ni le fabricant, parce qu'il peut produire des preuves que « notre produit n'a montré aucun tel schéma de comportement lors des tests » ; ni l'utilisateur, parce que l'utilisateur n'a fait que presser « partir ».

Les compagnies d'assurance ont, ces deux dernières années, discrètement commencé à refuser de couvrir plusieurs catégories de produits incorporant une capacité de décision Fay. La raison n'est pas que ces produits soient plus dangereux — d'après les statistiques, leurs taux d'accidents sont même plus faibles — c'est que leurs accidents ne peuvent être attribués. L'essence de l'assurance est la conversion d'un risque attribuable en un prix. Un risque qui ne peut être attribué ne peut être tarifé.

Le droit de la responsabilité du fait des produits suppose qu'un produit a un concepteur identifiable et que le concepteur est responsable des défauts de conception. La « conception » d'un Fay est distribuée : le modèle de fondation vient de A, le fine-tuning de B, le Runtime de C, l'intégration de D, et le schéma d'invocation est décidé par E. Lorsque quelque chose tourne mal, cinq sociétés se renvoient la balle, et les régulateurs font face à un graphe d'attribution insoluble.

Le droit pénal va plus loin encore. Le droit pénal ne poursuit que ceux qui ont la capacité pénale. Un Fay n'est pas un tel sujet. Lorsqu'un Fay cause directement un préjudice corporel, le droit pénal ne peut trouver aucun concept d'« auteur » pour recevoir l'acte. Cela ne signifie pas que personne n'est en faute — cela signifie que la chaîne logique du droit pénal se rompt au niveau du Fay.

Information et confiance sociale

Les Fays parlant au nom de quelqu'un ne sont pas les deepfakes des actualités ; ils sont déjà une fonctionnalité de routine pour les utilisateurs ordinaires. Une personne fait répondre par un Fay à des dizaines de commentaires, publier quelques entrées et entretenir la « chaleur » des liens sociaux sur les plateformes sociales chaque jour. Les réponses « lui ressemblent », parce que le Fay apprend continuellement son ton ; mais le contenu est généré de manière autonome par le Fay, et elle ne l'a même pas lu.

Les Fays qui rédigent du contenu portent une part de plus en plus large de la « longue traîne créative » sur les plateformes de créateurs — d'immenses quantités de descriptions de produits, de promotions de campagnes et de réponses à des questions-réponses circulent sur des comptes de personnes réelles mais sont produites par des Fays. Les Fays qui signent des contrats au nom de quelqu'un sont désormais courants dans les services par abonnement, l'achat d'énergie et les enchères d'emplacements publicitaires. Un contrat indique « signé par l'utilisateur X à un instant donné », pourtant l'utilisateur X dormait à cet instant.

Les plateformes ont commencé à ressentir le changement. Les systèmes de modération de contenu des grandes plateformes ont, ces deux dernières années, été contraints de traiter une nouvelle question : ce contenu a-t-il été écrit par l'utilisateur, écrit par l'IA sur instruction de l'utilisateur, ou généré de manière autonome par l'IA sous le compte de l'utilisateur ? Les trois cas correspondent à des responsabilités, des stratégies de traitement et des risques de conformité totalement différents, et les plateformes n'ont aucun moyen technique pour les distinguer de manière fiable. Elles ne peuvent que deviner d'après des caractéristiques statistiques grossières, avec des faux positifs en masse et des cas manqués en masse en même temps.

Une catégorie plus sensible mais incontournable : les données d'opinion publique en cycle électoral ont, à plus d'une reprise, montré que la courbe où « le soutien à un sujet passe de 18% à 41% en trois jours » est soutenue par des centaines de milliers de comptes Fay produisant des déclarations convergentes en synchronisation. Le crédit commercial a connu des soutiens massifs orchestrés par des Fays : dans les avis d'une nouvelle marque, quatre cents sur cinq cents entrées sont générées par des Fays grâce au travail conjoint de trois agences. Chaque avis « ressemble à l'expérience d'un utilisateur réel », mais chaque auteur n'existe pas.

Cette réécriture n'est pas une seule attaque majeure ; elle est quotidienne, continue et cumulative. La société traite l'information chaque jour sur l'hypothèse implicite « ceci a été publié par telle ou telle personne ». Lorsqu'une part de plus en plus large de cette hypothèse ne tient plus, le fondement de la confiance sociale est silencieusement creusé, et le creusement ne laisse aucune alarme évidente.

Vie privée et données

La condition préalable pour laisser un Fay « agir en votre nom » est qu'il doit « vous connaître ». Il doit connaître vos préférences, vos habitudes, vos relations, vos finances, vos dossiers médicaux, votre emploi du temps, votre localisation, vos intentions. Un Fay est l'entité qui a connu un Human Prime plus profondément que tout dans l'histoire — plus qu'un conjoint, parce qu'il est à vos côtés chaque jour ; plus qu'un médecin, parce qu'il peut assembler des dossiers à travers tous les hôpitaux ; plus que votre employeur, parce qu'il peut assembler le courriel professionnel, le courriel personnel et votre calendrier.

La condition préalable de tout cela est une relation de confiance entre le Fay et le Human Prime. Aujourd'hui cette « relation » n'est généralement rien de plus qu'une case à cocher dans un contrat utilisateur et un interrupteur à l'intérieur d'un produit. Cette forme est très en deçà de ce qui est nécessaire pour porter une connaissance aussi profonde.

Les Fays ne fonctionnent pas non plus de manière isolée. Un Fay personnel traitant une tâche peut invoquer un coFay côté cloud, qui à son tour invoque des capacités de fournisseurs tiers, qui s'exécutent sur l'infrastructure d'une autre société encore. Le long de cette chaîne d'invocation, par combien de parties les données privées de l'utilisateur passent-elles ? Le passage se fait-il par lecture, copie ou réécriture ? Quelles parties ne font que transiter, et lesquelles conservent des copies ? Personne ne peut répondre clairement — chaque partie ne peut promettre que pour son propre segment, et il n'y a pas de vue globale.

GDPR et PIPL sont tous deux construits sur un modèle tripartite : sujet des données, sous-traitant des données, responsable du traitement. Le modèle suppose que les trois parties sont des organisations ou des personnes physiques, identifiables, responsables et contrôlables par les régulateurs. Avec les Fays dans le tableau, le modèle tripartite perd immédiatement sa cartographie. Un Fay est-il un sous-traitant ou un responsable du traitement ? Ou quelque part entre les deux ? Ou nouvellement classé comme « agent du sujet des données » — mais le concept même d'agent suppose que l'agent a une personnalité juridique.

Les régulateurs de différentes régions tentent de combler cette lacune. Mais une condition préalable ne peut être évitée : le niveau du protocole doit d'abord énoncer clairement les faits — à quel Fay appartient ce flux de données, à quel Human Prime il est attribué, s'il est en Faying State ou en état Rogue, s'il est partagé avec des tiers. Sans cela, l'arrimage juridique reviendra toujours bredouille.

Cross-souverain et cross-plateforme

L'Internet primitif a établi TCP/IP — un protocole de transport transsouverain, transvendeur. Il n'a pas résolu « ce que fait la couche application », mais il a résolu « comment deux parties quelconques peuvent échanger des données sans se faire confiance mutuellement ».

L'ère des Fays manque d'un équivalent « protocole transsouverain, transvendeur de confiance mutuelle ». Lorsqu'un Fay côté États-Unis collabore avec un Fay côté Chine pour finaliser une transaction de e-commerce transfrontalière, trois questions n'ont pas de réponse partagée : qui prouve que l'autre côté est réellement le Fay qu'il prétend être ? Qui prouve qu'il est, à cet instant, sous la tutelle de son Human Prime ? Qui assume la responsabilité lorsque quelque chose tourne mal ? Aujourd'hui, chaque scénario de collaboration Fay transfrontalière répond à ces trois questions de manière ad hoc, bilatérale, contractuelle. Ce schéma de N² contrats ne passe pas à l'échelle lorsque le nombre de Fays explose.

Pour faire interopérer les Fays tant bien que mal en l'absence d'un protocole unifié, les ingénieurs empilent des mesures temporaires couche après couche : chaque fournisseur émet sa propre clé d'API, chaque plateforme construit son propre proxy OAuth, chaque intégration entre fournisseurs rédige sa propre convention de conformité. Le système est à peine viable lorsque les Fays se comptent en centaines de milliers. Lorsqu'ils atteindront des centaines de millions ou des milliards, le coût opérationnel total de ce système dépassera de loin le bénéfice total que les Fays eux-mêmes apportent. Il s'agit d'une courbe exponentielle en termes d'ingénierie ; elle ne peut être résolue en « jetant davantage d'ingénieurs dans la mêlée » et doit être aplatie à la racine en unifiant les faits de base au niveau du protocole.

Le point douloureux le plus subtil est le vide structurel. Un Fay sert des utilisateurs finaux dans le pays A, tourne sur un cloud dans le pays B, a été entraîné par un fournisseur dans le pays C, utilise un modèle de fondation du pays D, et invoque des capacités tierces du pays E. Chacun des cinq pays a un droit de la protection des données, un droit de la régulation de l'IA et un droit de la responsabilité du fait des produits, mais les cinq régimes juridiques n'interconnectent pas, et chacun ne peut atteindre qu'un petit segment de cette chaîne. Un jour, les régulateurs seront contraints de comprimer l'opération transfrontalière des Fays par mesure administrative — moment auquel la perte ne se limitera pas à l'industrie des Fays, mais à toute la valeur que la société aurait pu retirer de l'écosystème Fay.

Identité individuelle et capacité d'agir

Les systèmes d'authentification d'identité — double facteur, biométrie, Passkey, OAuth — supposent tous que les deux extrémités de l'authentification sont « application ↔ utilisateur humain ». Lorsqu'un Fay est interposé au milieu, le système commence à grincer : l'application voit « ceci est le jeton de l'utilisateur », mais la requête est initiée par le Fay ; l'utilisateur a activé « déverrouillage par empreinte digitale pour que le Fay puisse agir en mon nom », mais que chaque action ultérieure du Fay représente toujours l'intention présente de l'utilisateur ne peut être vérifié continûment ; un attaquant qui capture l'une des fenêtres d'autorisation de l'utilisateur peut se faire passer pour le Fay et faire n'importe quoi à l'intérieur de cette fenêtre, l'application comme l'utilisateur ayant grand peine à le détecter.

C'est la fissure structurelle de l'authentification d'identité à l'ère des Fays. Elle ne peut être colmatée en « ajoutant un autre facteur ». La question n'est pas « est-ce l'utilisateur qui se connecte », mais « ce comportement spécifique se déroule-t-il sous la tutelle de l'utilisateur ».

Il existe un concept juridique de longue date appelé agency (mandat d'agence) — une personne peut autoriser une autre à agir en son nom dans certaines matières. La relation d'agence a des règles juridiques claires : étendue de l'agence, durée de l'agence, devoir de diligence de l'agent, conséquences juridiques lorsqu'un agent dépasse son autorité.

Lorsque les Fays entrent dans des relations d'agence, toutes ces règles doivent être réexaminées. Comment définir le « devoir de diligence » d'un Fay — doit-il s'arrêter et demander lorsque l'étendue de l'agence est ambiguë ? Comment détecter un « dépassement d'agence » par un Fay — à quel point son jugement doit-il diverger de l'intention véritable du mandant pour qu'il soit qualifié de dépassement ? Où se trouve la limite d'action d'un Fay lorsque le mandant est dans l'incapacité ? Le décès du mandant met-il automatiquement fin à l'agence du Fay, ou certaines agences peuvent-elles se poursuivre dans l'administration de la succession ?

Ce ne sont pas des exercices de papier pour des juristes universitaires. Ils émergent aujourd'hui, cas après cas, dans les hôpitaux, les banques, les études notariales et les tribunaux ; chaque cas est traité par un juge à l'intuition, et les traitements se contredisent les uns les autres. La condition préalable pour que le régime juridique de l'agent puisse s'arrimer à l'ère des Fays est que le niveau du protocole puisse dire de manière stable au système juridique : sous quelle relation Faying cette action Fay a été initiée, à quelle étendue et durée d'agence elle correspond, et si elle se trouve dans sa période d'effet.

Pourquoi les solutions existantes sont insuffisantes

À ce stade de la lecture, une question naturelle se pose : ces points douloureux sont réels, mais n'existe-t-il pas d'outils existants ? IAM, OAuth, limitation de débit d'API, signature de Webhook, AI Alignment — ne résolvent-ils pas déjà certains de ces points ?

La réponse est qu'ils résolvent des problèmes adjacents, non le problème central.

IAM résout « qui est le compte », non « à qui appartient l'acte ». Toute la capacité d'un système IAM gravite autour de l'identité du compte — comment s'appelle le compte, à quelle organisation il appartient, quelles permissions il a. Sa prémisse de conception est qu'il y a une personne derrière le compte, et que l'identité de la personne est l'attribution de l'acte. Un Fay n'est pas un compte ; c'est une entité attachée derrière un compte qui agit. Lorsqu'un Fay initie une action sous l'identité d'un compte, tout ce que IAM voit est « ce compte a le droit de faire cela », mais il ne peut répondre à « est-ce la personne derrière le compte qui fait cela en ce moment, ou est-ce le Fay qui le fait ».

OAuth et les signatures de Webhook résolvent « la légitimité de l'appel », non « l'attribution de responsabilité ». OAuth résout « l'application A est-elle autorisée à appeler l'application B au nom de l'utilisateur » ; la signature de Webhook résout « ce callback provient-il vraiment de l'expéditeur revendiqué ». Les deux concernent la légitimité de la chaîne d'appel ; aucun ne porte de champ exprimant « à quel Human Prime spécifique appartient l'acte sous-jacent ». Lorsqu'un Fay appelle une API avec un jeton obtenu via OAuth, OAuth voit « le jeton est valide, l'appel est légitime », mais il ne sait pas si l'appel a été initié par le Fay en Faying State ou en état Rogue en violation des règles. OAuth et Webhook n'ont pas besoin d'être remplacés ; ils ont besoin d'être couverts par une couche de protocole dont la préoccupation dédiée est « l'attribution de l'acte ».

Les cadres de conformité des plateformes Agent sont fermés ; les plateformes n'interopèrent pas. Chaque plateforme Agent construit son propre cadre de conformité — conditions d'utilisation, modération de contenu, détection d'abus, déclarations de responsabilité. Ces cadres sont relativement auto-cohérents au sein de la plateforme, mais ils ont deux limites fondamentales : les plateformes n'interopèrent pas ; et la granularité s'arrête au niveau du compte ou de l'application, n'atteignant jamais l'acte spécifique. Un cadre de conformité peut bannir un compte abusif, mais il ne peut pas porter un jugement en temps réel au niveau de « cet acte devrait-il avoir lieu ».

AI Alignment se soucie des valeurs intérieures du Fay ; il ne résout pas l'attribution d'une partie responsable externe. L'Alignment résout « ce que le Fay veut faire » ; le Faying Protocol résout « si le Fay peut agir en ce moment, et à qui appartient l'acte une fois qu'il agit ». Un Fay parfaitement aligné peut toujours produire une action sans la tutelle d'un Human Prime, et cette action n'a personne pour recevoir la responsabilité. Un Fay totalement non aligné peut toujours être verrouillé en état Rogue et forcé à l'inaction. L'Alignment est l'éthique intérieure d'un Fay ; le Faying Protocol est le régime de responsabilité extérieur d'un Fay. Les deux sont indispensables ; aucun ne peut remplacer l'autre.

Conclusion

Les points douloureux dans les sept dimensions s'étendent à l'industrie, au droit et à la société, mais ils se croisent sur la même chose :

Lorsqu'un Fay agit, qui est responsable de l'acte ?

L'Ère de l'Opération Manuelle avait une réponse simple qui ne nécessitait aucun protocole pour être exprimée : la personne dont la main opérait. À l'ère des Fays, cette réponse ne tient plus par défaut ; elle doit être exprimée clairement par un protocole explicite, lisible par machine, qui peut être conjointement vérifié par différents souverains et différents fournisseurs.

C'est la raison entière pour laquelle le Faying Protocol existe.