Fin de l'Ère de l'Opération Manuelle

Le Chapitre 1 a esquissé les points douloureux actuels de l'ère des Fays. Ce chapitre les replace dans leur contexte historique pour voir clairement une seule et même chose : le mécanisme d'allocation de la responsabilité qui a soutenu trois décennies de société numérique dans l'Ère de l'Opération Manuelle est en train de sortir silencieusement.

« Opérer, c'est être responsable » est une vieille chaîne invisible

Avant les Fays, chaque interaction entre les humains et le monde numérique reposait sur un fait simple : la personne qui opère est la personne qui est responsable.

Ouvrir une application, taper un texte, presser un bouton, allumer une lampe à un point d'extrémité distant, transférer une somme depuis un compte — chaque action était initiée par une personne spécifique, et chaque conséquence retombait finalement sur cette personne. Que ce soit au niveau du système d'exploitation, au niveau du formulaire web, ou au niveau du terminal IoT, les doigts, les yeux et le jugement humains étaient enracinés dans la chaîne de chaque acte. Lors d'un audit, le système n'avait besoin d'enregistrer qu'un seul fait : ce compte, à cet instant, a fait cette chose. La personne derrière le compte était le terminus de la responsabilité.

Cette chaîne de responsabilité simple a parcouru toute l'ère numérique. Les contrats utilisateur ont arrimé la responsabilité au compte enregistré, le contrôle interne d'entreprise l'a arrimée au code d'emploi, la régulation financière l'a arrimée à l'identité avec nom réel, et le droit pénal, en remontant la cybercriminalité, finissait par remonter jusqu'à la personne spécifique assise devant l'écran. Le modèle tripartite « sujet des données — sous-traitant — responsable du traitement » de GDPR et PIPL, la logique d'OAuth « l'utilisateur autorise l'application », et l'hypothèse d'IAM « le compte lie la permission » reposent tous sur cette même chaîne invisible.

Chaque point douloureux du Chapitre 1 repose essentiellement sur cette vieille chaîne. Ils sont déstabilisants parce que les gens présument encore inconsciemment que « l'acteur est la partie responsable ». Une fois qu'un Fay entre, cette présomption cesse silencieusement de tenir, et toute l'infrastructure sociale construite dessus n'a pas encore remarqué — c'est la véritable source du malaise.

Là où la chaîne se brise

Lorsqu'un Fay agit sur un terminal à la place d'un Human Prime, trois choses se produisent en même temps qui ne se produisaient jamais auparavant :

• l'initiateur de l'action n'est plus le Human Prime, mais le Fay ;
• le contenu de l'action n'est plus dicté étape par étape par le Human Prime, mais inféré de manière autonome par le Fay ;
• les conséquences de l'action retombent toujours sur le Human Prime et sur les personnes et organisations auxquelles ils appartiennent.

Une fissure structurelle s'ouvre entre les deux premiers et le troisième. Cette fissure n'est pas un défaut technique, ni la « perte de contrôle » d'un Fay individuel. C'est l'effet secondaire structurel qui suit nécessairement lorsque cette nouvelle espèce, le Fay, vient à l'existence : pour la première fois, l'initiateur de l'action et le porteur de la responsabilité sont systématiquement séparés.

Lorsqu'un drone perd le contrôle, l'initiateur est le Fay embarqué, et les conséquences ne peuvent être réparties entre l'utilisateur, le fabricant et les autorités municipales ; dans la prise de parole au nom de quelqu'un, l'initiateur est le Fay, et les conséquences atterrissent sur la personne dont le compte l'héberge ; dans la détention de la vie privée, ce qui « détient les données et agit » est le Fay, et les conséquences de toute infraction n'ont pas de destination claire ; dans le vide réglementaire, chaque pays voit une partie de l'acte, et aucun pays ne voit la chaîne complète de la responsabilité. Quelle que soit la dimension que vous regardez, le corps de la fissure est le même : l'initiateur de l'acte n'égale plus le porteur de la responsabilité.

L'état produit par cette séparation systémique est le vide de responsabilité.

Une fois qu'un vide de responsabilité est toléré, il érode rapidement le fondement sur lequel toute la société numérique fonctionne. Droit, assurance, crédit, opinion publique, régulation — tous sont construits sur la prémisse qu'« un acte peut être tracé jusqu'à un sujet responsable ». Lorsque les Fays saturent la société à grande échelle, cette prémisse ne tient plus par défaut ; elle doit être reconstruite.

Trois chemins théoriques, un seul est praticable

Face au vide de responsabilité, il existe en théorie trois chemins.

Le premier est d'interdire aux Fays d'agir. Cela équivaut à interdire les voitures sur les routes, l'électricité sur les réseaux, la diffusion d'Internet. C'est ingéniérable, mais en termes civilisationnels, c'est une régression — chaque valeur de l'ère des Fays décrite au Chapitre 1 est abandonnée le long de ce chemin. Le Faying Protocol ne l'adopte pas.

Le second est de laisser le Fay assumer lui-même la responsabilité. Cela exige que le Fay ait la personnalité juridique, la capacité financière, un crédit indépendant et un mécanisme de responsabilité émotionnelle partagée. En tant que proposition philosophique, c'est intéressant, mais dans un avenir prévisible aucune jurisprudence ni infrastructure sociale ne peut accueillir une « entité intelligente qui n'est ni personne physique ni personne morale, et qui pourtant assume une responsabilité de manière indépendante ». Ce chemin est hors de vue pour la période actuelle.

Le troisième est de lier le contrôle et la responsabilité ensemble par un contrat explicite — tant que le Fay est dans ce contrat, ses actes sont attribués à un Human Prime spécifique ; dès qu'il quitte le contrat, il doit immédiatement cesser d'agir.

Le troisième chemin n'exige pas de réécrire le droit, d'inventer une nouvelle personnalité, ni d'attendre que le consensus social se réforme. Il exige seulement de mettre à niveau la vieille chaîne « opérer, c'est être responsable » de l'Ère de l'Opération Manuelle en une chaîne de contrats qui peut être basculée explicitement entre humain et Fay.

Ce chemin n'est pas optimal. C'est le seul chemin praticable qui peut atterrir aujourd'hui, qui n'abandonne pas la valeur du Fay, et qui peut empêcher le vide de responsabilité de se propager. Ce contrat est le Faying Protocol.

Ce qu'il fait, et ce qu'il ne fait pas

Le Faying Protocol n'est pas une définition de la capacité d'un Fay, ni un code de conduite d'un Fay. C'est le sous-protocole au sein de la famille de protocoles iFay responsable de la sémantique du « contrôle sous tutelle et contrôle délégué », répondant à une question qui semble simple mais qui a été silencieusement répondue pendant des milliers d'années dans l'Ère de l'Opération Manuelle :

Pour cet acte, en ce moment, qui est finalement responsable ?

La réponse de l'Ère de l'Opération Manuelle était évidente — la personne dont la main opérait. À l'ère des Fays, cette réponse ne tient plus par défaut ; un contrat doit explicitement, vérifiablement et révocablement clarifier la réponse.

Le Faying Protocol abstrait le cœur de ce contrat en deux primitives interdépendantes. Faying dénote qu'un Fay, un terminal ou une application logicielle est sous la tutelle d'un Human Prime ; une fois Faying établi, tous les actes du Fay sont attribués à ce Human Prime. Rogue State (Rogue Fay) dénote qu'un Fay n'est actuellement dans aucune relation Faying ; dans cet état, le Fay doit immédiatement cesser toute action vers l'extérieur — son existence est permise, son action ne l'est pas.

La relation entre ces deux primitives n'est pas un « interrupteur » technique ; c'est une ligne éthique inférieure dont la rupture ne peut être tolérée :

Il n'existe aucune action Fay sans partie responsable.

Le but entier pour lequel le Faying Protocol existe est de maintenir cette ligne inférieure techniquement et fidèlement assumée même après que les Fays saturent la société à grande échelle. Ce que les chapitres ultérieurs répondent n'est pas « avons-nous besoin de ce contrat » — la réalité y a déjà répondu — mais « comment faisons-nous atterrir ce contrat au niveau du protocole, dans la pratique d'ingénierie, et à travers les souverains et les fournisseurs en environnements de production ».