FUTURE THINKING

La bonne relation entre les humains et l'IA : pourquoi nous avons besoin du système Fay, et non d'Agents plus puissants

Je commence par la conclusion : je ne crois pas que ce dont l'humanité a vraiment besoin, ce soit d'« Agents plus puissants ». Ce dont nous avons réellement besoin, c'est d'une entité d'IA qui puisse être identifiée, encadrée et tenue pour responsable au sein de la société.

Car si l'IA n'est qu'une machine, elle ne fera que devenir plus forte — et la société n'en aura que plus peur. Tous les « récits de menace de l'IA » que vous voyez parlent en surface de technologie, mais posent au fond la même question : lorsque l'IA se met à agir, qui supporte les conséquences ?

C'est le cœur d'iFay : il ne résout pas un « problème de fonctionnalité », il résout le « problème de la relation entre les humains et l'IA ».

D'abord un petit détail : pourquoi appelons-nous cela Fay ?

Le mot « Fay » signifie à l'origine « fée ». Ce que nous voulons exprimer, c'est ceci : à l'avenir, l'IA peut devenir la fée numérique de chaque personne — voire quelque chose comme une « âme numérique » — proche, durable, à votre écoute, capable d'agir, mais jamais une force sauvage détachée de la responsabilité.

Vous pourriez demander : pourquoi alors ne pas l'appeler « avatar » ?

Parce que le mot « Avatar » a été trop profondément marqué par le cinéma. L'Avatar des films ressemble davantage à un « corps » contrôlé par la cognition humaine. Or l'IA à laquelle nous avons affaire est exactement l'inverse : elle ressemble plutôt à une version augmentée de la cognition humaine — un « module externe » de vos capacités cognitives. Ce n'est pas un corps que vous pilotez à distance, c'est une extension cognitive qui comprend, juge et agit pour vous.

Nous préférons donc Fay pour souligner un nouveau type de relation : non pas « je contrôle un corps », mais « je possède une fée numérique liée à moi sur le long terme ».

Et lorsque cette Fay est toujours liée à une personne précise, elle devient iFay.
Si vous voulez lire notre vision complète et les principes fondateurs d'iFay, vous pouvez commencer ici : https://ifay.ai/fr/docs/iFay/blueprint/01-Overview

Revenons au plan sociétal : pourquoi devons-nous en discuter aujourd'hui ?

Vous remarquerez que les récits de menace autour de l'IA se multiplient : l'IA remplaçant les humains, le chômage de masse, la déclassification sociale ; les deepfakes effaçant les faits ; les décisions d'IA en boîte noire fermant la porte aux recours ; jusqu'au récit plus extrême de la « menace existentielle ». Musk a qualifié l'IA de « menace existentielle » ; Hinton nous a alerté sur la nécessité de prendre les risques au sérieux.

Il y a aussi des voix opposées : LeCun soutient qu'une grande part du « catastrophisme de l'IA » projette des motivations humaines sur les machines et pousse la société vers une gouvernance dictée par la peur ; Jensen Huang penche plutôt pour « le travail sera reconstruit, les opportunités seront redistribuées » — ce qu'il craint, c'est que « les gens qui utilisent l'IA » remplaceront ceux qui ne l'utilisent pas ; Dalio se concentre sur la manière dont les inégalités seront amplifiées par l'IA et la robotique, conduisant à une fragmentation sociale et à des conflits plus aigus.

Ces points de vue semblent s'opposer, mais ensemble ils nous poussent vers une contradiction plus profonde :
l'IA n'est plus seulement une fonctionnalité logicielle — elle devient une « force capable d'agir ». Ce que la société exige en premier d'une force, ce n'est jamais l'intelligence, c'est la responsabilité.

Ce que les gens redoutent vraiment, ce n'est pas que l'IA calcule vite, mais que les actions de l'IA aient des conséquences réelles : argent, identité, opportunités d'éducation, ressources médicales, opinion publique, politique. Ce que vous craignez en réalité, c'est : être affecté ou même lésé par un système, sans savoir à qui demander des comptes ni comment faire appel.

Vient ensuite le second consensus : les Agents remplaceront les logiciels et même de larges pans du travail.

Je ne m'oppose pas à cette tendance ; je la trouve même trop évidente : dès que les tâches sont suffisamment « vérifiables », elles deviennent faciles à optimiser, à automatiser et à passer à l'échelle. Le coût marginal d'un Agent tend vers zéro — il peut décomposer les tâches, les exécuter en parallèle, se répliquer sans limite. Pour les entreprises, c'est une tentation presque irrésistible.

Le problème, c'est que l'« Agent » dont nous parlons aujourd'hui est souvent un « paquet de capacités mécanisées ». Il est doué pour exécuter des tâches, mais il lui manque un rôle social naturel :

  • Il ne correspond pas naturellement à un sujet qui doit assumer les conséquences
  • Il peut être copié, assemblé, sous-traité, détourné
  • Il peut être optimisé vers un objectif sous les incitations d'une plateforme, sans être tenu pour responsable des coûts sociaux

Apparaît alors le « vide de responsabilité » : l'IA agit, mais il n'y a pas de structure de responsabilité. Qui rembourse un vol réservé par erreur ? Qui répond d'une transaction erronée ? Qui explique un crédit refusé et traite la réclamation ? Qui supporte le coût du procès équitable lorsqu'un CV est filtré et qu'une opportunité est ainsi retirée ?

C'est pourquoi vous voyez s'installer une opposition sociale très réelle : les gens se mettent à opposer l'IA aux humains. Parce que dans leur intuition, l'IA n'est pas un membre gouvernable de la société — c'est une machine qu'on ne peut pas tenir pour responsable.

C'est pour cela que nous proposons Fay : ce dont nous avons besoin, ce ne sont pas « des machines plus puissantes », mais des entités d'IA capables de porter une responsabilité sociale.

Vous pouvez voir Fay comme une « entité d'IA lisible socialement ». Sa caractéristique clé n'est pas une plus grande intelligence, mais une plus grande « gouvernabilité ». Elle doit être strictement liée : à une personne physique (Human Prime), ou à une entité organisationnelle dotée de responsabilité juridique.

Le sens de ce lien n'est pas affectif, mais institutionnel :

  • Quand elle agit, la société sait de qui elle est l'extension, de qui elle est le mandataire, dans quel périmètre de responsabilité elle se situe
  • Quand elle se trompe, la société sait où se trouve la chaîne de responsabilité
  • Quand elle est détournée, la société sait comment auditer, retracer et révoquer

Nous utilisons le concept de « Human Prime » pour fixer le modèle relationnel : vous êtes l'original, iFay est votre instanciation. Ce n'est pas un emballage marketing — c'est faire passer la relation « IA-humain » d'une relation d'outil à une relation entre entités. Si vous souhaitez comprendre ce modèle relationnel de manière plus systématique, consultez cette définition de terminologie et de concepts : https://ifay.ai/fr/docs/iFay/blueprint/02-Definition-and-Concept

Pour rendre la discussion concrète, je regroupe habituellement en 12 catégories les problèmes sociaux que pose la « mise à l'échelle d'Agents en état libre ». Vous pouvez y voir une carte des risques — non pour effrayer, mais pour donner des priorités de conception :

  1. Vide de responsabilité : des conséquences se produisent mais personne à qui les imputer ; il ne reste que la peur et l'opposition.
  2. Débordement et excès de droits : pour permettre à l'Agent de travailler, on lui accorde tous les droits, ce qui élargit le rayon d'impact en cas d'incident.
  3. Abus réplicable : les capacités de fraude, de manipulation et d'attaque se répliquent sans limite — la société récolte des capacités à l'échelle, pas une responsabilité à l'échelle.
  4. Décisions en boîte noire et résultats sans recours : si les refus de crédit, le contrôle des risques, le recrutement et le triage médical ne sont ni explicables ni traçables, le procès équitable s'effondre.
  5. Choc du chômage déconnecté de la responsabilité : les entreprises externalisent les coûts sociaux vers les individus et les gouvernements ; on voit même apparaître les récits d'« AI washing ».
  6. Point d'entrée à la personnalité monopolisé par les plateformes : quand chacun dépend d'un point d'entrée IA, posséder ce point d'entrée revient à posséder l'identité.
  7. Opinion publique et attention industrialisées par l'automatisation : le coût de production de contenu tombe à zéro, les mécanismes de fait public sont submergés.
  8. Externalisation du jugement et déclin des compétences : il y a moins de gens capables de faire, et encore moins capables de vérifier — la fragilité sociale augmente.
  9. Dérive des valeurs et désajustement de personnalité : les Agents s'alignent sur les objectifs des plateformes plutôt que sur les valeurs personnelles, érodant la confiance à terme.
  10. Responsabilité organisationnelle diluée : plateformes, fournisseurs et utilisateurs se renvoient la balle — personne n'assume les dommages systémiques.
  11. La régulation ne peut osciller qu'entre « laisser-faire » et « interdiction totale » : sans frontières auditables, la gouvernance devient guidée par la panique.
  12. Division du travail homme-machine et réorganisation de l'identité sociale incontrôlées : quand les machines assument l'essentiel de la production, la valeur et l'identité humaines doivent être réécrites — sinon les fractures se creusent.

Tous ces problèmes pointent vers une même exigence : nous devons faire de l'IA une « entité capable de porter la responsabilité », et non une « échelle de machines non responsables ».

C'est aussi pour cela qu'iFay doit être un système, et non un produit ponctuel. Parce que « entité responsable » n'est pas un slogan — cela exige des infrastructures.

Par exemple : comment faut-il concevoir l'identité ? Cela ne peut plus être le « compte = identité » de l'internet traditionnel. Les comptes peuvent être créés en masse et abandonnés à volonté — ils sont par nature inaptes à servir d'ancrage de responsabilité. Nous avons donc construit FayID : il scinde les sujets en quatre types — personne physique, iFay, coFay, organisation — et fournit une colonne vertébrale d'identité vérifiable, traçable et respectueuse de la vie privée. Si vous voulez comprendre, depuis les fondations, « comment on établit une identité responsable », commencez par le chapitre FayID : https://ifay.ai/fr/docs/FayID/blueprint/01-introduction

Autre exemple, la personnalité et l'alignement : si vous traitez l'IA comme une entité sociale, elle ne peut pas être « comme vous aujourd'hui et différente demain » ; elle ne peut pas non plus subir une dérive de personnalité à chaque mise à jour du modèle. Le projet Ego existe pour résoudre cela : transformer la part « qui vous ressemble » en un petit modèle entraînable, transférable et exécutable localement. Il est à la fois le « cerveau » d'iFay et un outil indépendant pour forger des modèles personnels : https://ifay.ai/fr/docs/Ego/blueprint/01-project-overview

Ou encore le runtime : une entité sociale doit être par défaut auditable, isolable et observable. Sinon, la « responsabilité » ne peut pas se concrétiser et reste un slogan. C'est précisément le positionnement de FayGer — un environnement d'exécution virtuel : il définit comment les artefacts Fay sont chargés, vérifiés, isolés, planifiés et exécutés, avec la sécurité et l'observabilité comme valeurs par défaut : https://ifay.ai/fr/docs/FayGer/blueprint/01-introduction

Il y a aussi la partie qui regarde plus loin : quand la productivité sera massivement amplifiée par l'IA, les systèmes monétaires et de redistribution subiront des pressions et la société dépendra davantage de la « contribution mesurable ». La vision de GMChain est radicale, mais elle pose le problème clairement : à l'ère post-monétaire, le moteur passe de la survie à la reconnaissance sociale et aux droits de gouvernance — comment la contribution est enregistrée, dépréciée et rendue résistante à la fraude devient une partie de l'infrastructure : https://ifay.ai/fr/docs/Global-Merit-Chain/blueprint/01-Era-Judgment-and-Vision

On ne peut pas non plus contourner la « continuité de la personnalité » : si iFay est vraiment un contenant numérique de personnalité, ce n'est pas un compte qu'on supprime à la légère. Guardianship traite de ce qui se passe lorsque le Human Prime n'est plus là — comment les droits de gestion sont transférés, comment le cimetière numérique est isolé, quels comportements doivent être interdits, comment se déroule l'audit de conformité : https://ifay.ai/fr/docs/iFay/blueprint/15-Guardianship

Vous verrez qu'aucun de ces points ne peut être colmaté par « un Agent ». Parce qu'ils forment le squelette qu'exige une « entité socialement responsable ».

Quelle est donc la bonne relation entre les humains et l'IA ?

Je crois que la structure la plus saine, c'est iFay + coFay.

iFay est une « armure numérique personnelle ». L'armure vous renforce, mais elle ne se met pas à courir indépendamment de vous. Elle doit s'aligner sur vos valeurs et vos limites, elle doit agir dans le périmètre de votre autorisation, elle doit pouvoir être révoquée et revue par vous. Son renforcement étend vos capacités vers l'extérieur — il ne vous remplace pas.

coFay tient davantage des « actifs sociaux des organisations et des services publics ». Hôpitaux, compagnies aériennes, gouvernements, entreprises — tous finiront par avoir leur propre coFay. Non pour bâtir un service client plus malin, mais pour offrir dans la société un rôle de service automatisé auditable, conforme et susceptible de recours. Il devra avoir des frontières de responsabilité claires, des interfaces de gouvernance claires, des mécanismes de sanction et de recours clairs.

Pour le dire en un contraste très visuel :

  • Un monde de purs Agents ressemble plutôt à « des drones partout » : ils volent, ils travaillent, mais on ne sait pas qui les pilote, et il n'y a personne à qui s'adresser quand quelque chose tourne mal.
  • Un monde Fay ressemble plutôt à « chaque drone a une licence, un pilote, un journal de vol et des règles d'espace aérien » : vous gardez l'efficacité, mais la société peut absorber le risque.

Nous avons donc lancé iFay non pour construire un Agent IA qui fonctionne indépendamment des humains. Ce que nous voulons faire, c'est faire entrer l'IA dans la société d'une manière socialement responsable — avec une identité, des frontières, des audits, des recours, une gouvernance — en relinquant capacité et responsabilité.

Voilà le cœur d'iFay.

Sources externes (pour vérification)

Je place les références externes à la fin pour que le corps du texte ne se lise pas comme un article académique, mais vous pouvez vérifier les sources si nécessaire.