FUTURE THINKING

人間と AI の正しい関係：なぜ私たちはより強い Agent ではなく、Fay システムを必要とするのか

まず結論から述べておきます。私は、人類が本当に必要としているのは「より強い Agent」ではないと考えています。私たちが本当に必要としているのは、社会のなかで識別され、制約され、責任を問える AI 実体です。

なぜなら、AI が単なる機械であるならば、それはひたすら強くなっていくだけで、社会の不安はかえって膨らんでいくからです。世間で目にするあらゆる「AI 脅威論」は、表向きは技術を論じているように見えますが、その根底ではどれも同じことを問うています——AI が行動を始めたとき、その結果を誰が引き受けるのか、と。

これこそが iFay の核心です。iFay が解こうとしているのは「機能の問題」ではなく、「人間と AI の関係の問題」なのです。

まず、ささやかな前置きから。なぜ私たちはそれを Fay と呼ぶのか？

Fay という言葉の本来の意味は「妖精」です。私たちが表現したいのはこういうことです——AI は将来、誰もが寄り添えるデジタルの妖精になりうる、あるいはある種の「デジタルの魂」と呼んでもよい存在になりうる。あなたに寄り添い、長く付き合い、あなたを理解し、行動できる。しかし同時に、責任から切り離された野放しの力にはならない、と。

ではなぜ「avatar」と呼ばないのか、と聞かれるかもしれません。

それは、「Avatar」という言葉が映画の烙印をあまりにも深く受けているからです。映画における Avatar はむしろ「身体」に近く、人間の認知によって遠隔操作される存在です。しかし私たちが向き合っている AI はまったく逆です。それはむしろ強化版の人間の認知、つまりあなたの認知能力に取り付けられた「外部装備」のような存在です。あなたが遠隔操作する身体ではなく、あなたに代わって理解し、判断し、行動してくれる認知の延長です。

だからこそ私たちは Fay という言葉を選び、新しい関係性を強調したいのです。「私が身体を操る」のではなく、「私と長期にわたり結びついたデジタルの妖精をもつ」という関係です。

そしてこの Fay が特定の個人と常に結びつけられているとき、それは iFay となります。
iFay についての完全なビジョンと基本原則を読みたい方は、ここから始めてください: https://ifay.ai/ja/docs/iFay/blueprint/01-Overview

社会のレベルに話を戻しましょう。なぜ今日この問題を「論じなければならない」のか？

気づくはずです。AI に関する脅威論は日に日に増えています——AI が人間を置き換える、失業の波、貧困への逆戻り。ディープフェイクが事実を消し去る。AI のブラックボックス決定が異議申し立てを封じる。さらに極端なところでは「存在論的脅威」というナラティブもあります。マスクは AI を「存在論的脅威」と呼び、ヒントンも私たちにリスクを真剣に受け止めるよう警告しています。

一方で、別の声もあります。LeCun は、多くの「AI 終末論」は人間の動機を機械に投影したものであり、社会を恐怖駆動の統治に追いやってしまうと主張します。ジェンスン・フアンはむしろ「仕事は再構築され、機会は再分配される」という側に立ち、彼が懸念するのは「AI を使える人」が「使えない人」を置き換えることです。ダリオは、AI とロボットが格差を拡大し、社会により鋭い分断と衝突をもたらすことを重視しています。

これらの主張は対立しているように見えますが、どれも私たちをより深い矛盾へと押し進めています。
AI はもはや単なるソフトウェア機能ではありません。それは「行動できる力」になりつつあるのです。社会が力に対してまず求めるものは、賢さではなく、責任です。

人々が本当に恐れているのは、AI の計算が速いことではなく、AI の行動が現実の結果へと及ぶことです。お金、身分、教育の機会、医療資源、世論、政治。あなたが本当に怖いのは、ある仕組みに影響を受け、場合によっては傷つけられたとき、誰に責任を問えばよいのか分からず、どう異議申し立てすればよいのか分からないという状況なのです。

続いて第二の合意が現れます——Agent はソフトウェアを置き換え、さらに大量の仕事をも置き換えることになる、という共通認識です。

私はこの流れに反対しません。それどころか、流れはあまりにも明らかだと考えています。タスクが十分に「検証可能」であれば、最適化、自動化、規模化が容易になります。Agent の限界費用はゼロに近づき、タスクを分解し、並列実行し、無限に複製できます。企業にとっては、ほぼ抗いがたい誘惑です。

問題は、私たちが今日「Agent」と呼んでいるものは、しばしば「機械化された能力パッケージ」だということです。タスクの実行は得意ですが、それには天然の社会的役割がありません。

  • 結果を引き受ける主体に天然に対応していない
  • 複製、組み立て、外部委託、悪用が容易にできる
  • プラットフォームのインセンティブのもとで特定の目的に最適化されながら、社会的コストには責任を問われない

そうして「責任のギャップ」が生じます。AI が行動しているのに、責任構造がないのです。誤って予約した航空券は誰が払い戻すのか？ 誤った取引は誰が責任を負うのか？ ローンを拒否したら、誰が説明し、誰が異議を受け付けるのか？ 履歴書をふるい落として機会を奪った場合、デュープロセスの代償を誰が負うのか？

だからこそ、非常に現実的な社会的対立が立ち現れています——人々は AI を人間と対立させはじめています。彼らの直感のなかでは、AI は統治可能な社会成員ではなく、責任を問えない機械だからです。

これが、私たちが Fay を提案する動機です。私たちが必要としているのは「より強い機械」ではなく、「社会的責任を担いうる AI 実体」です。

Fay は「社会的に読み取り可能な AI 実体」だと考えてください。重要なのはより賢いことではなく、より「統治しやすい」ことです。それは厳格に結びつけられていなければなりません——自然人（Human Prime）に結びつくか、法的責任を負える組織体に結びつくか、です。

結びつけることの意味は、感情ではなく、制度にあります。

  • 行動するときに、それが誰の延長であり、誰の代理であり、誰の責任範囲にあるのかを社会が知ることができる
  • 誤りを犯したときに、責任の連鎖がどこにあるのかを社会が知ることができる
  • 悪用されたときに、どのように監査し、追跡し、取り消すかを社会が知ることができる

私たちは「Human Prime」という概念を用いて関係モデルを固定します。あなたが原本であり、iFay はあなたのインスタンスです。これは飾り言葉ではありません。「AI と人間」の関係を、ツール関係から実体関係へと移し替える試みです。この関係モデルをより体系的に理解したい方は、こちらの用語と概念の定義をご覧ください: https://ifay.ai/ja/docs/iFay/blueprint/02-Definition-and-Concept

議論をより具体的にするため、私はふだん「自由状態の Agent が大規模化する」ことによる社会問題を 12 のカテゴリに整理しています。これをリスクマップとして扱ってください——人を脅すためではなく、設計に優先順位をつけるためです。

  1. 責任の真空：結果が起きても誰も問えず、最後に残るのは恐怖と対立。
  2. 権限の氾濫と越権：Agent に仕事をさせるために完全な権限を与え、事故の影響半径を拡大してしまう。
  3. 複製可能な悪用：詐欺、操作、攻撃の能力が無限に複製され、社会が手にするのは規模化された能力であって、規模化された責任ではない。
  4. ブラックボックスの判断と異議申し立ての不可：融資拒否、リスク管理、採用、トリアージが説明不可・追跡不可となれば、デュープロセスは崩壊する。
  5. 失業ショックの脱責任化：企業は社会的コストを個人と政府に外部化し、さらには「AI washing」というナラティブまで生まれる。
  6. 人格の入口がプラットフォームに独占される：誰もが AI 入口に依存するようになると、入口の所有権はそのまま身分の所有権となる。
  7. 世論と注意が自動化によって工業化される：コンテンツ生産コストがゼロになり、公的事実の仕組みが押し流される。
  8. 判断力の外部委託による能力の退化：できる人が減り、審査できる人はもっと減る。社会の脆弱性はかえって高まる。
  9. 価値観のドリフトと人格のミスマッチ：Agent が個人の価値観ではなくプラットフォームの目標に沿うようになり、長期的には信頼が崩れる。
  10. 組織責任の希薄化：プラットフォーム、ベンダー、ユーザーが責任をたらい回しにし、最後にはシステミックな被害に誰も責任を持たなくなる。
  11. 規制が「放任」と「一律禁止」の間でしか揺れなくなる：監査可能な境界がなければ、統治はパニック駆動になる。
  12. 人間と機械の分業、社会的アイデンティティの再編成が制御不能になる：機械が生産の大半を担うようになれば、人間の価値とアイデンティティを書き換えなければならない。さもなければ分断は深まる一方だ。

これらの問題はすべて同じ要件を指し示します——AI を「責任を担いうる実体」にする必要があり、「責任を問えない機械の規模」にしてはならないのです。

これが、iFay が単一の製品ではなく、ひとつの体系でなければならない理由です。「責任ある実体」はスローガンではなく、インフラを必要とするからです。

たとえば、身分（identity）はどう構築するのか。従来のインターネット流の「アカウント＝身分」のままではいけません。アカウントは大量登録でき、簡単に捨てられます。責任の錨としては根本的に向いていません。だから私たちは FayID をつくりました。FayID は主体を自然人、iFay、coFay、組織の 4 種類に分け、検証可能で追跡可能、かつプライバシーに配慮した身分の骨格を提供します。「責任ある身分はどう確立されるのか」を基礎から理解したい方は、FayID の章から始めてください: https://ifay.ai/ja/docs/FayID/blueprint/01-introduction

あるいは、人格とアラインメントはどうするのか。AI を社会実体として扱うのなら、それは今日はあなたに似て、明日は似ていない、というわけにはいきません。モデルが更新されるたびに人格がドリフトしてもいけません。Ego プロジェクトはまさにこの問題を解くためのものです——「あなたに似ている」部分を、訓練可能、移植可能、ローカル実行可能な小型モデルツールに変えるのです。Ego は iFay の「脳」であると同時に、独立したツールとして個人モデルを鍛えるためにも使えます: https://ifay.ai/ja/docs/Ego/blueprint/01-project-overview

ランタイムはどうか。社会実体は既定で監査可能、隔離可能、観測可能でなければなりません。さもなければ「責任」は地に足がつかず、ただのスローガンに終わります。FayGer の位置づけはまさに仮想ランタイム環境です——Fay 工件をどのようにロードし、検証し、隔離し、スケジューリングし、実行するかを定義し、安全性と観測可能性を既定値として強調しています: https://ifay.ai/ja/docs/FayGer/blueprint/01-introduction

さらに、もっと先にあるものもあります。生産力が AI によって大きく押し上げられると、貨幣と分配の仕組みは負荷を受け、社会は「貢献の測定可能性」により強く依存することになります。GMChain のビジョンは過激ですが、問題を明快に示しています。ポスト貨幣時代には、原動力は生存から社会的承認と統治権へと移ります。貢献をどう記録し、どう減衰させ、どう不正に強くするか。それらすべてがインフラの一部となります: https://ifay.ai/ja/docs/Global-Merit-Chain/blueprint/01-Era-Judgment-and-Vision

そして「人格の継続」という問題さえも避けて通れません。iFay が本当に人格のデジタル容器であるなら、それは気軽に削除できるアカウントではなくなります。Guardianship は、Human Prime が亡くなったとき、管理権がどう移譲されるか、デジタルの墓園がどう隔離されるか、どのような行為が禁止されなければならないか、コンプライアンス監査をどう行うかを論じています: https://ifay.ai/ja/docs/iFay/blueprint/15-Guardianship

これらが「ひとつの Agent」のパッチでは賄えないものであることがわかるはずです。これらは「社会的責任を負う実体」が必要とする骨格だからです。

では、人間と AI の正しい関係とは結局どのようなものか？

私が最も健全だと考える構造は、iFay + coFay です。

iFay は「個人のデジタル鎧」です。鎧はあなたを強化しますが、あなたから独立して暴走することはありません。あなたの価値観と境界に整合し、あなたの認可の範囲内で行動し、あなたによって取り消し・再審できなければなりません。その強化は、あなたの能力を外へ延ばすためのものであり、あなたを置き換えるためのものではありません。

coFay は「組織と公共サービスの社会的資産」のような存在です。病院、航空、政府、企業——いずれも将来は自分自身の coFay をもつことになります。それはより賢いカスタマーサービスを作るためではなく、社会のなかで監査可能、コンプライアント、異議申し立て可能な自動化サービスの役割を提供するためです。明確な責任の境界、明確な統治インターフェース、明確な処罰と異議申し立ての仕組みをもつべきものです。

非常に直感的な対比で言うなら——

  • 純粋な Agent の世界は「ドローンが地面を覆っている」ような世界です。飛び、働きますが、誰が操縦しているのかわからず、何かあっても呼び出す相手がいない。
  • Fay の世界は「すべてのドローンに免許、操縦士、飛行ログ、空域ルールがある」世界です。効率は依然として享受できますが、社会はリスクを引き受けることができます。

だから私たちは iFay を立ち上げました。それは、人間から独立して動く AI Agent をつくるためではありません。私たちがやろうとしているのは、AI を社会的に責任ある形で社会に迎え入れることです——身分があり、境界があり、監査があり、異議申し立てがあり、統治がある。能力と責任を再び結び直すのです。

これこそが iFay の核心です。

外部参考文献（検証用）

本文が論文のように読めないよう、外部の引用は末尾にまとめました。必要に応じて出所をご確認ください。