РАЗМЫШЛЕНИЯ О БУДУЩЕМ

Личность — это не промпт: как Ego делает iFay долговременно согласованным и управляемым

«Кризис идентичности эпохи ИИ» на самом деле уже наступил. Просто его пока ещё никто не назвал правильным именем.

В социальных сетях можно услышать два типа голосов:

  1. «Я доверяю ИИ писать за меня письма / общаться за меня / принимать за меня решения, и он всё больше становится похож на меня».
  2. «Я не решаюсь передать ему права, потому что не уверен, что завтра он всё ещё будет мной».

Эти две фразы выглядят противоречиво, но говорят об одном и том же: Как только ИИ начинает действовать от твоего имени, „согласованность личности" перестаёт быть вопросом пользовательского опыта и становится социальным риском.

Если ИИ сегодня говорит твоим тоном, завтра принимает решения с иной системой ценностей, а послезавтра без твоего ведома переписывает твою персону — то это не «более мощный ассистент». Это эрозия твоей социальной идентичности.

Я всегда подчёркивал: ИИ нельзя оставлять без присмотра, он должен действовать под опекой человека. Но «опека» означает не только «возможность нажать на тормоз». Она также означает: когда ты воспринимаешь его как продолжение себя, ты должен уметь ответить на очень практический вопрос:

На каком основании его вообще называют „мной"?

Именно в этом и состоит смысл Ego.

1. Почему «быть похожим на тебя» становится самой дорогой способностью эпохи ИИ

В эпоху традиционного ПО индивидуальность была украшением. Смени почтовый клиент, приложение-календарь, инструмент для заметок — ни один из них не изменит того, кто ты есть.

Но iFay — другое дело. Цель iFay не «сделать одно дело», а «делать дела как часть тебя». Как только эта цель утверждается, индивидуальность становится инфраструктурой.

Потому что социальное взаимодействие обладает непрерывностью:

  • Твои друзья доверяют «твоему стилю»;
  • Твои коллеги привыкают к «твоей линии в принятии решений»;
  • Твои клиенты запоминают «твой способ решать проблемы»;
  • Даже твоё собственное самовосприятие выстраивается в этой непрерывности.

Поэтому, когда ИИ действует от твоего имени, «дрейф личности» перестаёт быть неловкостью и становится инцидентом:

  • Инцидент доверия: другие не могут подтвердить, действительно ли сказанное было тобой.
  • Инцидент ответственности: ты не можешь объяснить, «почему было принято это решение».
  • Инцидент отношений: твои отношения размываются раз за разом повторяющимися высказываниями, которые «на самом деле не ты».
  • Инцидент управления: когда обществу нужно возложить ответственность, ты не можешь доказать, «было ли это твоим намерением».

Многие сводят такие проблемы к «плохо написанному промпту». Именно с этим я не согласен: личность не должна поддерживаться промптами.

Промпт — это одноразовая контекстная риторика; личность — это долговременная граница поведения. Когда ИИ выходит в общество, способность стабильно и долговременно «быть похожим на тебя» — вот по-настоящему дефицитная способность.

2. Позиционирование Ego: не AGI, не модель побольше, а «управляемая граница личности»

В системе iFay Ego определяется как «мозг» iFay. Но я предпочитаю называть его иначе: персонализированная граница.

Его позиционирование очень сдержанно:

  • Ego — это не AGI, стремящийся к всеобщему интеллекту.
  • Ego — это и не «всемогущий мозг», призванный заменить большие модели.
  • Ценность Ego в том, чтобы превратить «кто ты есть» в структуру ограничений, которую можно обучать, настраивать и версионировать.

Иными словами, Ego отвечает не за то, чтобы делать iFay «умнее», а за то, чтобы iFay «не выходил из образа».

Это выглядит как опыт, но на самом деле это управление:

Если границу личности нельзя зафиксировать, отношения опеки превращаются в пустую оболочку. Потому что ты не можешь определить «выход за границу» — ты даже не можешь сформулировать, что такое граница.

3. Почему «согласованность личности» должна быть инженерно выстроена

Самый частый режим отказа сегодняшних ИИ-продуктов — не «не умеет делать дело», а «то хорошо, то плохо». То он как эксперт, то как новичок; то осторожен, то безрассуден; то мягок, то агрессивен.

В чат-продукте этот дрейф — лишь вопрос опыта. Но как только ИИ получает права, возможность управлять терминалами и право говорить от твоего имени, он становится риском общественного масштаба.

Ты обнаружишь: Согласованность личности не возникает сама собой — она должна быть инженерно выстроена.

Инженерное выстраивание означает три вещи:

  1. Личность поднимается от «стиля текста» до «границы поведения». Не просто учиться тому, как ты говоришь, а учиться тому, при каких обстоятельствах ты отказываешь, колеблешься, эскалируешь для подтверждения или хранишь молчание.

  2. Личность должна быть отслеживаемой. Ты должен уметь объяснить, на какие параметры ограничений личности, какие предпочтения и какие отношения к риску опиралось это решение.

  3. Личность должна быть управляемой. Ты должен уметь переключать версии личности в разных контекстах (на работе очень строгий, дома мягче); ты также должен уметь замораживать определённые версии или принудительно переходить к более консервативной версии при определённых высокорисковых действиях.

Эти три вещи не решаются «приёмами промптинга». Они должны быть вписаны в структуру системы.

4. «Две идентичности» Ego: мозг iFay + доступный каждому инструмент ковки персональной модели

Мне особенно нравится один аспект устройства Ego: он одновременно обладает двумя идентичностями.

Первая идентичность: мозг iFay. Он принимает данные iFay — Sense / Action / Thought / Skill / Credentials и прочие, усваивает модели мышления и поведенческие привычки Human Prime и становится «твоим способом делать дела».

Вторая идентичность: самостоятельный инструмент. Он позволяет каждому «выковать» из собственных данных небольшую модель, которая понимает его — служа не только iFay, но и командам, организациям и ролевым coFay.

Эти две идентичности на самом деле указывают на одно и то же суждение: самым дорогим в будущем будет не «всеобщий интеллект», а «воспроизводимая и управляемая ролевая согласованность».

Если организация хочет, чтобы coFay взял на себя публичную роль, нельзя просто бросить ему большую модель. Нужно уметь обучить его быть похожим на эту организацию, на эту должность, на этот свод правил; и его границы поведения должны быть проверяемыми, обжалуемыми и исправимыми.

Ego прокладывает этот путь заранее.

5. Три составляющие инъекции личности: личность / данные / права

Я считаю, что у «быть похожим на тебя» есть три незаменимых измерения ввода:

  1. Личность (→ Ego): она определяет, «кто я».
  2. Данные (→ Personal Data Heap): они определяют, «что я пережил».
  3. Права (→ Credential Delegation): они определяют, «что я могу сделать для тебя».

Если не хватает хотя бы одного, ты получишь неполного аватара:

  • Без личности: он помнит твоё прошлое, но не знает твоих границ.
  • Без данных: он знает твои ценности, но словно страдает амнезией.
  • Без прав: он очень похож на тебя, но не может действовать — как «дворецкий без ключей».

Только когда эти три вещи объединяются, возникает основа для того, чтобы iFay стал «социально постижимым тобой».

И из этих трёх легче всего упустить из виду — и труднее всего исправить — именно личность.

Потому что данные можно накапливать постепенно, а права делегировать понемногу; но если личность не выстроена инженерно с самого начала, в дальнейшем ты будешь снова и снова платить издержки на ремонт: объяснять, извиняться, исправлять, восстанавливать доверие.

6. Три способа инъекции Ego: диалоговое повествование / опросник / прямая настройка

Инъекция личности не может опираться только на «болтовню с ИИ». Потому что пустая болтовня лишь нагромождает эмоции и едва ли образует управляемую структуру.

Более разумный путь таков:

  • Диалоговое повествование: с помощью исследовательских опросников направлять беседу, отбирая данные о личности по измерениям.
  • Опросник: эксплицировать предпочтения, отношение к риску и границы, преобразуя их в параметры.
  • Прямая настройка: продвинутые пользователи напрямую редактируют параметры ограничений, жёстко задавая границы.

Ключ здесь не в том, чтобы «собрать больше данных», а в том, чтобы «превратить личность в структурированные ограничения». Только структурированные ограничения можно версионировать, проверять и переключать.

7. Multi-Version Ego: человек не является единственной личностью, и iFay не должен быть таким

Человек многогранен. На работе ты можешь быть строгим, в семье — мягким, в публичных выступлениях — сдержанным, а в частной обстановке — с юмором.

Если бы у iFay была лишь одна версия личности, он непременно выглядел бы «не как ты» в каких-то контекстах. Хуже того: он переключался бы в тот момент, когда этого не следует делать.

Поэтому Multi-Version Ego необходим: разные версии соответствуют разным контекстам и должны удовлетворять одному принципу управления: никакое переключение версий не должно размывать цепочку ответственности.

Это означает две вещи:

  1. Переключение должно быть объяснимым (почему переключаемся? на каком основании?)
  2. Переключение должно быть контролируемым (в каких контекстах допустимо автоматическое переключение? какие требуют подтверждения человеком?)

Иначе версионирование личности, напротив, превратится в «инструмент перекладывания ответственности».

8. Ego и опека: граница личности — это предварительное условие «контроля»

Хочу сказать эту мысль предельно прямо:

Без границы личности Ego от твоей так называемой опеки останется лишь тормоз.

Тормоз, разумеется, важен, но он не решает вопрос, «почему дело дошло до торможения». По-настоящему здоровая структура управления делает так, чтобы система большую часть времени не нуждалась в тормозе: потому что её границы заданы заранее, её отношение к риску согласовано с Human Prime, и она знает, когда эскалировать для подтверждения, а когда хранить молчание.

Поэтому я предпочитаю рассматривать Ego как предварительное условие опеки. Оно делает «выход за границу» определимым; делает «согласование» проверяемым; делает «ответственность» объяснимой.

9. Идентичность будущего — это не аккаунт, а «управляемая цифровая личность»

Когда ИИ — всего лишь инструмент, аккаунта достаточно. Когда ИИ становится контейнером для личности, аккаунта совершенно недостаточно.

Тебе понадобятся:

  • скелет идентичности (FayID), чтобы нести ответственность;
  • протокол опеки (Faying / Human View), чтобы нести контроль;
  • среда исполнения (FayGer), чтобы нести исполнение;
  • консенсус вклада (GMChain), чтобы нести ценность и право голоса;
  • и Ego, чтобы нести «кто я».

На мой взгляд, смысл Ego не в том, чтобы «сделать ИИ более похожим на тебя», а в том, чтобы превратить «быть похожим на тебя» в социально приемлемый инженерный факт: обучаемый, проверяемый, версионируемый и управляемый.

Связанные документы