인간 시야(Human View)
제 2 장에서 명제는 이미 분명히 제시되었습니다: Fay 가 디지털 행동에 개입한 후, 행위 발기자와 책임 부담자 사이에 구조적 균열이 등장했습니다. Faying Protocol 은 계약의 형식을 제공하지만, 계약이 진정으로 책임을 받아낼 수 있는지는, 더 앞서는 한 가지 약속에 달려 있습니다:
어떤 Fay 의 행위든, 반드시 그것이 귀속되는 Human Prime(휴먼 프라임, 인간 원형)이 "볼 수 있는" 범위 안에서 발생해야 합니다.
여기서 "본다"는 두 글자는 물리적 의미의 시각이 아니라, 일종의 일반화된 개념입니다: Human Prime、귀속된 개인 또는 귀속된 조직이, 그 Fay 가 감호 아래에서 작동하고 있음을 언제든 확인할 수 있다는 뜻입니다.
이 일반화된 의미의 "본다"가 바로 Human View——인간 시야로 불립니다. Faying Protocol 안의 어떤 필드、어떤 스위치、어떤 API 가 아니라, Faying Protocol 의 모든 기술 결정이 따라야 하는 가치관입니다. 어떤 필드、메시지、상태 기계의 설계라도, Fay 가 Human View 에서 벗어나게 만든다면, 그 설계는 청사진 차원에서 허용되지 않습니다, 엔지니어링 차원에서 아무리 편리하더라도.
Human View 는 물리적 시야가 아니다
물리적 시야는 "내가 이 순간 이 드론을 본다"、"카메라가 이 순간 로봇을 찍는다"입니다. 물리적 시야는 빛、거리、차폐、주의력의 제약을 받습니다. 많은 시나리오에서 그것은 도무지 성립할 수 없습니다——Human Prime 한 명이 자신의 모든 Fay 를 24시간 응시할 수는 없습니다.
Human View 가 묘사하는 것은 일종의 구조적 확인 가능성입니다:
- Human Prime 이 이 순간 자신의 Fay 를 보고 있을 것을 요구하지 않습니다;
- 그러나 Human Prime 이 언제든 보고 싶을 때, 그 Fay 가 감호 아래에 있는지 즉시 확인할 수 있을 것을 요구합니다;
- 또한 Fay 의 행위가 추적 가능한 흔적을 남겨, "방금 무엇이 일어났고、누구에게 귀속되는지"가 회고적으로 확인될 수 있을 것을 요구합니다.
다시 말해, Human View 가 신경 쓰는 것은 "보여진다"가 아니라、"보일 수 있다"입니다. 이것이 무수한 고도 자동화 시나리오——드론 군집、가정용 로봇、기업 프로세스 Fay——에서도 여전히 성립할 수 있게 하는 핵심입니다.
네 가지 반명제: 금지되는 네 가지 정황
가치관 하나를 정의하는 가장 강력한 방식은 그것이 무엇을 금지하는지를 설명하는 것입니다. Human View 는 명시적으로 다음 네 가지 정황을 금지하며, 이를 Human View 의 네 반명제라 합니다.
미인가(Unauthorized)——Fay 가 Human Prime 의 인가를 받지 않은 전제에서 행동을 펼칩니다. "인가를 받음"은 검증 가능한 행위이지, Fay 자신이 자칭한 상태가 아닙니다. Fay 가 "Human Prime 이 반드시 동의할 것이다"라고 깊이 믿는다 해도, 인가를 받은 것은 아닙니다.
의도 외(Unintended)——Fay 가 어떤 합법적 인가를 가지고 있지만, 본 구체적 행동은 Human Prime 에 의해 명시적으로 의도가 표현된 적이 없으며, Human Prime 의 현재 의도와 어긋납니다. 인가는 "움직일 수 있는가"를 해결하고, 의도 표현은 "이번에 움직임"을 해결합니다. Human View 는 양자가 동시에 성립할 것을 요구합니다.
미인지(Unaware)——Fay 가 인가도 받았고 의도도 받았지만, Human Prime 이 사실상 합리적인 비용 안에서 Fay 가 무엇을 하고 있는지 알 수 없습니다. 이 정황은 종종 Fay 가 능동적으로 숨기는 것이 아니라, 프로토콜 설계의 결함입니다——그것이 정보가 Human Prime 측으로 회류되지 못하게 합니다. Human View 는 "정보의 도달 가능성"을 감호 관계의 강제 조건으로 봅니다.
통제 불능(Out-of-Control)——Human Prime 이 이미 인지했지만, 즉시 개입할 수 없습니다, 예를 들어 Fay 가 철회 명령을 거부、작업 중단을 거부、감속을 거부하는 경우입니다. 이 정황은 나머지 셋의 최종 형태입니다: Fay 가 인가를 받을 필요도、행동을 공개할 필요도、개입을 받을 필요도 없을 때, "감호"에는 이름만 남습니다. Human View 는 개입 통로가 항상 열려 있을 것을 요구합니다.
네 반명제는 상호 배타적인 목록이 아니라, 단계적으로 깊어지는 무너지는 경계입니다: 미인가는 입구의 무너짐, 의도 외는 과정의 무너짐, 미인지는 피드백의 무너짐, 통제 불능은 마지막 한 문의 무너짐입니다. Faying Protocol 은 네 차원에서 동시에 지켜야만, Human View 라는 이 가치관을 이행한 것이 됩니다.
iFay 와 coFay 모두에 적용
Human View 는 개인형 Fay(iFay)에만 대한 제약이 아니라, iFay 와 coFay 모두에 적용됩니다.
iFay 는 어떤 구체적인 Human Prime 과 명시적인 대응 관계가 있어, 감호 관계가 직관적입니다. coFay 는 보통 어떤 조직、어떤 팀, 또는 어떤 역할에 대응하며, 감호 관계가 자연스레 명확하지는 않습니다. 그러나 바로 coFay 의 귀속 측이 종종 조직이지 구체적 개인이 아니기 때문에, Human View 의 요구는 오히려 더 명시적으로 표현되어야 합니다: 조직은 제도 차원에서 "누가 조직을 대표해 감호를 행사할 권한이 있는지"를 명확히 해야 하며, 그렇지 않으면 coFay 는 사실상 "감호할 수 있는 구체적 책임자가 없는" 회색지대로 미끄러져 들어가게 됩니다.
어떤 Fay 든, iFay 든 coFay 든, "나는 어느 조직에 속한다、따라서 누구도 구체적으로 감호하지 않는다"는 이유로 Human View 밖에서 떠도는 것이 허용되지 않습니다. 조직은 감호 직책을 구체적인 사람이나 구체적인 역할에 떨어뜨릴 의무가 있습니다. 이는 기술적 문제가 아니라, 가치관 문제입니다.
Faying Protocol 과의 관계
Human View 는 청사진 차원의 가치관이며, Faying Protocol 은 이 가치관을 받아내는 기술적 제약 규범입니다.
Human View 는 "왜 어떤 제약이 필요한가"에 답합니다. Faying Protocol 은 "이 제약이 어떻게 기술적으로 충실히 이행되는가"에 답합니다.
Human View 를 한 부의 헌장에 비유한다면, Faying Protocol 은 헌장을 구체적인 집행 기관、구체적인 절차、구체적인 자격증명 위에 떨어뜨리는 일련의 기초 법률입니다. 헌장 한 부에 어떠한 법률적 담지도 없다면, 그것은 구호로 전락합니다; 한 세트의 법률이 그것이 받아내는 헌장에서 벗어난다면, 그것은 본래 반대했던 것이 되어 버립니다. 양자는 서로 보정해야 합니다: Faying Protocol 의 어떤 설계가 Fay 를 Human View 에서 쉽게 벗어나게 한다면, 그것은 부결되어야 하며, 엔지니어링 차원에서 아무리 편리하더라도 그러합니다; 어떤 새로운 시나리오가 Human View 를 현행 Faying Protocol 아래에서 이행하기 어렵게 한다면, 그것은 Faying Protocol 이 업그레이드되어야 한다는 것을 의미하며, Human View 가 양보되어서는 안 됩니다.
제 12 장(Faying 이중 의미론)과 제 13 장(Rogue Fay 와 책임 귀속)은 프로토콜 형태 차원에서 이 가치관을 받아냅니다: 제 12 장은 감호 관계가 어떻게 구축되고 유지되는지를 설명하고, 제 13 장은 감호가 일단 성립하지 않을 때 Fay 가 어떻게 멈춰야 하는지를 설명합니다. 두 장이 합쳐지면, Human View 가 프로토콜 차원에서 구체적으로 착지된 것입니다.
