人の存在より引受責任
人の存在より引受責任(Accountability over Human Presence) とは、人間が工程に存在することではなく、影響の大きい継続に 最終引受点 があることを重視する原理です。
AI 開発では「人間が見た」ことが安全性や正当性の代理として扱われがちです。しかし、人間がいるだけでは引受責任は成立しません。
依拠の言葉で言えば、問題はこうです。人間が確認したことは、後続の依拠が裏切られたときに 支払う ことを意味しません。確認は観測であり、引受は遂行的行為です。この二つを混同すると、誰も引き受けていないリスクの上に、後続の依拠が積み上がります。
次の状態は、PCE 3.0 では不十分です。
- 人間が生の出力を眺めただけ。
- 承認ボタンは押されたが、残るリスクの引受者がいない。
- 事故の終結はされたが、未解決条件が消えている。
- 記憶の昇格は承認されたが、後続作業への影響を誰も引き受けていない。
最終引受点は、影響の大きい継続において次を引き受けるアクターまたは制度です。
- 残るリスクの受容
- 例外承認
- 正規記録への反映の承認
- 事故の終結
- 目的の再定義
- 戻せない判断の引受
多くの実務では人間または人間を含む組織が最終引受点になります。ただし、原理上重要なのは人間の存在ではなく、引受責任がどこに固定されているかです。
人間による監督との関係
Section titled “人間による監督との関係”人間による監督は、最終引受点を運用する具体的な統治構造です。
この原理により、監督を「人間が全部読むこと」や「人間が最後に押すこと」と混同しにくくなります。人間の監督とは、依拠の裏切りを最終的に引き受ける点を、明示的に運用することです。