AGI時代の判断主権論とは何か
― AIに何を委ね、何を確認し、何を保持し、どこを不可侵とするのか ―
著者：古賀光昭
文明設計哲学者／AGI時代の判断主権設計者
本ページは、私が提唱する「AGI時代の判断主権論」の基本的な定義と構造を示す公式概要です。
論考全文は、現在のところ一般公開していません。
ここでは、その中核となる「判断主権」の定義と、人間とAIの判断を分ける4つの判断分類を明らかにします。
判断主権とは何か
AIは、情報を整理し、文章を作り、選択肢を比較し、リスクを予測し、判断案を提示するだけでなく、人間に代わって行動する領域へ進みつつあります。
そこで問われるのは、単にAIを使うか、使わないかではありません。
人間は、何をAIに委ねるのか。
何を人間が確認するのか。
何を人間自身が保持するのか。
そして、どこを不可侵とするのか。
この境界を、人間の側から設計する必要があります。
判断主権の定義
判断主権とは、AI・AGIを活用しながらも、人間が自らの価値基準に基づいて、何を目的とし、何を選び、何を退け、何をAIに委ね、何を人間が保持し、その結果を誰が引き受けるのかを決め続ける権限と責任です。
単に「自分で決める権利」だけを意味するものではありません。
何を問題として捉えるのか。
何を大切にするのか。
何を目的とするのか。
何を犠牲にしてはならないのか。
どのような結果を受け入れるのか。
そして、その結果を誰が引き受けるのか。
そこまで含めて判断することが、判断主権です。
AIやAGIを使うことと、判断主権を手放すことは同じではありません。
AIを十分に活用しながら、人間が判断の中心と責任の所在を保持すること。
これが、AGI時代の判断主権という考え方です。
「最終判断は人間が行う」だけでは十分ではない
AIガバナンスでは、「最後は人間が判断する」という考え方がよく語られます。
しかし、私は、それだけでは判断主権を守るには十分ではないと考えています。
なぜなら、一つの判断は、最後に「承認する」「承認しない」という行為だけで成り立っているわけではないからです。
その前には、
何を問題とするのか。
どの情報を重視するのか。
どの選択肢を比較するのか。
何をリスクと考えるのか。
何を目的とするのか。
どの価値を優先するのか。
という判断形成の過程があります。
この過程のほとんどをAIが作り、人間が最後に承認ボタンを押すだけであれば、形式上は「人間の最終判断」であっても、実質的な判断の形成はAIに移っている可能性があります。
したがって、判断主権で問うべきことは、
「最後に誰が承認したか」だけではありません。
「その判断を、誰がどのように形成したのか」
まで含めて考える必要があります。
4つの判断分類
AGI時代の判断主権論では、人間とAIの判断の関係を、次の4つに分類します。
私は、この考え方を「判断分類原則」と呼んでいます。
1．委ねる
AIに判断を委ねることができる領域です。
定型的である。
反復性が高い。
基準が明確である。
結果を修正しやすい。
失敗した場合の影響が限定されている。
このような判断では、AIに判断や処理を委ねることができます。
人間がすべてを判断し続ける必要はありません。
AIに委ねるべきところは、積極的に委ねる。
それも判断主権の一部です。
2．確認する
AIが判断案を作り、人間がその内容を確認・審査する領域です。
AIは、情報を整理し、比較し、予測し、判断案を提示することができます。
しかし、誤り、偏り、文脈のずれ、例外などが生じる可能性があります。
そこで、人間がAIの判断案を確認し、必要であれば修正した上で進めます。
ここでは、AIが判断を支援しますが、人間による確認が必要です。
3．保持する
AIを支援に使っても、判断そのものは人間が形成する領域です。
AIは、
情報を集める。
分析する。
複数の選択肢を示す。
将来を予測する。
反対意見を提示する。
といった支援を行うことができます。
しかし、
何を目的とするのか。
何を大切にするのか。
どの選択肢を選ぶのか。
どの結果を引き受けるのか。
という判断そのものは、人間が形成します。
責任、価値判断、対人関係、重要な例外、組織の基本方針などに関わる判断では、この「保持」が重要になります。
4．不可侵
AIに判断形成の主体を委ねない領域です。
人間の尊厳。
人格。
自由。
良心。
生命。
人間の存在価値。
重大な排除や処罰。
社会や文明の根本的な方向。
こうした問題には、効率、精度、確率、最適化だけでは決めることのできない領域があります。
不可侵とは、AIから一切の情報を得てはいけないという意味ではありません。
AIを情報収集や論点整理のために使うことはあり得ます。
しかし、その判断の基準や結論そのものをAIに形成させない。
そこに、人間が守るべき不可侵の判断領域があります。
4分類の境界は、すべての場面で同じではない
「委ねる・確認する・保持する・不可侵」という4分類は、すべての企業や社会で機械的に同じ答えになるものではありません。
同じ業務でも、
結果の重大性。
やり直しができるか。
人間の尊厳や人格に関わるか。
誰が責任を負うのか。
AIがどこまで自律的に行動するのか。
によって、分類は変わることがあります。
大切なのは、AIを導入した後に考えるのではなく、
AIに判断や行動を委ねる前に、その境界を決めておくことです。
AIエージェント時代には「行動権限」も問われる
AIは、答えを提示するだけの存在から、人間に代わって実際に行動するAIエージェントへと発展しています。
メールを送る。
予定を変更する。
注文する。
顧客へ回答する。
社内システムを操作する。
こうしたAIでは、「何を判断させるか」だけでは足りません。
どこまで行動させてよいのか。
という問題が加わります。
したがって、これからの判断主権設計では、
判断権限。
行動権限。
確認権限。
停止権限。
責任の所在。
まで含めて設計する必要があります。
AIが高度になるほど、人間が一つ一つの操作を行う必要は減っていくでしょう。
しかし、人間が操作しなくなることと、人間が主権を失うことは同じではありません。
「判断主権宣言」と「判断主権論」の違い
私は、「AGI時代の判断主権宣言」も公開しています。
判断主権宣言は、
AI・AGIが判断に関与する時代に、人間は何を手放してはならないのか
という問題を社会に問いかけ、私の基本的な立場を示したものです。
これに対して「AGI時代の判断主権論」は、その問題をさらに掘り下げ、
判断主権とは何か。
なぜ判断主権が必要なのか。
何をAIに委ねるのか。
何を人間が確認するのか。
何を人間が保持するのか。
何を不可侵とするのか。
人間の尊厳と判断はどのようにつながるのか。
組織や社会で、その境界をどのように設計するのか。
という原理と構造を考える中核論考です。
言い換えれば、
判断主権宣言は「立場の表明」。
判断主権論は「その背後にある原理と構造」。
という関係にあります。
文明設計哲学の中核として
AGI時代の判断主権論は、AIやAGIだけを対象として生まれた思想ではありません。
その根底には、私がこれまで考えてきた「人間中心哲学」と「文明設計哲学」があります。
人間を、能力、成果、効率、評価だけで捉えない。
人間を、問いを持ち、感じ、考え、選び、その結果を引き受ける存在として捉える。
この人間観から考えると、AIが高度になるほど、
「AIに何ができるのか」
だけでなく、
「人間は何を判断主体として保持するのか」
という問いが重要になります。
文明設計哲学は、家庭、教育、芸術、経済、政治、経営、技術、文明を、人間の尊厳を中心として横断的に考える思想です。
判断主権論は、その思想をAI・AGI時代の現実に接続する中核の一つです。
AIを拒絶する思想ではありません
判断主権論は、AIを否定する思想ではありません。
AIには、人間だけでは見つけにくい情報を発見し、複数の視点を提示し、分析を深め、判断材料を豊かにする大きな可能性があります。
重要なのは、
AIを使うか、使わないか。
という二者択一ではありません。
どこまでAIを使うのか。
どこから人間が判断を保持するのか。
その境界を考えることです。
AIにできることが増えたからといって、そのすべてをAIに任せなければならないわけではありません。
反対に、人間が判断主権を守るために、AIを使わない必要もありません。
AIの能力を活用しながら、人間が問い、目的、価値、責任の主体であり続ける。
そのための境界を設計することが、判断主権論の中心です。
組織で判断主権を考える6つの問い
企業や組織でAIを導入するとき、私は少なくとも次の6つの問いを明確にする必要があると考えています。
1．何をAIに委ねるのか。
2．何を人間が確認するのか。
3．何を人間が保持するのか。
4．どこを不可侵とするのか。
5．AIにどこまで判断権限・行動権限を与えるのか。
6．最終的な責任を誰が引き受けるのか。
AI導入の前に、この境界を明確にしておく。
それが、組織における判断主権設計の出発点です。
AGIがいつ実現するかとは別の問題です
AGIがいつ実現するのか。
どのような形で実現するのか。
その能力がどこまで高まるのか。
これらを正確に予測することはできません。
しかし、判断主権の問題は、AGIが実現した未来だけの問題ではありません。
現在のAIでも、
人間に代わって文章を作る。
分析する。
推薦する。
判断案を示す。
行動する。
という領域はすでに広がっています。
したがって、判断主権とは未来予測のための思想ではありません。
AIが人間の判断と行動に関与する現在から必要となる、人間側の原則です。
英語概要版について
AGI時代の判断主権論については、英語による概要版も公開しています。
これは、日本語による論考全文の翻訳ではありません。
判断主権の中心概念、判断分類原則、人間の尊厳、AIガバナンス、経営・社会への応用を、英語圏の読者に向けて独立して構成した概要論文です。
▶ Judgment Sovereignty in the Age of AGI
― A Civilizational Design Framework for AI Delegation and Human Responsibility ―
このページの位置づけ
本ページは、「AGI時代の判断主権」という考え方について、私自身がその基本的な定義と構造を示すために公開しているページです。
判断主権に関する私の文章、講演、YouTube、note、経営支援は、基本的にここで示した考え方を基礎としています。
今後、AIやAGIの発展、社会制度、AIエージェントの進化などによって、具体的な適用方法は変化していくでしょう。
しかし、
人間は、何をAIに委ねるのか。
何を確認するのか。
何を保持するのか。
どこを不可侵とするのか。
という問いそのものは、AIが高度になるほど重要になると私は考えています。
AIを管理することだけではなく、
AIが判断に関与する時代に、人間はいかに判断主体であり続けるのか。
AGI時代の判断主権論は、この問いに対する、文明設計哲学からの応答です。