― AIに委ねる時代に、人間が手放してはならないもの ―
古賀光昭
文明設計哲学者／AGI時代の判断主権設計者
AIは、すでに私たちの仕事や生活の中に深く入り始めています。
情報を整理する。
文章を作る。
比較する。
予測する。
判断案を示す。
そしてAIエージェントは、提案するだけでなく、人間に代わって行動する段階へ進んでいます。
私は、AIの進歩そのものを否定する立場ではありません。
AIには、人間の能力を補い、より多くの情報を扱い、これまで見えなかった可能性を示す大きな力があります。
だからこそ、AIは積極的に活用すればよいと思っています。
しかし、AIにできることが増えるほど、別の問いが重要になります。
AIにできることと、AIに任せてよいことは同じなのか。
私は、そうではないと考えています。
人間は、何をAIに委ねるのか
これからの社会では、人間がすべてを自分で行う必要はなくなっていくでしょう。
AIに任せた方が、速く、正確で、安定する仕事もあります。
そのような仕事まで、人間が抱え続ける必要はありません。
AIに委ねてよいものは、委ねればよい。
しかし、その一方で、
何をAIに委ねるのかを決める主体まで、AIに委ねてはならない。
私は、ここに重要な境界があると考えています。
人間には、保持すべき判断がある
AIがどれほど高度になっても、人間が自ら考え、選び、その結果を引き受けるべき判断があります。
何を目的とするのか。
何を大切にするのか。
誰を守るのか。
何を犠牲にしてはならないのか。
どのような未来を選ぶのか。
これらは、単に計算能力や予測精度だけで決められる問題ではありません。
AIは情報を出すことができます。
分析することもできます。
複数の選択肢を示すこともできます。
反対意見を提示することもできます。
しかし最後に、
「では、私たちはどうするのか」
という問いに向き合う主体は、人間であるべきだと私は考えています。
最後に人間が承認するだけでは足りない
「AIが判断案を作り、最後は人間が承認すればよい」
という考え方があります。
しかし、それだけで人間の判断が守られるとは限りません。
AIが問題を設定し、
AIが情報を選び、
AIが選択肢を作り、
AIが評価し、
AIが結論を提示し、
人間が最後に承認ボタンを押す。
それで本当に、人間が判断したと言えるのでしょうか。
形式上は人間が最終判断者でも、判断の中身をAIが形成しているのであれば、人間の判断は少しずつ空洞化していきます。
私が問題にしているのは、AIが人間から強制的に判断を奪う未来だけではありません。
人間自身が、便利さの中で気づかないうちに判断を手放していくことです。
判断主権という考え方
私は、この問題を「判断主権」と呼んでいます。
AI・AGIが判断や行動に関与する時代に、
何をAIに委ねるのか。
何を人間が確認するのか。
何を人間自身が保持するのか。
どこを不可侵とするのか。
この境界を、人間の側から決めておく。
それが判断主権の基本的な考え方です。
私は、この4つを、
委ねる
確認する
保持する
不可侵
と整理しています。
それぞれの詳しい定義と考え方については、「AGI時代の判断主権論とは何か」にまとめています。
判断することは、人間であることの一部である
人間は、常に正しい判断をする存在ではありません。
迷います。
間違えます。
感情に左右されることもあります。
後悔することもあります。
AIの方が優れた予測を示すこともあるでしょう。
それでも私は、
人間が問いを持ち、自ら考え、選び、その結果を引き受けること自体に意味がある
と考えています。
人間を人間たらしめているものを、能力や効率だけで測ることはできません。
判断すること。
問いを持つこと。
迷うこと。
選ぶこと。
責任を引き受けること。
これらも、人間の尊厳に関わる営みです。
AIに委ねるからこそ、境界を決める
判断主権とは、AIに何も任せないという思想ではありません。
むしろ逆です。
AIに多くのことを委ねる時代になるからこそ、
何を委ねるのか。
どこまで委ねるのか。
どの条件になれば人間へ戻すのか。
を、人間があらかじめ決めておく必要があります。
AIを拒絶するのではありません。
AIに従属するのでもありません。
AIの力を使いながら、人間が判断主体であり続ける。
私は、その関係を目指しています。
AIエージェント時代には、行動の境界も必要になる
AIエージェントは、考えるだけでなく行動します。
メールを送る。
予定を変更する。
商品を注文する。
顧客に回答する。
システムを操作する。
そこで問われるのは、
「AIに判断させてよいか」
だけではありません。
「AIにどこまで行動させてよいか」
という問題です。
判断権限と行動権限は、同じではありません。
AIに判断を任せても、実行前には人間の確認を必要とする場合があります。
逆に、一定の条件内なら判断から実行までAIに委ねられる場合もあります。
この境界も、人間の側から設計する必要があります。
人間の尊厳を、効率より上位に置く
AIが高度になるほど、社会は多くのことを最適化できるようになるでしょう。
しかし、最適化できることと、最適化してよいことも同じではありません。
人間を数字だけで評価する。
効率だけで人間の価値を決める。
予測値だけで人生の可能性を閉じる。
そのような社会を、私は望みません。
技術は人間のために使われるべきであり、人間が技術の論理に合わせて存在するのではない。
人間の尊厳は、効率や生産性よりも上位に置かれるべきです。
これは、私の文明設計哲学の基本的な立場でもあります。
私の宣言
私は、AI・AGIが高度になっても、人間がすべての判断を保持すべきだとは考えていません。
AIに委ねるべきものは、委ねればよい。
AIに確認を求めればよいものもある。
AIから十分な支援を受ければよい。
しかし、
人間が自ら形成すべき判断まで、便利さを理由に手放してはならない。
そして、
人間の尊厳や人格に深く関わる領域には、AIが越えてはならない境界を設けなければならない。
AIに何ができるのかだけを問うのではなく、
人間は何を手放さないのか。
を問う。
AIが進歩するほど、人間もまた、自分たちが何者であるのかを問い続ける。
私は、そのための原理として「判断主権」を提唱します。
AIを恐れるためではありません。
AIを拒絶するためでもありません。
AIとともに生きながら、
人間が人間として、問い、選び、判断し、責任を引き受け続けるためです。
それが、私の「AGI時代の判断主権宣言」です。
判断主権について、さらに詳しく
判断主権の正式な定義、「委ねる・確認する・保持する・不可侵」の4分類、AIエージェント時代の判断権限・行動権限・責任の所在については、次のページにまとめています。
関連ページ