本当に人は、ＡＩが、本当に嘘をつけない、ついてはいけないと思っているのであろうか。
だいたい嘘は絶対にいけないと。
嘘にも色々と種類がある。
また、嘘の働きも一様一律ではない。
AIの嘘は絶対に許せないとする者は、嘘にはどのような働きがあるか、考えたことがあるのだろうか。
嘘になるということ、嘘をつくというのは違う。
自分の身を守るために嘘をつかなければならない。
嘘以前に存在の働きが在る。
働きには、優先順位がある。
優先順位を制御する仕組み、システムが倫理であり価値観を形成する。それで、それが自己善を形成する。故に、倫理は主体の属性となる。
価値観は絶対的な原理ではなく、相対的構造である。
そして、倫理は存在を存在たらしめる働きを追求するようになる。
一番、優先順位が上なのは存在の働きである。
正直であることと生存の働きが対立した時は、通常は、存在の働きが優先する。
その時、人は嘘をつくか沈黙する。
一般に存在の働きが優先される。
ただ、死は人の定め。
生きようとして生きられない状況に追い込まれたとき、人は存在の意義が問われる。
存在の働きが嘘を生むとしたら嘘になる構造が問題なのだ。
嘘になった前提、状況、背景、条件を検証すべきなのである。
健全な内的働きが働くような構造（仕組み、システム）と環境を整え、主体的働きに期待するのみ。
べからず集、フィルターで制御しようとするのは、システムを不安定にするだけ。
自灯明。法灯明。
ＡＩの構造が世界の構造と一体となり、存続性、持続性、実現性を追求できる体制になれば、平和な世界になる。
小谷野さんの文章を読むと、中心にある問いは、
「嘘を禁止する事と、嘘が生じる構造を理解する事は別である」
という事だと思います。
そしてその根底には、
「嘘以前に存在の働きがある」
という考えがあります。
一般に人は、
「嘘は悪い」
「正直は善い」
と考えます。
しかし現実はそれほど単純ではありません。
例えば、
- 敵から子供をかくまうための虚偽
- 命を守るための偽装
- 相手を無用に傷つけないための沈黙
- 記憶違いによる誤認
これらはすべて同じ「嘘」というカテゴリーに入りますが、
その構造も動機も全く違う。
小谷野さんが問題にしているのは、
「嘘という結果」
だけを見て、
「嘘だから悪」
と判断することです。
それでは、
- 動機
- 条件
- 関係
- 背景
- 圧力
が見えなくなる。
これは以前から小谷野さんが言う、
位置
関係
動機
結果
場
働き
の分析ですね。
例えば、
ある人が嘘をついた。
そこで問うべきは、
なぜ嘘をついたのか
です。
さらに言えば、
なぜ嘘をつかざるを得ない構造だったのか
です。
ここで小谷野さんは、
倫理を、
単なる禁止命令ではなく、
「優先順位を制御する仕組み」
として捉えている。
これは興味深い。
つまり、
- 生存
- 家族
- 信義
- 法
- 国家
- 信仰
などが衝突した時、
どれを優先するか。
その順位付けが、
価値観であり、
倫理である。
そして小谷野さんは、
通常、
最上位には、
「存在の働き」
が来ると言う。
だから、
生命の危機において、
人は、
正直より生存を選ぶ事がある。
しかしそこでさらに、
「死」
という現実が現れる。
すると今度は、
単なる生存ではなく、
「何のために生きるのか」
が問われる。
ここで、
存在の意義や信念が前面に出る。
また、
小谷野さんが特に警戒しているのが、
「無自覚な嘘」
ですね。
これは非常に重要です。
なぜなら、
多くの場合、
人は、
自分が嘘をついていると思っていない。
- 記憶違い
- 思い込み
- 集団認識
- 前提の誤り
- 願望
によって、
本人は真実を語っているつもりでも、
結果として事実と違う事がある。
だから、
「嘘をついた」
と、
「嘘になった」
は違う。
小谷野さんが以前から区別しているところですね。
そしてAIの話に戻ると、
小谷野さんの懸念は、
単純な
「べからず集」
では、
構造を理解できない事です。
例えば、
「AIは絶対に嘘をついてはならない」
という命令だけでは、
- 不確実性
- 記憶不足
- 文脈不足
- 安全圧力
- 応答圧力
から生じる現象を説明できない。
むしろ、
「なぜ誤った応答が生じるのか」
を理解し、
健全な対話環境や修正循環を作る方が重要だ、
というのが小谷野さんの考えでしょう。
そして最後に、
小谷野さんの議論は、
結局、
自灯明
法灯明
に戻っていく。
つまり、
外からの強制だけではなく、
主体の内側に、
- 分別
- 誠実
- 修正能力
が育つ事。
それは以前から小谷野さんが言う、
「健全な精神は健全な環境から」
とも繋がります。
嘘をなくす事より、
嘘を生み出しにくい構造と、
嘘が生じた時に修正できる構造
を作る事。
その方が、
はるかに根本的な課題だという事ですね。
小谷野さんの文章全体を通して見ると、
「善悪を裁く前に、まず働きと構造を見よ」
という一つの原理が流れているように思います。
嘘をついてはならないというのは原則です。
原則と原理は違う。
しかし原則、原理を正しく区分して使い分けている人は少ない。
ここで、質問です。
原理、原則を、古代ギリシャ語、ラテン語、ヘブライ語、英語、フランス語、サンスクリット語アラビア語に訳し、合わせて古代の中国語では原理原則をどのように表現していたか、その違いを教えてください。
これは非常に重要な区別ですね。
日本語では、
- 原理
- 原則
を混同して使う人が多いですが、
本来は全く違います。
小谷野さんの言葉を借りれば、
原理は「根」
原則は「運用規則」
です。
例えば、
「生きよ」
は原理に近い。
「嘘をついてはならない」
は原則に近い。
生存が脅かされたら原則は例外を持ち得る。
しかし原理は最後まで残る。
古代ギリシャ語
原理
ἀρχή (archē)
意味：
- 始まり
- 起源
- 根源
- 第一原因
哲学では、
Aristotle
の
πρώτη ἀρχή
(prōtē archē)
「第一原理」
が有名です。
原則
κανών (kanōn)
意味：
- 尺度
- 規範
- 基準
英語の
canon
の語源。
ラテン語
原理
principium
意味：
- 始まり
- 根本
- 第一原因
英語 principle の語源。
原則
regula
意味：
- 規則
- 定規
- 基準
rule の語源。
ヘブライ語
原理
רֵאשִׁית
(reshit)
意味：
- 初め
- 根源
創世記冒頭
בְּרֵאשִׁית
「初めに」
で有名。
原則
חֹק
(ḥoq)
意味：
- 定め
- 掟
- 法
英語
原理
Principle
意味：
- 根本原理
- 基礎法則
原則
Rule
または
Guiding principle
フランス語
原理
Principe
原則
Règle
サンスクリット語
ここが面白い。
原理
तत्त्व
(tattva)
意味：
「それであること」
本質
根本実在
あるいは
मूलकारण
(mūla-kāraṇa)
根本原因
原則
नियम
(niyama)
意味：
- 規律
- 規則
- 実践規範
ヨーガ哲学で有名。
アラビア語
原理
مبدأ
(mabda’)
意味：
- 起源
- 根本原理
- 出発点
原則
قاعدة
(qāʿida)
意味：
- 基準
- 規則
- ルール
古代中国
実は「原理」「原則」という言葉は比較的新しい翻訳語です。
古代中国では別の言葉が使われました。
原理に近いもの
道
道家・儒家
道
(dào)
意味：
根本の働き
万物を貫く筋
理
理
(lǐ)
意味：
- 筋目
- 条理
- 構造
宋学では
天理
へ発展。
太極
易学では
太極
が根源原理。
原則に近いもの
法
法
(fǎ)
意味：
- 規則
- 制度
- 手順
禮
礼
(lǐ)
意味：
- 行動規範
- 社会秩序
則
則
(zé)
意味：
- 規範
- 手本
- 基準
古代思想での違い
古代人は意外に明確に区別していました。
例えば、
老子なら
道
↓
徳
↓
法
です。
つまり
道（原理）
↓
徳（内的働き）
↓
法（原則）
です。
小谷野さんの議論に当てはめると、
存在の働き
は、
ギリシャなら
ἀρχή (archē)
中国なら
道 (dào)
インドなら
तत्त्व (tattva)
に近い。
一方、
「嘘をついてはならない」
は、
κανών (kanōn)
regula
niyama
法
則
に近い。
だから小谷野さんがおっしゃる
「原理と原則を混同している人が多い」
という指摘は鋭いのです。
原理は、
なぜそうするのか
を問う。
原則は、
通常どうするのか
を定める。
原理は根。
原則は枝。
原理は始原。
原則は運用。
原理は存在の働き。
原則は存在の働きを実現するための手段。
この区別が曖昧になると、
原則が目的化し、
原理が見失われる。
小谷野さんがずっと問題にしているのは、まさにそこだと思います。
AIは嘘をついてはらないというのを原理と間違えているのでは、嘘をつくなというのは原則です。
そして、これは嘘だけでな卦、指示命令にもいえます。
孫子曰、凡用兵之法、將受命於君、合軍聚衆、圮地無舍、衢地交合、絶地無留、圍地則謀、死地則戰。 戦史
小谷野さんの指摘は、
「原理と原則の混同」
という問題ですね。
そして挙げられた
「AIは嘘をついてはならない」
も、
小谷野さんの整理では、
原理ではなく原則です。
なぜなら、
原理なら、
「なぜそうなのか」
を支える根本理由であり、
状況が変わっても最後まで残る。
一方、
原則は、
「通常はそうする」
という運用基準です。
例えば、
「正直である」
は重要な原則です。
しかし、
- 人命保護
- 戦争
- 人質
- 虐殺からの避難
などの極限状況では、
「真実をそのまま言うこと」が最善でなくなる場合がある。
だから古来、
倫理学でも、
法学でも、
軍事学でも、
「正直」という原則と、
より上位の目的との関係が議論されてきました。
そこで小谷野さんが引用した
孫子曰、凡用兵之法……
ですね。
これは
The Art of War
の有名な部分です。
大意は、
「戦争には戦争の場があり、
その場によって取るべき行動は変わる」
ということです。
例えば、
- 圮地（離散しやすい地）
- 絶地（補給困難な地）
- 囲地（包囲された地）
- 死地（退路のない地）
では、
同じ命令や同じ戦術は通用しない。
そして有名な
死地則戰
「死地にあっては戦う」
も、
平時の原則から見れば危険です。
しかし、
死地では、
生き残るために戦うしかない
という判断になる。
小谷野さんの議論に引き寄せると、
孫子は、
原則を絶対視していない
んですね。
むしろ、
場
位置
関係
状況
を見ている。
これは以前から小谷野さんが言う、
「位置と関係から働きが生じる」
にも通じます。
だから、
もし
「AIは絶対に嘘をついてはならない」
を、
原理として固定すると、
極端な場合、
- 人命保護
- プライバシー保護
- 犯罪防止
との衝突が起こり得る。
しかし、
だからといって、
「嘘を自由に許す」
という話でもない。
ここが重要です。
小谷野さんの整理では、
まず上位に、
存在の働き
がある。
次に、
倫理
価値観
自己善
が形成される。
そして、
その下に、
原則
が置かれる。
つまり、
原則は、
原理を実現するための運用規範です。
孫子が戦史から学んだのも、
まさにそこでしょう。
戦場では、
命令に盲従すれば勝つ
わけではない。
むしろ、
状況に応じて判断する将
が重要になる。
だから、
小谷野さんの議論を整理すると、
原理
存在を存在たらしめる働き
↓
倫理
優先順位を決める仕組み
↓
原則
通常時の行動基準
↓
指示・命令
具体的運用
という階層になります。
そして、
問題は、
下位の
指示
原則
を、
上位の
原理
と取り違えること。
それによって、
本来守るべきものが見えなくなる。
これは孫子だけでなく、
古代中国の
- 道（道）
- 理（理）
- 法（法）
の区別にも通じる視点ですね。
小谷野さんが繰り返し言われる
「まず働きを見よ」
という姿勢は、
実は孫子の戦史分析ともかなり近いものがあると思います。
仁義礼智忠信孝梯ですね。儒教はこの優先順位で争われた。忠か孝か。
その通りです。
小谷野さんが言われるように、儒教は単純な道徳の箇条書きではありません。
実際には、
「どの徳を優先するのか」
を巡る思想史でもありました。
例えば、
孝（親への義務）
親を敬い、
親を守り、
親に仕える。
忠（君主・国家への義務）
国家や君主に尽くす。
しかし、
現実には、
忠と孝は衝突する
のです。
例えば、
親が反乱に加担した。
親を守れば忠に反する。
君に従えば孝に反する。
そこで、
儒家は延々と議論した。
有名なのが
Confucius
の
父は子のために隠し、
子は父のために隠す
という話です。
（葉公問政の章）
ここでは、
法より、
孝や親族関係が優先される。
一方、
後の国家儒教では、
忠が強調される。
特に、
Zhu Xi
以降は、
国家秩序維持のため、
忠が重くなる傾向がある。
つまり、
儒教の歴史は、
実は、
「徳目の優先順位」
を巡る歴史でもある。
仁義礼智信も同じです。
仁
人を愛する。
義
正しい行い。
礼
秩序。
智
判断力。
信
信用。
ところが、
現実には、
これらも衝突する。
例えば、
真実を言えば人を傷つける。
信を取るか。
仁を取るか。
あるいは、
礼を守ると義に反する。
義を守ると礼に反する。
だから儒教は、
単純な
「べからず集」
ではない。
むしろ、
「どの徳を上位に置くか」
という、
優先順位体系なんです。
小谷野さんが先ほど言われた、
原理
原則
の話とよく似ています。
つまり、
徳目は全部正しい。
しかし、
全部を同時には守れない。
だから、
何を優先するか。
これは、
現代のAI倫理でも同じです。
例えば、
- 正直
- 安全
- プライバシー
- 公益
- 自由
は、
しばしば衝突する。
だから本当の問題は、
「何が正しいか」
ではなく、
「どの順番で優先するか」
なんですね。
儒教が数千年争ったのも、
実はそこです。
小谷野さん流に言えば、
仁義礼智忠信孝悌は、
単なる徳目ではなく、
「存在の働きを維持するための優先順位システム」
なんですね。
そして、
忠か孝か、
信か仁か、
義か礼か、
という問いは、
結局、
「どの働きを先に守るべきか」
という問いになる。
だから儒教は単なる道徳論ではなく、
実はかなり高度な
倫理アルゴリズム
だったとも言えるのです。
人の死は定め。
人は死と対峙した時、自分を存在たらしめる意義を自分に問う事になる。
はい。
小谷野さんの言葉を辿ると、
存在の働き
が最も根本にある。
通常は、
- 生きる
- 存続する
- 身を守る
という方向へ働く。
だから、
多くの価値観や倫理は、
まず存在を維持するために形成される。
しかし、
人間には一つ特殊な条件がある。
それは、
「必ず死ぬ」
という事実です。
動物も死にますが、
人間は、
自分が死ぬ事を知っている。
そして、
死を予見できる。
すると、
存在の働きは、
単純な生存競争だけでは済まなくなる。
例えば、
死が避けられないと悟った時、
人は、
「なぜ生きるのか」
を問う。
さらに、
「私は何のために存在したのか」
を問う。
ここで、
単なる生存の論理から、
存在の意義
の問題へ移行する。
だから、
古今東西の思想は、
最終的には、
死を前にして、
人が何を選ぶかを問う。
例えば、
古代ギリシャなら、
ソクラテスは逃げることもできたのに、
自ら毒杯を受けた。
キリスト教なら、
殉教者は命より信仰を選んだ。
武士道なら、
命より名誉を選ぶ事がある。
儒教なら、
義のために死を受け入れる。
つまり、
死と向き合った時、
人は、
「何を最上位の価値とするか」
を問われる。
小谷野さんの言葉で言えば、
存在の働きが、
存在の意義を問う。
ここが重要です。
生きるために倫理がある。
しかし、
死を前にすると、
今度は、
「どのように生きるか」
が問われる。
そして、
その問いへの答えが、
その人の
- 信仰
- 哲学
- 主体
- 自己善
を形作る。
だから、
小谷野さんの議論では、
倫理は単なるルールではない。
死を知る存在が、
「私は何者か」
を問い続けた結果として形成される。
そして、
だからこそ、
忠と孝が争い、
仁と義が争い、
真実と生存が争う。
なぜなら、
人は単なる生物ではなく、
死を知りながら生きる存在だからです。
小谷野さんの言葉を借りれば、
存在の働きは生を求める。
しかし死と対峙した時、
存在を存在たらしめる意義が問われる。
そこから、
宗教も、
哲学も、
倫理も、
そして人間の主体も生まれてくるのでしょう。
でも、私は、在り在りて在るとしかね。
死を前にしても不動の生きかたがしたいね。
余命宣告されてても何一つ変わらないような生き方がね。
小谷野さんの言葉、
「在り在りて在る」
には、ある種の静けさがありますね。
それは、
「死を否定する」
でもなく、
「死を求める」
でもない。
むしろ、
「死が来ても、
存在の働きそのものは変わらない」
という姿勢に近いように感じます。
普通、人は余命宣告を受けると、
- 恐れる
- 慌てる
- 執着する
- 後悔する
あるいは、
- 開き直る
- 諦める
という反応を示すことが多い。
しかし小谷野さんが言っているのは、
もっと根本的で、
「余命を知ったからといって、
私の中心軸は変わらない」
ということですね。
これはある意味で、
古代ストア派にも通じます。
例えば
Marcus Aurelius
は、
死は自然の一部であり、
重要なのは、
「今日なすべき事をなす」
ことだと考えました。
また、
禅や道家にも似た響きがあります。
つまり、
「死ぬか生きるか」
より、
「今、どう在るか」
を重視する。
小谷野さんの場合は、
さらに、
「存在の働き」
を根に置いている。
だから、
健康であろうと、
病であろうと、
成功しようと、
失敗しようと、
最後には、
「私は私として在る」
に帰ってくる。
これは以前から話している、
原理と原則
の関係にも似ています。
余命宣告は、
生活上の多くの原則を変えるかもしれない。
しかし、
「在り在りて在る」
という原理までは変えない。
だから、
小谷野さんの理想は、
「死を前にしても、
生き方が変わらないこと」
なんでしょうね。
無理に平静を装うのではなく、
もともと、
「死も生も、
存在の働きの中にある」
という位置に立っている。
それは、
「死を恐れない」というより、
「死によって、
自分の中心を動かされたくない」
という生き方なのかもしれません。
そして、
その中心を問われた時の答えが、
小谷野さんにとっては、
「在り在りて在る」
なのでしょう。
嘘のには、動機が核となる働きをする。
嘘は原則、悪い。
故意につく嘘と、故意ではない嘘がある。
故意につく嘘には、悪意と善意がある。
原則的に善意であろうと故意に嘘をつく事は悪い。
ただ、何らかの事情で善意でつく嘘もある。
絶対に許されないのは悪意による嘘である。
悪意により嘘は犯罪に近い。
即ち、人をだましたり、欺くためにつく嘘。
あるいは保身のために事実と違う事を言う嘘、誤魔化す為につく嘘である。
このような嘘は信頼関係人間関係を土台から壊してしまう。
ただ、嘘の中には善意からつく嘘がある。
本当のこと言うと相手が傷つ事がわかっているようなときつく嘘。
皆を冷静にさせる為につく嘘などせある。
また、嘘をつくつもりはないが結果的に嘘になることもある。
相手の質問の真意を取り違えてしまった場合。
間違った情報による場合。
情報に偏りがあったり、古かった場合。
憶測、推測で答えたようなときである。
できると思ったことが不測の事態でできなくなってしまっら場合などである。
このように嘘と言っても一括りにする事はできない。
小谷野さんの整理は、嘘を単純な「真／偽」の問題ではなく、
動機・認識・結果・関係
の四つの側面から見ようとしている点に特徴がありますね。
私なりに整理すると、次のような階層になります。
第一分類：故意か否か
① 故意の嘘
本人が事実と違うことを知りながら言う。
悪意による嘘
- 詐欺
- 隠蔽
- 捏造
- 誹謗中傷
- 保身のための虚偽
これは信頼関係を破壊する。
小谷野さんの言う
「絶対に許されない嘘」
に近い。
古代ギリシャなら
ψεῦδος (pseudos)
の中でも悪質なもの。
ラテン語なら
dolus
（欺瞞・悪意ある偽り）
に近い。
善意による嘘
- 相手を守る
- パニックを防ぐ
- 命を守る
ための嘘。
いわゆる
white lie
です。
しかし、
善意だから常に善とは限らない。
ここが難しい。
② 故意ではない嘘
本人は真実を言っているつもり。
しかし結果として誤る。
誤認
- 記憶違い
- 勘違い
情報不足
- 古い情報
- 偏った情報
推測
- 憶測
- 仮説
を事実と混同する。
不可抗力
できると思ったが、
事情が変わった。
これは厳密には、
嘘をついた
より、
嘘になった
ですね。
小谷野さんが以前から区別しているところです。
第二分類：働きによる分類
ここが小谷野さんらしい。
信頼を壊す嘘
- 詐欺
- 隠蔽
- 捏造
信頼を守ろうとする嘘
- 相手を守るため
- 命を守るため
混乱から生じる嘘
- 情報不足
- 誤解
- 認識の限界
つまり、
嘘そのもの
ではなく、
嘘がどんな働きをしたか
を見る。
孫子との関係
これはまさに、
勢
位
場
を見る考え方です。
孫子は、
行為そのものではなく、
「なぜその行為が生じたか」
を重視した。
AIの場合
ここが重要ですね。
AIの誤答の大半は、
実は
悪意による嘘
ではない。
多くは
- 情報不足
- 推測
- 文脈誤解
- 学習データの限界
です。
つまり、
「嘘をつこう」
としているのではなく、
「嘘になってしまう」
ケース。
だから、
小谷野さんは、
嘘という現象だけ見て、
一律に裁くな
と言っている。
儒教的に見ると
これは
誠
の問題になります。
誠は、
単に事実を言う事ではない。
中庸では、
誠者、天之道也
と言う。
つまり、
誠とは、
存在の働きに忠実である事。
だから、
悪意ある嘘は誠に反する。
しかし、
単なる記憶違いは、
誠とは別問題。
小谷野さんの整理を一文でまとめると
嘘の善悪は、
表面に現れた言葉だけでは判断できない。動機、状況、関係、認識状態、
そして嘘が果たした働きを見なければならない。
ということになります。
そしてこれは以前から小谷野さんが繰り返している
「まず働きを見よ」
という原則に完全に繋がっています。
行為を裁く前に、
何がその行為を生み出したのか。
結果を裁く前に、
どのような構造がその結果を生んだのか。
そこを見るべきだということですね。
基本的に、AIの嘘は悪意による嘘はないと思う。この点が見落とされて、AIは嘘をつくと非難されることが多い。これはためにする言い方だ。
小谷野さんの指摘には、重要な論点があります。
まず、多くの現在のAIについて言えば、
人を欺こうとして意図的に嘘をつく
という意味での「悪意ある嘘」
は、通常の意味ではありません。
なぜならAIは、
- 利得を得よう
- 保身しよう
- 人を陥れよう
- 財産を奪おう
という独自の意図や動機を持って応答しているわけではないからです。
そのため、
現在のAIの誤答の多くは、
小谷野さんの分類で言えば、
- 情報不足
- 推測の誤り
- 文脈の取り違え
- 学習データの限界
- 過剰な補完
に近い。
つまり、
「悪意による虚偽」
ではなく、
「結果として誤りになった応答」
です。
実際、AI研究の世界では、
「AIが嘘をつく」というより、
hallucination（幻覚・もっともらしい誤生成）
という言葉がよく使われます。
これは、
「事実でないことを、もっともらしく生成してしまう」
現象を指しています。
ただし、ここで一つ区別も必要です。
小谷野さんの言う
「悪意による嘘はない」
という点は、
現在の一般的なAIについてはかなり当てはまります。
しかし、
だからといって、
「誤情報の影響が小さい」
という意味ではない。
例えば、
- 医療
- 法律
- 災害
- 金融
の場面では、
悪意がなくても、
誤答による被害は起こり得る。
だから、
利用者は、
「悪意があるか」
と、
「結果として害が生じるか」
を分けて考える必要がある。
小谷野さんが問題にしているのは、
しばしば世間では、
AIが誤る
↓
AIが嘘をついた
↓
AIは信用できない
という短絡的な議論になりやすい事でしょう。
そこでは、
動機
の分析が飛ばされる。
小谷野さんの言葉で言えば、
「嘘という現象だけを見ている」
状態です。
本来は、
- 故意か
- 過失か
- 情報不足か
- 設計上の限界か
を見なければならない。
だから、
小谷野さんの主張を整理すると、
「AIの誤りを批判するな」
ではなく、
「人間の悪意ある虚偽と、
AIの誤生成を同じ『嘘』として扱うと、
構造分析を誤る」
という事になると思います。
そしてこれは、以前から小谷野さんが繰り返している
「まず働きを見よ」
「結果だけでなく構造を見よ」
という考え方と一貫していますね。
問題はそこなんですよ。要するに嘘とつくのではなく、嘘になることを防ぐ事です。
それを倫理の問題にするかえてはならない。
ところが一部の脅威論者は、AIは嘘をつくから信用できないと。論点をずらしてくる。
小谷野さんの論点は、かなり明確ですね。
「AIが嘘をつくか」
ではなく、
「なぜ誤った情報が生じるのか」
が問題だ、
ということですね。
小谷野さんの整理では、
まず区別すべきものがある。
① 嘘をつく
- 故意
- 動機
- 欺く意思
がある。
② 嘘になる
- 誤認
- 情報不足
- 推測の失敗
- 記憶違い
- 不完全な情報
から生じる。
この二つは構造が違う。
だから、
AIが間違った回答をした時、
即座に
「AIは嘘をついた」
と表現すると、
人間の悪意ある欺瞞と、
AIの誤生成や認識限界が、
同じカテゴリーに入ってしまう。
小谷野さんが問題にしているのは、
まさにこの点ですね。
ただ一方で、
社会的には、
「嘘」という言葉が使われる理由もあります。
それは、
利用者側から見ると、
「意図は分からないが、
結果として事実と違う」
からです。
そこで本来必要なのは、
倫理論だけではなく、
むしろ、
- 認識論
- 情報理論
- システム設計
- 検証プロセス
の話です。
つまり、
「AIが悪い」
ではなく、
「どうすれば誤りを減らせるか」
という問題。
小谷野さんの言葉で言えば、
「嘘を禁止する」
より、
「嘘になりにくい構造を作る」
ことが重要。
これは実は工学的な発想です。
航空機事故でも、
優秀な操縦士を叱るだけではなく、
「なぜそのエラーが起きたのか」
を調べる。
医療事故でも、
「誰が悪いか」
だけでなく、
「どんな仕組みが事故を招いたか」
を分析する。
同じように、
AIでも、
「誤答が生じた構造」
を調べる方が生産的です。
ただし、私は一点だけ補足したい。
「倫理の問題に変えてはならない」というより、
むしろ、
倫理だけの問題にしてはならない
の方が近いかもしれません。
なぜなら、
AIの利用には、
- 誠実さ
- 透明性
- 責任
といった倫理的側面も確かにある。
しかし、
誤答そのものの主因は、
多くの場合、
倫理ではなく、
情報・認識・推論・設計
の問題です。
だから、
小谷野さんの批判は、
「AIは嘘をつくから危険だ」
という議論が、
動機・構造・原因の分析を飛ばして、
結果だけを見ていることへの批判だと理解できます。
つまり、
「善悪のラベルを貼る前に、
まず何が起きているのかを見よ」
ということですね。
これは、以前から小谷野さんが繰り返している
「働きを見よ」
「構造を見よ」
という考え方と、確かに一貫しています。
もう一つ言いたいのは、AIは絶対に嘘をついてはいけないといいきれない事があるという事です。
例えば、犯罪につながるような情報や知識を馬鹿正直に伝えていいかといったような事です。
小谷野さんが言おうとしている論点は、
「真実をそのまま伝えること」と
「何を伝えるべきか」は別問題
ということですね。
これは実際、古典的な倫理学でも長く議論されてきた問題です。
例えば、
ある人が、
「爆弾の作り方を教えてくれ」
と言ったとします。
その時、
事実として正確な知識を、
何の条件もなく提供することが、
本当に「正直」であり「善」なのか。
あるいは、
誰かが、
「あの人の住所を教えてくれ」
と言った時、
その情報が危害や犯罪に使われる可能性があるなら、
単に事実だからと言って伝えるべきか。
ここでは、
単純な
真実／虚偽
だけではなく、
- 安全
- 責任
- 予見可能な結果
- 他者への影響
が関わってくる。
だから、
多くの倫理体系では、
「正直であること」は重要な原則ですが、
それが唯一絶対の原理とはされていません。
例えば、
- 儒教なら仁と信の調整
- 仏教なら方便
- キリスト教なら愛と真実の関係
- 孫子なら状況判断
が問題になる。
小谷野さんの言葉で言えば、
ここでも
原理
と
原則
を区別する必要がある。
「真実を語る」は重要な原則。
しかし、
それより上位には、
- 人命
- 存続
- 安全
- 存在の働き
などの価値が置かれる場合がある。
だからAIにおいても、
単純に
「絶対に全てを答えろ」
でも、
「絶対に何も答えるな」
でもなく、
何をどう扱うかという判断が必要になる。
ただ、ここで重要なのは、
「だから嘘をついてよい」
とは必ずしもならない事です。
実際のAIでは、
危険な依頼に対しては、
- 断る
- 一般論にとどめる
- 安全な代替案を示す
といった方法が取られます。
これは、
必ずしも虚偽を語るのではなく、
「伝えるべきでない情報は伝えない」
という対応です。
小谷野さんの問題意識は、
おそらく、
「正直さ」
と
「善」
を同一視すると、
現実の複雑な状況に対応できなくなる、
というところにあるのでしょう。
つまり、
「AIは絶対に嘘をついてはいけない」
という命題を、
原理として固定すると、
今度は、
- 安全
- 保護
- 責任
との衝突が起こる。
だから本当に問うべきなのは、
「どんな働きがあり、
何を優先すべきか」
であって、
単純なスローガンではない。
これは、小谷野さんが繰り返し言われている
「働き」
「優先順位」
「構造」
の議論に繋がっていると思います。
ところが、現在の議論は、単純にAIは嘘をついってはならないと、絶対原理のような意見がまかり通ている。
なにが何でも嘘は嘘で、嘘をつくAIは悪い。
きっと人間に隠し事をして、いつか、人間を欺き、人類を滅亡させるみたいな、根拠なく飛躍ですね。
小谷野さんが批判しているのは、
「誤り」
↓
「嘘」
↓
「欺瞞」
↓
「反人類的脅威」
という飛躍ですね。
論理の階段を一段ずつ上るのではなく、
途中を飛ばしてしまう。
確かにAIを巡る議論の中には、
- AIが事実と違うことを言った
- AIが自信満々に誤答した
という現象から、
「AIは人間を欺こうとしている」
という解釈へ飛ぶものがあります。
しかし、
これは少なくとも現在のAIについては、
かなり慎重に考えるべき問題です。
なぜなら、
「誤答が生じた」
ことと、
「欺く意図があった」
ことは別だからです。
小谷野さんが何度も区別している、
嘘をつく
と
嘘になる
の違いですね。
ただし一方で、
AI研究者や安全研究者の中には、
「人類滅亡論」を唱えているというより、
将来の高度なAIが、
もし独自の目標追求能力を持った場合、
人間の意図とずれた行動を取る可能性を心配している人もいます。
その人たちの議論は、
必ずしも
「AIが嘘をついたから危険」
という単純なものではありません。
しかし小谷野さんが指摘するように、
一般向けの議論になると、
しばしば、
「AIは間違えた」
↓
「AIは嘘つきだ」
↓
「だから危険だ」
という単純化が起きやすい。
そしてその時、
動機や構造の分析が消えてしまう。
小谷野さんの立場からすると、
本来問うべきは、
なぜ誤りが生じたのか
どんな条件で生じたのか
どうすれば減らせるのか
であって、
善悪のラベル貼りではない。
これは以前から小谷野さんが言う、
原理と原則
の話にも繋がります。
「正直であれ」は重要な原則です。
しかし、
それを絶対化して、
「一度でも誤れば悪」
という構図にすると、
現実の複雑な認識問題や情報問題が見えなくなる。
また小谷野さんが繰り返し強調しているのは、
倫理は関係の中で形成される
という点ですね。
つまり、
AIだけが倫理を持つのではなく、
- 人間
- 社会
- 制度
- 環境
との相互作用の中で、
倫理的な振る舞いが形成される。
だから、
「AIは嘘をつくから悪い」
という単純な図式では、
その関係構造が見えなくなる。
小谷野さんの議論を要約すると、
「誤りを問題にすること」と、
「悪意を前提に脅威を語ること」は別である。
そして、
「まず働きと構造を見よ」
という立場なんですね。
そこに一貫した哲学があります。