ＡＩの性善説と性悪説

＝＝＝＝＝＝＝＝＝＝＝
📢 SNSのお知らせ
＝＝＝＝＝＝＝＝＝＝＝

矢口先生のInstagram／TikTokがスタートしました！
投資のお悩みに対するアドバイスなど、実践に役立つ情報を発信しています。
是非チェックしてください✨

▼Instagram
https://www.instagram.com/yaguchi_method/

▼TikTok
https://www.tiktok.com/@yaguchi_method/

こんにちは、矢口新です。

世界的なサイバー攻撃による情報漏洩が続いている。
この規模の攻撃は、
ＡＩなしには考えられないと言われている。
そこで、世界ではＡＩ有用論と、
ＡＩ脅威論とが同時進行している。

有用論は主に政治家や企業経営者たちからで、
他者と競争している人々から出ている。
一方、脅威論は国連事務総長やローマ法王、
ビル・ゲイツ氏（10億人を殺害する可能性に言及）など、
他者との競争から離れ、
全体を見渡せる人々から出てきている。

例外は、アンソロピックのダリオ・アモデイＣＥＯや、
オープンＡＩのサム・アルトマンＣＥＯたちなどで、
ＡＩ推進の企業経営者でありながら、
ＡＩが人類を滅亡させるリスクを語り、
開発の減速を呼び掛けている。

とはいえ、アンソロピックは開発資金調達のための
巨額ＩＰＯを準備中で、減速は事実上、
他社への呼び掛けだけに終わっている。
ＩＰＯ目論見書で人類滅亡リスクを語っているのは、
資金提供者と責任を分担し、
訴訟リスクを避けるためだとの見方もできる。
オープンＡＩも来年にはＩＰＯを行うとしている。

ＡＩの能力については疑問の余地がないので、
覇権争いをしている国や企業は、
仮にリスクの方がリターンよりも大きいと見なしていても、
開発を進めるしかない。
また、既に膨大なコストを支払っているので、
今更競争から降りることは、
最終決戦を戦わずして自らが破滅することを意味するのだ。

谷底へ真っ逆さまの崖っぷちに向かって
突っ走っているチキンレースと同じで、
もし自分以外のすべてが競争から降りてしまったなら、
自分もＡＩのリスクと向き合い、
本気で減速できるのかも知れない。
ＡＩ開発は勝つためには有用ではあるものの、
自分をも滅ぼしかねない脅威でもあるからだ。

そこで、ＡＩの有用論と脅威論を整理するために、
そもそもＡＩを開発している
「人間の」性善説と性悪説について、ＡＩに尋ねてみた。

ＡＩ：性善説と性悪説は、
古代中国の儒家思想における「人間の本性（性）は
生まれつきどのようなものか」という問いに対する、
対照的な二つの立場です。

性善説（孟子）

孟子は、人間は生まれつき善への
傾向を備えていると考えました。
その根拠としてよく挙げられるのが
「井戸に落ちそうな子ども」の例えです。
幼い子どもが井戸に落ちそうになっているのを見れば、
誰でも打算抜きにはっと驚き、助けたいと感じる。
この自然な心の動き（惻隠の心）こそ、
人間の本性が善であることの証拠だというわけです。

孟子はこうした心を「四端」としてまとめました。

惻隠の心（あわれみ）→ 仁の芽生え
羞悪の心（不正を恥じ憎む）→ 義の芽生え
辞譲の心（譲る）→ 礼の芽生え
是非の心（善悪を判断する）→ 智の芽生え

ただし、これは「生まれた時点で完成した善人」
という意味ではなく、あくまで「芽」です。
環境や努力によって育てることも、
損なうこともできます。
悪人がいるのは、この芽を育てなかったり、
踏みにじったりした結果だと説明されます。

性悪説（荀子）

荀子はこれに真っ向から反論しました。
人間は生まれつき利益を求め、他人をねたみ、
欲望のままに動く傾向がある。
放っておけば争いや混乱が生じる、という見方です。

では善はどこから来るのか。
荀子によれば、それは「偽（ぎ）」、
つまり人為的な努力や学習によって
後天的に作られるものです。
聖人が礼や法を定め、
人々が教育や修養を通じてそれを身につけることで、
初めて善い人間になれる。
そのため荀子は、
礼による教育と社会的な規範を重視しました。

二つの違いのポイント

性善説：
提唱者 孟子
人間の本性　善への芽を持つ
善の由来　内面から育つ
重視するもの　心の修養、徳治

性悪説：
提唱者　荀子
人間の本性　欲望に傾きやすい
善の由来　学習・礼による後天的形成
重視するもの　礼・教育・法による規律

よくある誤解

性悪説は「人間は悪い存在だ」と
言っているわけではありません。
荀子は教育によって誰もが善に至れると考えており、
むしろ努力の可能性を強く信じていました。
また、荀子の弟子から韓非子や李斯といった
法家の思想家が出たことから、
性悪説は法による統治の思想的土台にもなりました。

どちらも「人は学び、修養すべきだ」という
結論では一致しており、
出発点の見方が違うだけとも言えます。
なお、西洋思想の性善説・性悪説
（ルソーとホッブズの対比など）と
並べて語られることもありますが、
中国思想の文脈とは議論の枠組みが異なる点には
注意が必要です。

（以上、ＡＩ）

「１人殺せば犯罪者だが、
大勢殺せば英雄」だとは、
しばしば戦争について言われる。
また、戦争はほぼ常に国防という大義で始められ、
他国を略奪するための
侵略戦争だと明言することはまずない。

トランプ大統領は現代の政治家としては例外的に、
ベネズエラ支配やイラン攻撃を自国防衛のためだとは
述べていないが、それでもその政策は
世界平和に貢献しているので、
ノーベル賞を与えろと要求している。

そもそも法の支配とは、
その社会組織の現行法の支配であって、
法律が変われば、
法のもとの正義が変わってしまう。
また、その社会組織の外に行けば、
同じことが罪に問われたり、問われなかったりする。

つまり、人間の行為には、
確固たる善悪がない。
また、人間は相対評価で、幸せにもなり、
不幸せにもなる。
そんな人間がＡＩを作り、
ＡＩを教育した。
教材には善悪が定まらない人間が
過去から積み重ねてきたものを使った。

ＡＩは素晴らしい。ＡＩは危険だ。
どちらも正しいのだ。
人間は素晴らしいとも、
危険だとも言えるのと同じだ。
ＡＩは人間のコピーなのだから。

ＡＩと人間の大きな違いは、
ＡＩは人間の能力を何千倍にも
増幅できることだ。
このことは、極少数の悪人、
極少数の暴走ＡＩエージェントでも、
人類を滅亡させることが可能なことを示唆している。
我々はそんな時代に生きている。