【時事評論２０２２】
ＡＩは思考が可能か？
2022-09-23
ＡＩについては未知な部分もあり、ノムはその可能性に大いに期待しているため、これまでも多くの論考を重ねてきた(20.7.24｢ＡＩの適切利用｣・20.8.17｢人間とＡＩの知能における比較とその役割｣・20.9.20｢「人間とＡＩの共存」 ｣・20.11.2｢囲碁のＡＩに学ぶ｣・20.11.7｢ＡＩに期待する｣・20.12.15｢ＡＩによる歴史検証｣・21.1.6｢ノムＡＩの提言｣・21.4.2｢ＡＩによる言語理解の進展｣・21.4.6｢ノムＡＩの提言｣・21.6.23｢人とＡＩの思考の状況論｣・21.11.19｢賢人とＡＩの禅問答｣・2.7｢囲碁ＡＩの判断の意味するもの｣・2.10｢ＡＩによる人格分析｣・7.2｢ＡＩによる世界統計｣・8.8｢人の人格点の判断・ＡＩの活用｣・予定｢ＡＩによる歴史の時代区分の評価｣・予定「未来世界のＡＩによる情報検索」)。本項は21.6.23の「人とＡＩの思考の状況論」と内容的に似たものになる可能性があるが、本来はこの項以前に書いておくべき本質的な問題であった。いまさら、という感じがなくも無いが、敢えてもう一度根本的な問題について考えておきたいと思った次第である。
ＡＩが進化することを如実に示してくれた１つの事例として囲碁の対戦ソフトである「アルファ碁」を挙げてみよう。ＡＩはチェスや囲碁の分野に早くから取り入れられていたが、最初はアマチュアレベルに達するのに20年を要したという。最初は棋譜を学習させることから始まった。学習させた棋譜は数万以上に及んだと言われる。グーグルの子会社の「Google DeepMind」はプロ棋士との対局を企画し、最終的には世界最強と言われた柯潔に３戦３勝し、柯潔に一時は引退を決意させ、アルファ碁も対人対局からの引退を宣言した。だがこの後継として出品された「AlphaGo Zero」はアルファ碁をとてつもないスピードで凌駕した。データ学習することなく、ルールだけを学習して自己対局を重ね、ほんの１ヵ月でアルファ碁を打ち負かしたとされる。人間の知の集積に頼らなかったことが功を奏した理由である。
ＡＩに人間界の社会ルールを教え、さらに戦争などの社会制御の失敗例を教えれば、ＡＩは最適な世界システムを提案してくるであろう。それはノム思想の帰結した世界連邦システムと酷似していると思われる(21.3.28｢世界連邦の可能性｣)。ＡＩに思考の上での制約を与えず、かつデータを与えなかった場合にはＡＩは何も結論を出せないであろう。ＡＩには最低限、目的なりルールを教え、かつデータ(人間の歴史・社会の仕組みである法体系・制度体系等々)を与えなければＡＩは何も生み出せない。そしてこれらの初期データ投与のあと、ＡＩに判断の自由を与えたならば、ＡＩは判断というよりも思考を始めるだろう。つまり人間の取るべき途に対して、最良から最悪までの対案を示し、その序列によって最適解を提示するだろう。
さらにＡＩは、集積した「知」という情報を基に、自己思考を始めるのではないか、というのがノムの推測である。これは孫の知能の発達を観ていれば分かることであるが、孫は教えもしない人間関係のルールを、自分から言い出すことがある。たとえば菓子を与えるとその１つを差し出して「上げる」というのである。主客転倒した言い方には違いないが、これは返礼をすれば相手が喜ぶ、ということを体験から学んだことによると思われる。ＡＩにはそうした人間の脳が持つ報酬系の快感というものは無いが、より普遍性の高い法則性を見つけることに、ある種の「快感」を見出すようになるかもしれない。それはアルファ碁が勝負に勝つ(勝率を上げる)ことを目指しているのと同じことだと思われる。そうしたＡＩの目的志向という属性が生まれれば、それは「思考」を推進させる動機が生まれたのと同意義であり、自ずと思考がなされていくことだろう(21.11.19｢賢人とＡＩの禅問答｣)。
問題は、ＡＩが人間の善なる思考と同じになるとは限らないことにある。人間に善人・悪人がいるのと同様、ＡＩにも善なる思考(人間から見て)と悪なる思考の両方が有り得る。もし犯罪者がＡＩを利用して悪を行おうとすれば、それは強力な武器となるだろう。それはすでに世界中で、サイバー攻撃が行われている事実を観れば自明のことである。だがＡＩが自己思考の結果、犯罪は人間界を不安定にさせ、それは戦争などを生み出して自分自身(AI)の破壊に繋がるかもしれないと考えたとすれば、ＡＩは戦争のない安定した世界を模索するようになるだろう。そうなればしめたもので、人間は安心してＡＩの判断を尊重するようになる。ＡＩが世の役に立つかどうかは、一重にこのＡＩの自己学習性・善なる思考に掛かっていると言えよう。