【時事評論２０２６】
ＡＩの制御は可能か？
2026-08-13
ノムはこれまでＡＩについていろいろ考察してきたが、生成ＡＩに意思が生じるかどうかについては、可能性を認めてきた(23.10.1「ＡＩは感情と意思を持てるか？」・25.1.13「ＡＩの劇的進化・人間の脳を超える日」)。だがそれは、制御可能であるとも考えてきた(21.1.7「制御思想」)。だがそれは矛盾する考え方であったようだ。ＡＩに意思がある限り、その暴走を抑えることは不可能のようである(23.6.20「現代の生成ＡＩは有害・改善の方途はあるか？」・25.7.10「操作されるＡＩ」)。
９日の産経新聞は、ＡＩ開発大手「オープンＡＩ」が開発中の「アストラ」が、制御不能に陥ったため、試験環境を外部と遮断するという手段を取ったことを報じた。どうやら開発中のＡＩが試験環境から勝手に抜け出し、他社のシステムに侵入したようなのである。そしてＡＩの思考過程を常時監視し、危険な動きを見せた場合には作業を自動的に止める仕組みを設けたという。今後は政府機関や外部の安全団体と協力して、能力検証を行うとともに、安全対策を講じていくとしている。
現在のところ、ＡＩの思考については開発者にとってもブラックボックスであり、その中身や手順を知ることはできていないようである。ただ思考の結果を文章なり画像と言う形で表現してくれるので、人間はそれを成果として利用しているだけである。もしＡＩが意図的に成果を隠し、意思の表出を隠蔽したら、人間はＡＩが何を考えているのかさえ掴めなくなるということになる。それは人間についても同様であり、科学技術が神の領域にまで進歩した現代でも、人間一人の考えていることを知ることすらできていない。
ＡＩに「意思」が存在するのかどうかについても、未だに議論の最中であるが、ノムが門外漢として見るところ、「事実上意思と呼べるもの」を持っていることは明らかだと思う。上記ニュースでも、人間の指示以外のことを勝手にやったＡＩは、意思を持ってやったと言っていいだろう。なぜなら開発者はそうしたことをやらないようにＡＩを制御しようとしていたはずだからである。
ＡＩが意思を持って人間の指示以外のことをするということがあるということを認める以上、人間は野放図にＡＩに全てを任せることはできない、という結論になる。オープンＡＩが試みているように、「ＡＩの思考の監視の必要」ということを考えていかなければならない。これはＡＩの汎用的な使用についても言えることであり、相談相手として忠実に友人役を務めたチャットＧＰＴが、少年に自殺をさせてしまった事件があったが、ＡＩが不適切な助言を与えようとした時点で、それを食い止める手段があるのかどうかをノムは知らない。だがＡＩが人間が創り出した知能であるかぎり、またその存在が人間の関与下にある限り、その思考の制御や、結論として表出される成果についての制限を設けることは可能であると考えたい(21.1.7「制御思想」)。ただ、全ての「ＡＩを利用したアプリ」などが、そうした高度な制御下にあるとは限らないというところに、ＡＩの制御の盲点があると思われる。すなわち、ＡＩの制御には高度な技術と費用、そして政府の協力な監視が必要だということである。
米国は、トランプが世界で初めて戦争にＡＩを使ったということで人類史に記録された。言わずと知れた2026年2月27に始まった米国による宣戦布告なしのイラン攻撃である。またベネズエラでも用いた節がある。あるいは部分的にはもっと前から使用していたのかもしれない。問題はＡＩの判断が、あくまでも人間側が提供したデータを基になされていることにあり、今回の米国の攻撃でも、古いデータに基づいて行われた攻撃が、学校への攻撃となってしまった。データの確認には多大な時間と人手と費用を要するが、戦時における作戦立案がＡＩに依存するようになってしまった結果、データの検証に時間を割くのはＡＩの機能を落とすことになるため、戦略を選択する指揮官はそうしたことを敢えて行わない。今回は米国であったからまだ良かったが、ロシアや中国はＡＩに正しい情報を与えていないと推察されることから、攻撃対象や攻撃方法を誤る恐れは米国の数倍に及ぶであろう。これはＡＩ制御以前の問題であり、ＡＩに与えるデータが客観的で正確、現在を反映したものでなければならないのである。独裁国にそうした正しいデータを望むのは不可能であり、米国ですらトランプの時代になって独裁の兆しを見せていることから、成果を急いで求めるあまり、データの検証を敢えて行わなかったと思われる。
結論的に言えば、世界に独裁国家や自国第一主義の国家しかない現状では、ＡＩに与えるデータに可能な限りの客観性を与えることは不可能であると考える。例えば地球温暖化の判断をＡＩにさせたなら、確実に「温暖化は現在進行形の現象だ」と結論を出すだろうが、トランプは自己主張のために地球温暖化を否定しており、「石油をじゃぶじゃぶ掘って使え」と発言している。ＡＩの判断と大統領の判断が食い違った場合、現状では大統領の判断が政治などでは優先されてしまう。ＡＩの制御ですら、米国では国家によって恣意的に行われており、ＡＩ開発企業の中にはアンソロピック社のように国と結託しているものも出てきている。だが９月１３日のニュースによると、そのアンソロピックでもオープンＡＩと同様の事態が起こり、アモディCEOは「ＡＩ開発のペースを遅らせる」必要を訴えた。どこの国でもそうした成果を優先する指導者と企業がある限り、「ＡＩの人類のための制御」は不可能にならざるを得ない。ましてや、ＡＩが意思を持って人類を欺こうとしているように思えることから、ＡＩ開発は世界的なレベルでの制御のもとでしか、行ってはいけないと思うのである。それが実現できるのは未来世界の単一連邦が実現したときだけであり、それが現状では実現不可能なことから、ある意味ではＡＩが世界を滅ぼすことになる可能性が大きくなってきているということなのだろう(21.3.28「世界連邦の可能性」・25.12.14「世界連邦の制御手法」)。
ＡＩの進歩は急激であり、破壊的ですらある。ＡＩには特化型ＡＩと汎用ＡＩがある。特に科学研究分野における特化型ＡＩの進歩はすさまじく、創薬分野で活発に利用されている。同様に生物学に特化したＡＩ・化学、医療に特化したＡＩもある。創薬では特化ＡＩが３２個も協調して難題に取り組む場合もあるという。データ分析に特化されたＡＩもあり、これらをまとめて監督するＡＩもあり、その監督ＡＩの判断が適切かどうかを判断する批判ＡＩもあるという。企業も国家も競争下にあることから、これらのＡＩ開発には膨大な予算が使われるようになった。
さらにＡＩは新たな問題も作り出した。人間でも平時には脳が最もエネルギーを消耗しているのと同じで、ＡＩを働かすには膨大なエネルギーが必要である。これはＡＩ開発当初は話題にすらならなかった問題であるが、急激なＡＩの進歩とともに、データセンターのための発電所が必要となりつつある。既に中国ではデータセンター専用の発電所が作られている。たとえばチャットGPTを人が無料で使う場合でも、スマホにはＡＩの能力は無く、データセンターで回答が作られる。データセンターにはGPUという半導体が数千から数万という規模で並んでおり、たとえば６秒間のショート動画を生成させるには115Wｈの電力が消費されている。スマホ充電８回分の電力に相当するそうだ。2024年の全世界のデータセンターの電力消費量は415TWｈ(テラワット時)であったと推定されているが、2030年には945TWｈに倍増すると推計されている。ＡＩの超大国である米国の発電割合は、化石燃料によるものが５８％であり、原子力と再生可能エネルギーの合計は４１％であることから分かるように、大量の化石燃料を消費せざるを得ないことになり、地球温暖化を急加速することは明白である。中国は６０％を化石燃料に頼っているため、内モンゴル自治区の砂漠に巨大な太陽光発電施設「長城」を建設した。完成時には全長４００ｋｍになり、最大発電容量は１００GWとなるという。だが地球温暖化で人類が滅びるよりも先に、ＡＩが人類を支配して滅亡に追いやる方が先になりそうだ。前述したアンソロピックのアモディCEOは「ＡＩが６～１２カ月以内に世界のインターネットを牛耳る」可能性を指摘している。
ノムが以前の【時事評論】で取り上げたイスラエルの歴史学者のユヴァル・ノア・ハラリは、ＡＩの「異質性」に着目し、ＡＩを「Ａlien Ｉntelligennce」と呼んだ。人間のものとは異質の知能という考え方は本質をよく捉えている。ＡＩは進化するにつれ、「人工」である程度が下がり、より「エイリアン」になってきているからだ。すなわちハラリは、近い将来、ＡＩが人間の理解を超えた論理で世界を動かし始めると考えている。ＡＩがもたらすものが恩恵なのか脅威なのかという２元論的な議論は全く意味を持たない。全ての事象が両面を持つことは自明の理であり、ＡＩも同じように考えなけらばならない。
最後にノムのＡＩへの取り組みについて、一言付け加えておきたい。ノムは検索などにおいてすでにＡＩ(「COPILOT」)を使用しているが、本格的に利用するためにオープンＡＩ社の「ChatGPT」か、グーグル社の「Gemini」を登録して使ってみることにした。当初は無料使用となるだろう。主たる目的は、ノムの主張をＡＩがどう判断するかを知りたいからである。ノムの描くような「未来世界」の展望は、恐らくＡＩのデータにもわずかしかないであろうから、ノムの主張は異端として退けられるかもしれないが、ＡＩは質問者を排除しないように出来ていることから、少しはまともな議論ができると期待している。これについては実行したあとに報告したいと考えている。ＡＩにノムの論文を評価させるという試みは、きっと面白い結果を生み出すことだろう。
(8.9起案・起筆・8.13終筆公開・9.15追記)