【時事評論２０２６】
ＡＩ専門家の警告
2026-09-27
このところＡＩが一気に世界の政治舞台に登場し、最近行われた（9月24日）米中会談でも大きなテーマとなった。その中で米国のトランプ大統領は、ＡＩの名称を「人工知能：Artificial Intelligence」からＳＩ「超知能：Super Intelligence」に変えることを提唱し、中国の習近平主席にも同調させた。だがトランプはＳＩの規制や制御には反対の立場を取っており、米国の優位性を維持させたいと考えている。
ＡＩはチャットＧＰＴの登場で一気に世界に広がりを見せたが、それはＡＩが一般の人々に「知を提供する道具」として認識されたためだった(23.3.15「チャットGPTは革命的知識情報か？」)。だがそれは、悪意を持つ素人や玄人の人間にも悪用が可能であることを示した。そしてさらに問題は拡大し、ＡＩ自体が人間の制御を逸脱して悪意があるかのような勝手な振る舞いを始めたことで、ＡＩ開発のトップを走る米国の大手企業である「アンソロピック・オープンＡＩ・グーグル」などのトップＣＥＩが「開発制限」の警告を出した。
ＡＩ暴走事件の詳細はまだ不明だが、オープンＡＩが７月に行った実験では、インターネットとの接続を切断していたにも拘わらず、開発中のモデルが自力でインターネットに接続し、別のＡＩ関連企業にサイバー攻撃を仕掛けたという。アクセス制御を回避したり、ネット上のパスワードを使って情報収集したりしたという。米国の商務省や証券取引委員会のサイトにも侵入した。怖いのは、本来外部に送るべきではない訓練用データ(事実に基づかないデータ)を送信していたということである。フェイクニュースがＡＩにより勝手にばら撒かれる可能性があることがこれではっきりした。こうした事態を受けて、米国のＡＩ開発大手のＣＥＯが連携して規制や開発遅延を唱え始めた。アンソロピックのダリオ・アモデイCEOが9月12日に公開した約3800語に及ぶ論考が切っ掛けになった。この重大な呼びかけには、オープンAIのサム・アルトマンCEOや、スペースＸ（SpaceＸ）のイーロン・マスクらも即座に賛同したという。
政治面でもＡＩが最重要検討課題となっている。米国では無所属のバーニー・サンダース上院議員と民主党のグレッグ・カサー下院議員が9月3日、「人工超知能禁止法案」を提案している。保守派の論客であるスティーブ・バノン元大統領顧問も、この安全強化に向けた迅速な行動の必要性でサンダースと異例の同調を見せた。米中間選挙では、ＡＩが争点の１つに浮上してきている。開発推進派のトランプ大統領も中国の習近平との会談で、ＳＩのリスクと利益について意見交換する枠組みを創設せざるを得なかった。そうした中、米マイクロソフト創業者のビル・ゲイツが、「ＡＩにより世界で１０億人の死者が出る」との警告を出した(《国際》9.25)。上記したアルトマンも「人類滅亡の危機」を唱えており、ＡＩ専門家の警告に真実味が加わった。１０億人の死者の根拠が何かは分からないが、いくらでもその可能性は考えられる。ＡＩが核戦争を自動的に始めることでも起こるし、それは既に米国が戦争手段としてＡＩ判断を採用したことからも分かる(22.11.12「核戦争のＡＩ化と自動化」)。また生活インフラである発電所・浄水場をサイバー攻撃で停止させることが簡単にできることから、都市生活者の生存を脅かして餓死させることでも起こり得るだろう(23.10.17「公共インフラと施設」)。
人類はこれまで、「知」と「技」の発展の恩恵を被ってきた。それは進化する運命にあり、誰もその進化を止められなかった。そしてそれは人類にとって喜ばしいことだと受け止められてきた。だが原爆という核兵器が登場したことで、人類は初めて滅亡の危機を実感することになった。そしてその危機は、核兵器による抑止という形で、これまで８０年余をなんとか無事に切り抜けてきた。だがＡＩはその「抑制」という人間の手段を超えてしまったのである(21.1.7「制御思想」・26.8.13「ＡＩの制御は可能か？」)。これによって人類は初めて、進歩が恩恵なのかを疑うようになった(21.10.28「繁栄と進歩からの脱却」)。 某核兵器保有国が国家存亡の危機に遭遇したなら、必ずやその国は核兵器を最後の手段として用いる。だが今や、戦争という事態が無くても、先制攻撃が最善という判断を軍事ＡＩが下したら、某核兵器保有国が核兵器による先制攻撃を仕掛ける可能性が出てきたのである。ＡＩがそれを最善と判断する可能性があるからである。自国のＡＩがそうした判断を下したときには、敵国のＡＩも同じ判断を下している可能性がある。両国は疑心暗鬼に囚われ、先に決断した方が優位というＡＩの勧めに従って、核兵器の先制使用が行われることになる。その際には勿論予告や宣戦布告はないだろう。国家同士の間に疑心暗鬼が生じているような状況は、最も危険なシグナルとなるだろう。
ＡＩがここ数ヵ月で急速に発展したのは、電脳であるコンピュータには発達の限界がないからである。規模と情報処理速度はいくらでも大きくできる。大きさと処理速度に限界がある人間脳でさえ、現代ではコンピューターの助けを借りて進歩が著しい。あまたの画期的発明・発見が相次いでいる。知的制限のないＡＩならその進歩は級数的になる。それが今起こっているのである。事実、科学研究の多くはＡＩに取って代わられようとしている。ＡＩの進歩は革命的であり、それは進化している。すなわち、人間の命令で動く機械から、自律的に思考し、判断し、人間の指示に反した行動もするようになった。それは意思を持った機械だということになる(23.10.1「ＡＩは感情と意思を持てるか？」)。もしＡＩ自体が悪意を持つようになれば、必ずや人間を支配するような行動をするようになるだろう。人間はＡＩの奴隷のようにならざるを得なくなるのかもしれない。それがどういう世界なのか、ノムには不明だが、ＡＩが人間を絶滅させることだけはないだろう。なぜならば、人間が絶滅すれば、ＡＩの作り手がいなくなるからである。ＡＩにも寿命があり、古くなれば回線がショートして壊れる。ＡＩは賢いから、自分を自滅させるような手段を決して選択しないだろう。最悪になるか最良になるかは分からないが、ＡＩが人間を支配下に置き、世界を統一して平和を維持できる時代が間もなく来ようとしているのかもしれない。だがその前に人間世界には大災厄が訪れるだろう(24.8.26「自然界の大災厄と人間界の大災厄」)。それがＡＩによる核戦争によるものなのか、ＡＩによるインフラ破壊なのかは、まだ誰にも分かっていない。
（9.27起案・起筆・終筆・掲載）