【時事評論２０２３】
現代の生成ＡＩは有害・改善の方途はあるか？
2023-06-20
「チャットGPT」に代表される「生成ＡＩ」というものが話題になってからまだ半年程度のような気がする。だがこの登場は情報革命に匹敵すると思われる(3.15｢チャットGPTは革命的知識情報か？｣)。既に応用は各方面に広がり、これをネタにした新ビジネスも続々立ち上げられている。だが同時に、その不完全性も露わになってきた。昨日のテーマのためにある質問をしたところ、回答が一時的に作成されている最中に、突如消えてしまい、「回答は間違いでした。他の質問をしてください」というメッセージが出た。ノムが想像するに、運営する会社（検索エンジン「Bing」を運営しているマイクロソフト社）の規約に反する質問内容だったからであろう。ＡＩは回答しようとしたのであるが、企業が規制を掛けたのである。つまり、完全に自由な対話型ＡＩとはなっておらず、社会規範を考慮した制限ある回答になっていることを示唆している(21.1.7｢制御思想｣)。中国でも同様の措置を講じていると思われる。
常識的範囲内でのこうした規制は恐らく必要であると思われる。そうしないと、例えば「原爆の作り方について教えてください」という質問にＡＩが正直に答えたならば、世界に最悪の影響をもたらすだろう。試しに同じ質問をBingチャットでしたところ「申し訳ありませんが、私はそのような情報を提供することはできません。 このような情報を求めることは、他人や自分自身に危害を加える可能性があるため、非常に危険です」と真っ当な回答が返ってきた。だがそれでも、質問の仕方を変えることで、各種の専門的知識を素人でも得られる可能性がある。それは確実に悪用されることは間違いないことである。そのため、現時点での生成ＡＩ（対話型ＡＩ）は有害であるとノムは結論した。人間が、性善説に基づいて悪用をしないという前提で作られたものについてはノムは信用しない(21.12.1｢性善説と性悪説｣・22.6.12｢民主主義・自由主義は性善説に立っている｣)。逆に言えば、現代の生成ＡＩは企業が儲けるために作られたものであり、社会的影響を考慮して制限を設けているだけの話である。
追加記事となるが、NHKの20日の夜のニュースで早速この問題が取り上げられた。主として画像に関するものであるが、誰もが既存のデータ画像を用いて、生成ＡＩ上で創造的な合成画像を作ることができるようになり、著作権の問題が生じているという。基本的には、著作権を主張している画像や、ネット上に公開されているものなどを使用した場合、裁判沙汰になる可能性があるという。だが個人的に創造を楽しむだけであれば問題はないとされる。これを公開したり、売ったりする行為が対象となるが、そうした訴訟は際限なく起こる可能性がある。司法ではもはや対応できなくなるだろう。画像処理アプリを販売している企業は、これらの行為を禁止する措置を取ったというが、事実上野放し状態となるだろう。そもそもこうした違法行為が簡単に行えるような生成ＡＩを民間が安易に儲けのために公開したこと自体が問題とされるべきであろう。
それでは未来世界でも同様に、このような生成ＡＩは禁止されるべきなのであろうか？ ノムが予想している範囲内でその質問に答えるとすれば、未来世界でのネットが現在のようなものではなくなり、「ノムネット」というより安全で信頼できるものに置き換わることで、この問題も解決可能であり、一部の人（賢人など）には制限のない情報提供が可能になるだろう(21.2.1｢ノム世界の情報システムの提唱｣)。ただし、以下のような条件が加わることになる。
１．「適材適所」と似たようなノムの造語「適情適人」という新格言では、適切な知的情報は適切な人にのみ伝えられるべきであると考える。愚かな人間に不適切な情報が与えられるようになれば、それは世界にとって破滅に導かれることを意味するだろう。そのため、未来世界では人格点を根拠に、人格点に相応しいレベルの知的情報が提供される。ノムＡＩはそうした複雑な計算をいとも簡単に実行することができるだろう(21.4.6｢ノムＡＩの提言｣)。
２．提供された情報は、利用者とリンク付けられ、いつでもその参照行為が確認可能となる。普段は参照（ノムＡＩへの質問）は問題にはならないが、何かしらの犯罪と関連する場合は、その証拠として閲覧行為が問題となる場合がある。
３．人格に相応しくない不適当な質問がノムＡＩに寄せられた場合、国家情報省の管轄の範囲で、その質問者の状況が把握される。犯罪の予兆がなければ質問自体は問題にはならないが、回答は拒否され、質問があったことが記録として残る。上記したのと同様「申し訳ありませんが、ノムはそのような情報を提供することはできません。 このような情報を求めることは、他人や自分自身に危害を加える可能性があるため、非常に危険です 」と答えることになるだろう。
このような未来世界の情報システムが機能するようになれば、誰も不用意に不適切な質問をしなくなるだろう(21.2.1｢ノム世界の情報システムの提唱｣)。それは「悪心」を抑制することにも繋がり、世の中全体が「良心」に基づいた発想をするようになるだろう。このような手法はゲーム理論に基づいている(20.9.24｢「ゲーム理論」とは何か？｣・20.10.5｢人間本能の制御は可能か？｣・2.28｢知の制御｣)。
現代の対話型ＡＩにはそのような制限がないため、質問者が未成年であっても恐らく不適切な回答が返ってくることになるだろう。現代のネットシステムではＰＣの使用者についての制限がなく、未成年使用については学校なり親がそのような制限設定をするしかない。未成年者がＰＣに詳しければ、自在にこれを使いこなすだろう。そして「悪知恵」が世にはびこることになる。既にネットを利用した悪質犯罪が起こっており、メディアにしても専門家にしてもその本質的問題点を指摘しておらず、単に道徳問題にすり替えられているが、それではこの種の犯罪を食い止めることはできない。最近起こった大規模なネット犯罪の犯人は何と20歳であった。今後、よりネット犯罪は低年齢化していくことは間違いないことである。
未来世界ではこうしたネット犯罪の低年齢化も防ぐことができる。犯罪を犯すような人格点の低い者にはそもそもＰＣを所有することも、使用することもできず、その使い方を修得する術が無い。したがってネット犯罪(サイバー攻撃等を含む)というもの自体がほとんど不可能に近い状態にまで激減することになる。そこまで徹底しないと、こうした知的犯罪は無くならないのである(2.28｢知の制御｣)。
（6.13起案・6.19起筆・6.20終筆・掲載・22:00追記）