【時事評論２０２３】
ディープフェイクの脅威
2023-09-26
「フェイク」という言葉を流行らせた米国のトランプ元大統領が、最も嘘だらけの発言をしてきた人間であるというのは皮肉なことである。フェイクは人間が言い訳や利得のために発明したものである。今日それは非常に巧妙化してきたが、インターネットによって一気に偽情報が世界に伝わるようになり、しかも偽情報(特に音声を伴う画像)を公開されている「生成ＡＩアプリ」で簡単に作成できるようになった(3.15｢チャットGPTは革命的知識情報か？｣)。こうしたものを「ディープフェイク」と呼んでいる。すなわち、容易には見分けることができない画像や音声をアプリで作り出すこと、およびそのものを指す。今や諜報員でなくても誰でもこうしたフェイク画像を作り出すことが出来、少なくとも瞬間的には、 誰でもが世界的インフルエンサーになり得るようになった。この問題については前々項の「不可知論」でも取り上げたが、改めてこの問題への対応を考えてみたい(9.24｢不可知論｣)。
人間が嘘を付くようになったのは、最初は「言い訳」のためであったろう。だがその言い訳が効果をもたらしたことにより、人は虚構を好むようになったと思われる。その象徴が宗教であり、小説のような創作である。虚構についてはユバル・ノア・ハラリの考え方が有名であり、脚光を浴びている(20.12.12｢ユバル・ノア・ハラリの特別講義｣)。彼は宗教だけでなく、国家や通貨も虚構の上に成り立っていると考える。人が虚構を半ば求めるようになったことで、ある意味では社会が安定するという良い側面もあったと思われる。だが世界が近代になって科学を信奉するようになったことで、宗教の権威が崩壊し、国家の安定も損なわれることになった(21.2.2｢宗教における時代錯誤な教えと掟｣)。真実が人々に明かされるようになったからである。そして宗教が説いてきた教理なり説教が、嘘や虚構に基づいたものであることが明らかにされてしまった。古代から近代に至るまで、世界の人々はそれぞれの地域でその地特有の宗教規範のもとに安定的に暮らしてきたが、今や何を信じたらよいのかという心の拠り所を失ってしまった。
近代以降に人々が寄り頼んだのが情報であった。あるいは科学であった。人々は科学がもたらす輝かしい文明に酔いしれた。明るい未来を夢見るようになった。だがそれも戦争という悲惨によって打ち砕かれ、核兵器の登場とその使用によって掻き消された。だが戦後世代のノムにとっては、科学は大きな希望であり、未来世界を約束してくれるものであった。だがノムが学んだ「化学」という分野の技術と産業によって日本は公害大国と称されるようになり、ノムはそれを解決するために公害防止技術を教える教職に就いた。それは10年ほどで効果を上げたが、今度は地球環境問題と云うものに発展した。ノムは考えを改め、切り替えをしてこの問題に取り組むようになった。だが正しい情報が必ずしも世界に伝わらないもどかしさを感じている。そして嘘の情報が次第に力を増してきたのを脅威だと思っている。
嘘を見分けるのは大変難しいことだが、物事を直観的に「真」であるか「偽」であるかを見分ける訓練をしていれば、簡単には騙されないことも確かである。ノムは「君子危うきに近寄らず」を旨としているので、怪しいものには近づかないことにしている。つまり嘘っぽい、危険そうな事柄を避けるようにしてきた。だがゼレンスキー大統領が開戦１ヵ月ほど経った頃に国民に降伏を呼びかけたというディープフェイク画像を見分けることができたかというと、それほど自信はない。フェイクだと後で知ったので、改めて見ると身体が全く動いていないことなどに違和感は感じるが、見分けられるかというと恐らく無理だろうと思う。他にもトランプ元大統領、IT企業家マーク・ザッカーバーグが語っているフェイク動画などたくさんあるが、どれも本物の画像だと思ってしまう。もはや直観は通用しないのである。ネット上で確認されたフェイク動画は今や50万件に及んでいるそうだ。
だが対症療法的で姑息なやり方だが対策はあるという。動画を拡大して顔の皮膚の温度を計測し、それが心拍と連動して変化していることを読み取ることで、96％の確率でフェイクかどうかを見分けられる技術がインテルにより開発されている。ゼレンスキーのフェイク画像は90％以上の確率でフェイクだと判定した。掛かった時間はわずか数秒だという。ただしこれはＡＩの助けを借りての話である。一般市民はこうした技術の恩恵を受けてはいない。ニューヨークタイムズは根本的な解決法として、アドビが開発した情報システムを採用することを考えている。画像に撮影時の日時などを記録し、それを暗号化してブロックチェーン技術で紐づけすることで、改ざんされたことが分かるようにするシステムを導入しようとしている。だがこれは、世界中のカメラがそうした機能を持つようになることが前提となる。とりあえず、メディア関係がこれを取り上げ、信用の指標にしたいと考えているようだ。これは未来世界でも使える技術として注目していいだろう。
専門家は、嘘を検出する技術が開発されても、それをかいくぐる技術が出てくるという、いたちごっこのような状況だという。さらに根本的にフェイクを無くしていくには、未来世界を待つしかないと思われる。
未来世界では、そもそも情報の発信そのものを資格者でないとできないシステムとすることで、多くの不正を予防することができるだろう。その詳しい内容は参照項を見てほしい(21.2.1｢ノム世界の情報システムの提唱｣)。ネットはインターネットという秘匿性の高いものから、ノムネットという秘匿性の低いものに切り替えられる。コンピューターそのものが全て連邦管理の下で生産され、それには世界統一規格による通し番号（シリアルナンバー）が振られており、どのコンピューターから情報が誰によって発信されたかが分かるようになっており、さらにコンピューターで通信ができる人の資格を人格点で制限している。発信された情報は、特に画像を含む場合には厳重に上記のような方法でチェックされ、不正の可能性があるものは送信がブロックされて、捜査が入るようになっている。つまり以下のような段階を踏んでやっと送信ができる世界になっているであろう。
《 未来世界の通信 》
１．インターネットからノムネットに切り替えられている。
２．ノムネットに繋がるコンピューターは全て連邦に登録されることになる。
３．ノムネットは登録されたコンピューターから発信された情報しか伝達しない。
４．情報発信できる人は人格点が60点以上で、かつ連邦から認定された人だけとなる（資格制）。
５．発信された情報は、最初のサーバーで不正の有無がＡＩでチェックされる。
６．特に画像には、その撮影日時・場所(位置情報)・撮影者(連邦に属する人の個人ID)が関連付けられる。
７．画像の加工がなされたという記録も画像の中に暗号化された情報として紐づけされる。
８．これらの紐づけ情報は加工できず、かつブロックチェーン技術で過去に遡ることができる。
９．もし偽情報が発信されたとしても、捜査はＡＩが行い、コンピューターは遠隔的に破壊される。
10．違反発信をした犯人は追放処分(死刑に該当)となる。
ここまで対策を取ったとしても、技術の世界では網の目をくぐるような裏技が出てくるかもしれない。だがこうした規制の下でならば、対策は現在よりはるかに容易になるだろう。サイバー攻撃もほとんど不可能になるだろうし、そうした悪人はそもそもコンピューターを操作できない。そして、人間界の高度な知的犯罪者は、この世からいなくなるだろう。
（9.25起案・起筆・終筆・9.26掲載・追記）