#126 「ディープ・フェイク」

　NHKスペシャルの「ディープ・フェイク」を見ました。AIの最新技術を使って起こりうる近未来の姿をドラマ仕立てに仕上げたものですが、正直、後味が悪かったのと、頭の中が混乱したのとで、とても疲れました。AI技術、そしてそれによって生み出される産出物は、技術だけの問題だけでなく、人の倫理という問題に大きくかかわっていることがわかりました。

　ディープ・フェイクの用途、活用先は、大きく二つに分かれます。一つは人の役に立つ、有用できる、人を幸せにするツールになりえるということ、そしてもう一つは人をおとしめる、悪用する、人を不幸にするためのツールにもなりえるということです。どちらも、これまでの人類の頭脳が進化を続けてきた結果として生まれてきた最も新しい技術を使って出る産物であることに違いはありません。

　しかし、「悪用すること」に関しては、まるで「悪魔がこの世に舞い降りた」ような状態になるまで、いとも簡単に人心を操り、おとしめることができます。フェイク動画による世の中の混乱、洗脳と扇動、有名人のフェイク・ポルノの画像の拡散、ディープ・フェイクによる投資詐欺、実際に英国ではAIが生成した偽物の幹部に、オンライン会議で指示された銀行員が約40億円を振り込んでしまった史上最高被害額の詐欺の例があります。このようなディープ・フェイクの悪用による犯罪行為を、同じくAIを使って取り締まる団体も多く生まれてきていますが、そのひとつの会社の代表者によれば、それは「いたちごっこ」であり、完全に取り締まることは「不可能」と断言していました。つまり、AIは日々驚くほど進化しているので、どこまでも「いたちごっこ」として続いていくのです。

　「有用すること」に関しては、実際にあった事例を番組の中でも再現ドラマ化していましたが、孫が重い病気の祖母の息子に（つまり孫の父親に）生成動画でなりすまして、すごく祖母を喜ばせ元気づけたという、中国であったお話でした。また、これはまだ近未来に起こりえるかもしれない作り話ですが、亡くなった妻が生成AIでパソコン画面の中で蘇って、家族を精神的に支えていくというもが紹介されていました。荒唐無稽に見えますが、これだって今の技術であれば、2年もあれば必ず（と言っていいくらい）実現するでしょう。

　今の技術革新の速度は、今の1年はひと昔前の10万年分をはるかに超える速度を超えているでしょう。（というか100万年あっても行きつかないところでしょう）。

　それだから私なんかは本当に怖くなるのです。自分がいつかそれらのディープ・フェイクにおとしめられる、詐欺にあう、騙される・・・ということではなく、そのスピード、そして人間がひたすら「神の範疇」に近づこうとしていること、それ自体が怖いのです。

　私自身が騙されることについては、もう今の世の中だったら、ある意味「交通事故」のようなものかもしれません。いくら注意して歩いていても、相手の車の暴走があれば避けようがない時もあります。しかも「交通事故」を起こすような車はそこら中にごまんと走っているのです。

　今、AIの進歩、そしてディープ・フェイクの広がりを止める手立てはありません。ディープ・フェイクで生成した某国の大統領の一言で、戦争が止まるかもしれないし、逆に戦火がさらに広がるかもしれない。しかしよく考えていくと、最終的にAIを操るのは人間であり、その人間自身の倫理観が歴史上、もっとも問われている時代だというのは確かでしょう。何が怖いと言って、人間の倫理観が道を外れて暴走するのが一番怖いのです。

（写真：「踏み切り一時停止」和田岬線にて）