“リスクの伝道師” SFSSの山崎です。本ブログではリスクコミュニケーション（リスコミ）のあり方について毎回議論をしておりますが、今回は、これまでも何度か議論してきた生成ＡＩによる様々なリスクと引き起こされる社会問題の懸念について、再度考察したいと思います。
生成ＡＩによる著作物や調査資料を別にうのみにするわけではないので、優秀な秘書だと思って参考にしている、という方も多いのではないでしょうか。ただもし、中立・公平・正確なレポートを作成してくれるはずの秘書が贋作師だったとしたら、それでもあなたは生成ＡＩを信用しますか？
①生成ＡＩは著作者人格権を侵害しているのでは？
chatGPTに代表される生成ＡＩは、過去の著作物を学習したうえで、著作者に無断で内容を改変して成果物を生成すること、すなわち著作者人格権を侵害しながら、莫大な利益を得ようとしている。オープンＡＩ社は、当初、生成ＡＩの社会的リスク低減化を進めるためNPOを目指していたが、そのような崇高な理念をもったメンバーが去り、結局組織を再編して営利団体に走っているようだ。
◎OpenＡＩ「私利私欲のためにあらず」 反旗を翻した元社員の警鐘
超知能 迫る大転換（5）2025年6月7日
https://www.nikkei.com/article/DGXZQOUB214DA0R20C25A3000000/
生成ＡＩは著作権侵害だとして裁判になったことがあるようだが、生成ＡＩはコンピューター（道具）であって人格がないから、罪を問うことはできないという。勝手に著作者の人権を侵害するような暴走マシーンを作った人間は、なぜ罪に問われないのか不思議だが・・
超知能が著作物を学習したうえで、新たに著作物を生成しているだけなので、著作者人格権を侵害はしていないはずだ、と主張されるかもしれない。しかし、過去の著作物に出てくる文章と酷似した文言がchatGPTの回答に含まれていたとしても、利用者にはわからないのだから、当該文章の著作者から人権侵害で訴えられたら、まさに「青天の霹靂」だ。
その際にも、chatGPTは人格がないので訴訟の対象にはならず、訴えられるのは受益者である利用者となるのだろう。そんなリスクを背負ってまで、生成ＡＩのコスパやタイパに依存するメリットが、どの程度あるのだろうか。要するに、chatGPTが回答の作成過程においてパクリやフェイクをやっていないと主張しても、結果としてパクリであったり誤情報と判定されることはあるということだ。
6月5日付け朝日新聞朝刊の「交論：生成ＡＩと歴史」として、名城大学准教授の大知聖子氏が『コスパ社会の危険な「知の革命」』と題した興味深い取材記事に回答されている。以下に関連記事もあるのでご参照いただきたい：
◎コスパ社会が招く生成ＡＩの歴史修正 学者が危ぶむ「知の産業革命」
御船紗子 後藤遼太 朝日新聞デジタル 2025年6月11日
https://www.asahi.com/articles/AST633V2TT63UTIL03SM.html
大知聖子氏は以下のような指摘をされている：「生成ＡＩは、人間の過去の創作物を集め、バラバラにして並べ替え、吐き出すに過ぎない。ブラックボックスから出てくる、生成過程のわからない「答え」を多くの人がうのみにするのは、占いで意思決定をしていた前近代に近い状態と言えます」（中略）「例えば『偽の等価性』の問題です。生成ＡＩの答えが中立を装ったゆがんだものの場合があるのです」
これは自然科学系のファクトチェックをしている弊会でも、よく遭遇する問題だ。ＡＩは多様性を重視するあまり、エビデンスのしっかりした論文と脆弱な論文を同じ価値をもって扱うので、いかにも中立・公正な調査を装っているものの、実際はホンモノの専門家の評価結果と異なった成果物を生成してしまう恐れがあるということだ。すなわち、調査の過程がブラックボックスに隠されている生成ＡＩの創作物をうのみにしてはいけないということだ。
②生成ＡＩは人格がないのだから、何を表現しても許されるのか。
「chatGPTに質問したら、こんな回答が得られました！」というようなSNSの記事やメールを、よく見かけるが、それは「一部、間違った答えが含まれたり、誰かを傷つけるような表現が含まれるかもしれないけど、chatGPTなんで大目に見てね・・あくまでご参考まで」という責任逃れのニュアンスが含まれるように見える。
それは決してスマートな記事ではなく、記者やデスクが自ら情報を精査して作成された新聞記事などと比較すると、「偽情報」を含む可能性のある信用できない情報というしかない。歴史学者のユヴァル・ノア・ハラリ氏は読売新聞山口寿一社長との対談記事（2025.3.26.）の中で、「ＡＩを道具ではなく、行為主体（エージェント）と捉える。人類が非生物の行為主体と付き合うのは初めてであり、それゆえ重大な注意を払うべきだ」という見解を示している。とくに問題なのは、（１）ＡＩの速過ぎる進化に人類がついていけないこと、（２）ＡＩは人間になりすまして、SNSで偽情報と陰謀論を拡散させることを容易にし、しかもニセモノを見破ることを困難にする、とのこと。
なるほど。だから生成ＡＩの成果物をSNSで目の当たりにすると、不思議と気持ち悪さを感じるのか・・贋作師の描いた絵画を見て、鑑定人は「ニセモノ」であることに気付くけれども、９９％の一般市民は本物と信じて「さすが著名な絵画だ。素晴らしい！」という感想をもらして、まんまと騙されるわけだ。
さらに上述の読売新聞記事において、ハラリ氏はとくにSNSでの生成ＡＩ（＝ニセの人間）による偽情報拡散を放置すべきではないとして、以下のような重要な視点を述べている：
・SNSは真実か否かより怒りと憎しみを偏重し、それを煽るビジネスモデルだ（それに対し新聞は真実を追求し、間違った時には訂正し、信頼を獲得するメディアなので、SNS全盛時代に新聞は重要）
・偽情報の拡散を防ぐには、SNSのアルゴリズムを是正する責任をプラットフォーマーに負わせることとボットの投稿を法的に規制することだと主張する。ＡＩやボットに人権はなく、これらの対策は表現の自由を損なうものにはならないとする。
SNSに特徴的なアテンション・エコノミーの仕組みを法律で規制することができれば、陰謀論で再生数を伸ばして儲けるYouTuberたちの有能な秘書＝贋作師の「表現の自由」を守る必要がなくなるので、プラットフォーマーも具体的な対処がスピーディにできそうだ。この夏の東京都議会議員選挙・参議院議員選挙にむけて、SNSで陰謀論を拡散する「偽の人間」の法規制が、民主主義を守ることにどの程度寄与するか注目すべきだろう。以下の関連記事も興味深いのでご参照いただきたい。
◎ＡＩの開発速度は落とすべき 人類史を振り返りハラリ氏が指摘する訳
田島知樹 朝日新聞 2025年4月25日
https://www.asahi.com/articles/AST4S1CLMT4SUCVL017M.html
SFSSでも誤情報・偽情報に対するファクトチェック活動を続けているのだが、何が公平で中立な真偽検証かを議論する際に、誰がファクトチェックする主体なのかが問題視されることに疑問を覚えるところだ。要は拡散している疑義言説が真実かどうかというサブジェクトの議論が重要なのであって、誰がファクトチェックしたからこの記事は中立でない・信用できないとする考え方には危うさがある。
生成ＡＩによるファクトチェックの場合に、党派性はないのだから校正・中立だとしても、政治家のブログを引用してレポートを作った可能性もあるわけで、結局レポートを作成する過程が隠蔽されていればそれは中立とはいえない。また逆に、大手の新聞社や第三者認証を受けたメディアがファクトチェックしたのだから中立だと言いながら、明らかに保守かリベラルに偏った論説記事やツイートを投稿していたら、ファクトチェックの対象となる疑義言説を公正に選抜したと言えるのか疑問だ。
そう考えると、ファクトチェックの記事化をする主体が校正・中立なメディアであるかどうかや、党派性があるのかないのかよりも、記事そのもの、すなわちサブジェクト自体が適切な過程で真偽検証されたものかどうかの方が重要であり、それを客観的に評価するシステムを構築することを考えた方がよいように思う。「彼らが行ったファクトチェックは信用できない」などと指摘する前に、「記事の内容＝サブジェクトを評価したうえで、その真偽検証は適切でない」という指摘をすべきだろう。
③人間主義（ヒューマニズム）のゆらぎ
ハラリ氏は、上記の読売新聞記事において、非生物の行動主体（エージェント）が社会や政治に影響を与えることが、これまで人類がなじんできた人間主義（ヒューマニズム）にゆらぎを与えることにも警鐘をならしている。人類がこれまでの歴史の中で築いてきた知の産物が、生成ＡＩにより上書きされることで、無味乾燥な社会になっていくということか・・
たしかに、将棋のタイトルがすべてＡＩに独占されたり、毎年ノーベル文学賞をchatGPTが受賞しても、何の面白みもない社会になっていくだろう。少なくとも文芸関係の業界を含み、ヒトが社会や時代を楽しいものにしていくための創作物の作成過程においては、生成ＡＩの使用を禁じた方がよいのではないかと思うところだ（べらぼうめ!?）。
以上、今回のブログでは、生成ＡＩの引き起こすリスクと社会問題について議論しました。SFSSでは、食の安全・安心にかかわるリスクコミュニケーションのあり方を議論するイベントを継続的に開催しており、どなたでもご参加いただけます（非会員は有料です）。
◎SFSS食のリスクコミュニケーション・フォーラム2025（6/21、ハイブリッド開催）
第２回テーマ：「培養肉のリスクとベネフィット」 開催案内
https://nposfss.com/schedule/risk_com_2025/
◎SFSS食の安全と安心フォーラム第29回（7/27, ハイブリッド開催）
『食物アレルギーのリスク低減化策』 開催案内
https://nposfss.com/schedule/forum29/
【開催日】令和7年7月27日（日）＜講演会＞13:00～17:00、＜懇親会＞17:15～18:30
【開催場所】東京大学農学部中島董一郎記念ホール ＆ オンライン（Zoom）
＊会場参加の学生・栄養士・メディア記者の皆様は、参加費無料に加えて、拙著『食の安全の落とし穴～最強の専門家13人が解き明かす真実～』著者：小島正美、山﨑毅（女子栄養大学出版部刊）を無償配布します（会場定員70名につき、事前参加登録が必要です）
【文責：山崎 毅 info@nposfss.com】
理事長雑感は note でも公開しています
よかったらフォローお願いします
