拡大するインターネット汚染　AIゴミの「日本ならでは」問題とは：佃均

　ここにきてインターネット汚染が急速に広がっています。旧来の詐欺メールやSNS上での誹謗中傷、偽情報（fake）、コンピュータウイルス、不正アクセスetcに加え、AIが生成したゴミの問題です。インターネットの信頼低下ばかりでなく、社会・経済への実害が懸念されます。AIゴミの「日本ならでは」問題を探ってみました。

　AIのゴミは「AI Slop」（エーアイ・スロップ）と呼ばれます。ChatGPTに尋ねると「生成AIによって大量に作られた質が低い・中身が薄い・検証されていないコンテンツの総称」、グーグルのGeminiは「AI製の粗悪なコンテンツ」という回答でした。

　Slopの原意は「泥濘」（ぬかるみ）ですが、現在は「ドロドロした汚物」という意味で使われます。トップに載せたイメージが、Slopの定義と考えていいでしょう。触るのも穢らわしいのですが、当のSlopもしんどくて辛そうです。それがアメリカで「2025年の言葉」に選出されたのは、まさにAI時代の表れです。

　AI Slopが問題なのは、「粗悪なコンテンツだから」だけが理由ではありません。大量に作られることも問題ですが、それを取り込んだAIがまた別のコンテンツを作り、それをまた別のAIが……とSlopの連鎖が続くことです。デジタル・ツインの世界がSlopで汚染されて行きます。

　輪をかけてまずいのは、ヒトがそれを信じてしまうのです。AIは論理的に正しいように装いますし、Slopが大量のSlopを大量に生成します。下手な人が自己流の練習を繰り返すと 下手が固定するように、あちこちに存在する同じ内容のSlopが「Slopではない」ことの証拠となります。加えて現在では「コンピュータが……」「AIが……」がお墨付きとして機能します

　実際、AIが“捏造”したコンテンツを引用した学術論文の存在が指摘され、毒キノコを使ったレシピが出回っているとも聞いています。アメリカでは実在しない判例を引用した弁護士が多額の制裁金を課せられています。AI Slopはバーチャル空間の話ではありません。

■AIは好きで“捏造”しているわけじゃない
なぜAIが“捏造”するかというと、AIが性善説に立っていることが挙げられます。そしてAIはヒトを傷つけないように設計されています。つまり飼い主に忠実な犬なので、飼い主を疑うことを知りません。悩みごとを相談すると、AIは相談した人の行動や考え方を肯定してくれます。飼い主が望むことにできるだけ沿った答を出そうと最大限の努力をするのです。

　もう一つは、……

続きは⬇️
http://blog.livedoor.jp/corporate_pr/archives/62969616.html