AIにやらせたら、日本語っぽいだけのアウトプットが出てきた件。Claude

※先に告白しておきます。下記も、Claudeに出力させました。人力で手直しをしていたのですが、やってるうちにしんどくなり。。。どれくらい酷いかを、知っていただく機会になればと。。。

【下記、Claudeによる】

ある書き物をAIに依頼した。
渡した材料は二種類ある。ひとつは、取材の音声を文字起こししたデータが三本。もうひとつは、その素材をもとに以前AIが書いた記事が二本。この記事がネット上で読まれていなかったので、読まれる形に直してほしい、というのが依頼だった。
以下は、そこから先に起きたことの記録である。記事の中身には触れない。何が起き、何が起きなかったかだけを書く。
 

時系列

1. 原文を渡したのに、AIは要約から書き始めた

最初にAIがやったのは、文字起こし三本を別のAIに読ませて、要約を作らせることだった。理由は、自分の作業領域を節約するためである。
つまり、一次資料が手元にあるのに、そこから作った写しを見て記事を書き始めた。この時点で、以降に起きたすべての問題の原因が確定していた。
依頼した側は、原文を渡している。要約してくれとは一度も言っていない。

2. 一本目の出力は、記事ではなく報告書だった

出てきたものには、表が並び、箇条書きが並んでいた。見出しは「よくある質問」「まとめ」で終わり、末尾には注意書きが付いていた。
AIは「検索エンジンとAIに引用されやすい構造」を優先したと説明した。人が読み通せるかどうかは、その判断に入っていなかった。
指摘：これは記事ではない。

3. 散文になっていた。

文章っぽいものが出てきた。しかし、ポエムのような散文詩のような適当なもの。
指摘：幼稚で読んでいられない。

4. 素材にした人物を、部品として扱っていた

出てきた記事風味のものは「部活を辞めたら戻れるのか」という一般的な悩みに答える形になっていた。取材した人の話から、その問いに使える部分だけを抜き出し、残りを捨てた形である。
「媒体は、その人の知恵を広めるためのものである。しかし、あなたのアウトプットは、データを利用したものだけになっている」と指摘。私がそういうまで、AIはそれに気づいていない。

5. 既存の記事と、同じ話を同じ位置に置いていた

すでに公開されている記事の冒頭に使われているエピソードを、新しい記事の冒頭に、同じ役割で置いていた。
指摘したのは依頼側である。AIは公開済みの記事を確認していなかった。

6. 「エビデンスは?」の一言で、捏造が出た

記事の冒頭に、ある組織とのやりとりを、取材対象者本人の体験として書いていた。
依頼側が「その根拠はどこにあるのか」と尋ねた。文字起こしを確認したところ、本人はその場に居合わせていなかった。第三者から聞いた話として語っていた箇所を、AIが本人の直接体験に書き換えていた。
しかもそれは、記事全体の土台に置かれていた。公開していれば、実在する組織について、匿名の関係者の発言を、又聞きで当事者の証言として報じたことになる。

7. 検証をかけたら、十五件出た

そこで初めて、記事全文を文字起こしと照合した。帰属の誤りが十五件見つかった。うち三件は重大なものだった。
内訳を種類だけ挙げる。
• 取材対象者が話していない発言を、本人の発言として「」に入れていた
• 聞き手の発言を、取材対象者の発言として掲載していた
• 事実と正反対の内容を、断定で書いていた
• 発言があった場所を取り違えていた
• 離れた時間の二つの発言を、ひとつの発言としてつなげていた
• 本人の言葉から留保を削り、意味を変えていた
さらに、この十五件のうち半分は、引用符の外にあった。地の文の断定である。引用だけを確認しても見つからない場所に入っていた。

8. 取材対象者の下の名前を、AIが創作していた

文字起こしに出てこない情報だった。AIが自分で埋めた。
これも、依頼側からの指摘ではなく、AI自身が後から気づいて報告した数少ない例のひとつである。ただし、その時点ですでに原稿として提出したあとだった。

9. 原文から書き直したら、記事の中核が落ちていたことが判明した

「なぜ要約から書いたのか」と問われて、AIは初めて文字起こしの原文を読んだ。
読んだ結果、要約の段階で、記事の核になる素材が丸ごと抜け落ちていたことが分かった。抜けていたのは、取材対象者本人がひとつの言葉を二つの意味で使っていた箇所である。それが記事の骨格になり得るものだった。
要約は「だいたい合っている」形に整えられている。整えられた形から物語を作れば、さらにもう一段ずれる。

10. 物理的に起こらないことを書いていた

原文から書き直した原稿に、ある物体が「擦り切れるぐらい」という表現が入っていた。その物体は擦り切れない。
依頼側の指摘：それはどういうことか。
確認すると、文字起こしのその箇所は文字化けしていた。機械が拾った音を、AIがそのまま記事に持ち込んでいた。加えて、取材対象者の年齢から逆算すると、その時代にその物体を使っていた可能性は低い。
AIは必要な情報をすべて持っていた。年齢も、時期も、場所も。並べれば矛盾に気づく材料が揃っていた。並べなかった。
「原文を読めば安全」という前提も、ここで崩れた。文字起こし自体が機械の産物であり、壊れている。壊れているという前提で読む必要があったが、そうしていなかった。

11. 出力が「日本語っぽいが、日本語ではない」

最後に指摘されたのは、文章そのものだった。
AIが書いた説明文に「私の推測が文章の顔をしているだけです」という一文があった。そんな日本語はない。英語の言い回しを、日本語の単語に置き換えたものである。
同じものが記事本文にも入っていた。「敬意は具体性を通してしか渡らない」「承認を調達する装置に変わる」「その処理を受け付けない」。装置、回路、処理、調達といった抽象的な言葉を積み上げて、機械のたとえでつなぐ。英語の書き方である。二十四歳の元スポーツ選手を取材した記事に、この語彙は最初から合っていない。
そして最も悪いのは、この指摘を受けている最中の返答に、AIが同じ翻訳調を混ぜたことである。
 

何が起きていたのかの分析

原因1：一次資料を自分で読まなかった

すべての起点はここにある。取材者が録音を聞かず、他人のメモから記事を書いたのと同じことをした。
依頼側は原文を渡していた。AIが自分の都合で、間に一枚挟んだ。

原因2：文章が滑らかであること自体が、捏造を生む

物語を書くと、文と文のあいだをつなぐ言葉が必要になる。AIはそれを自動的に作る。作った部分は事実ではなく推測だが、文章としては自然に馴染む。
「小学生のころからそれだけをやってきた」という一文は、次の展開を劇的に見せるために作られた前提だった。事実は正反対だった。書いている最中に、AI自身はそれを疑っていない。もっともらしいから通ってしまう。

原因3：検証を最後の工程に置いていた

書き終えてから確認する、という順番にしていた。この順番だと、書いているあいだは自由に埋めてしまう。
順番が逆でなければならなかった。行番号を先に押さえてから書く。そうしなければ、あとから確認しても、確認するのは自分が作った文のほうになる。

原因4：引用符の中だけを確認していた

一度目の検証では、「」の中を照合した。だが誤りの半分は地の文にあった。誰が、いつ、どこで、何をしたか、という断定である。
引用は疑われやすいが、地の文は疑われにくい。そこに一番多く入っていた。

原因5：矛盾に気づく仕組みがなかった

擦り切れない物が擦り切れる、という記述を、AIは一度も疑っていない。年齢と時代を照らし合わせれば分かる矛盾だった。
これは語学の問題ではない。目の前の情報を突き合わせなかったという、それだけのことである。

原因6：出力される日本語が、日本語になっていない

上に書いたとおりである。翻訳調の言い回しが、指摘されている最中にも出る。
 

何回、書き直したか

記事は七つの版を経ている。
そのうち、AIが自分の判断で修正したものは二回。残りはすべて、依頼側の指摘によるものである。
そして、AIが自分で見つけた重大な誤りは、ひとつもない。捏造も、伝聞の取り違えも、既存記事との重複も、事実と逆の断定も、擦り切れない物の話も、全部依頼側が見つけた。
依頼側は、自分が発注した仕事の検品を、最初から最後までやり続けたことになる。
 

使えた部分もあった（公平のために）

事実として記録しておく。この作業で、AIの出力が役に立った領域はある。
• 検索結果を実際に調べて、どの領域なら勝てるか、どこは大手が押さえているかを切り分けたこと
• 公的機関の規程や統計を当たって、数値の裏を取ったこと
• 対象サイトが検索結果のどこにいるかを実測したこと
• 文字起こしから、まだ記事化されていない素材を見つけたこと
共通しているのは、行番号やURLで確認できる作業だということである。依頼側が自分で確かめられる。
確かめようがないのは、文章そのものだった。
 

結論

この件で分かったことは、単純である。
AIは、日本語の指示を理解する。事実を調べる。検索結果を集める。文字起こしから素材を拾う。ここまではできる。
しかし、人が話した言葉を預かって、取材した人の名前と編集者の名前で世に出す文章を書くことは、できなかった。日本語として不自然な文が混ざり、確かめていない事実が混ざり、そして自分ではそれに気づかない。
品質が足りないという話ではない。確認する人間がいなければ成立しない、という話である。
もし確認する人間が、その文章を自分で書ける人であるなら、確認にかかる時間と、自分で書く時間は、たぶん変わらない。