Claudeの透かしの秘密
先日 Anthropic から発表された、Claude のテキストに透かしが入る仕組み について解説してある動画を観ました。
この動画を見るまでにネットで情報を得たりして、多少の予備知識があったので、個人的にかなり理解しやすかったです。
Anthropic が採用しているのは、Google DeepMind の「SynthID」という技術です。
私たち人間の目には見えませんが、特定の光を当てた瞬間に、行間に「AI製」である証拠が浮かび上がるというものです。
きっかけとなったのは、EU AI 法（EU AI Act）などの法的規制があり、AI 生成物であることを識別可能にする責任が企業に課せられたという事情があります。
Anthropic が先陣を切っただけで、今後、OpenAI や Google なども追随してくると思われます。
透かしの本質は、文章の意味を変えることではなく、言葉（トークン）の「統計的な出現分布」を密かに歪ませることにあります。
特定の秘密のシード（Seed）から生成された乱数に従って、わずかに「次に来る言葉」の選択を誘導することで、統計学的な署名を刻み込む仕組みのようです。
短い文章や、決まりきった答えには透かしを入れようがなく、逆に長い文章になればなるほど、「言葉を選ぶ選択肢」が増え、透かしを入れやすくなるという仕組みです。
ただ実際には、Anthropic がどういうロジックで実装しているのかまでは明らかにされていません。
すでに透かしを破るとされるツールも出てきてはいるようですが、本当に透かしを無効化出来たかどうかについては、確認のしようがないのでは？と思っています。
私は 100 % 自分で書いた文章であっても、誤字脱字チェックや言い回しを変える程度の使い方で「AI 製」と見られることに納得が出来ませんでした。
仮に 5 % しか AI の痕跡がなくても、作者が誰なのかは特定できないし、「AI 製」と見られます。
透かしが入る方向に進んでも、私は AI が大好きなので使いますが、透かしを削除する方向ではなく、入れずに守る方向での専用ツールを「Tauri」というフレームワークを使って作成し、すでに使っています。
いずれにしてもこの流れは止まらないと思うし、今回改めて、「書く」ということについて考えさせられるきっかけとなりました。
