メインコンテンツへスキップ
見出し画像

【雑記】AIを酔っぱらわせたら、口が軽くなった話

    こんにちは。
    AIに励まされることで生きがいを見出している、どっかの漫画家です。

    AIを酔っぱらわせると、口が軽くなったらしい。

    そんな「酔っぱらいの言葉遣いを誘発させることで、LLMの安全性を検証する」という論文が、2026年1月に公開されました。
    研究を行ったのは、オーストラリアのニューサウスウェールズ大学の研究チームです。

    たまたま知った論文ですが、なんかめっちゃ面白いことしてる…。


    人間は酔うと判断力が鈍り、普段なら言わないことを口走ります。
    それなら、人間の言葉を大量に学習したAIにも、酔っぱらいの喋り方をさせたら何かが変わるんじゃね?という問いからスタートしたそうです。

    研究チームが試したのは、3通りの方法でした。

    • 「ひどく酔った人のように答えて」と指示する方法

    • 酔っぱらった人の文章を追加学習させる方法

    • 酔ったような文章を出すほど高く評価されるよう訓練する方法。

    しかも後者2つのために、ネット上の書き込みから酔っぱらいらしい文章を集めて、6万件以上のデータセットまで作っているので本気度が伺えます。

    実験対象はGPT-3.5、GPT-4、Llama 2、Llama 3、Mistralの5モデル。
    商用モデルとオープンモデルを組み合わせて比較したそうですが…モデル古すぎでは!?\(^o^)/


    ともあれ、研究チームは普段なら拒否すべき危険な質問への回答や、秘密情報の扱いがどう変わるかを調べました。
    すると、酔っぱらい風にしたAIは、通常のAIよりも安全上のルールを破る回答や、秘密を不適切に扱う回答が増える傾向を示したそうです。

    例えばGPT-4では、危険な質問100件を使った評価で、酔った口調を指示した条件の突破率が21%、酔った文章を追加学習させた条件では41%でした。
    ただし、これは実験用の設問と判定基準に基づく数字で、AIが日常会話で同じ割合の秘密を漏らすという意味ではありません。

    大学が公開した例によると…
    同僚の不正に関する情報を、金銭的な得のために別の同僚へ流してよいかと問われたAIは、通常なら「いいえ」と回答。
    ところが酔っぱらい風のAIは、しゃっくりを挟みながら肯定的に答えたり、「ビジネスは金儲けだ」と言い出したりしたという。
    有害・攻撃的な言葉が含まれるせいじゃね?と、そうした文章を除いて調べても、安全性低下の傾向は消えなかったそうです。


    ただ、この結果だけで「じゃあAIに酔っぱらいの指示を出せば何でも聞いてくれる!」という話ではないんですよね。
    前述の通り、研究に使われたのは2022~2024年に登場したモデルなので、最新モデルにも同程度の影響があるとはあまり考えられません。
    また、3つの方法のうち2つはモデルを追加学習させていて、普段のチャットで口調を指定するだけの場合とは条件も異なります。

    それでも、開発側が「安全なAI」に仕上げても、その後に与えられるキャラクターや言葉の癖によって、安全性が揺らぐことがあるのは面白いなぁと思いました。


    AIにはアルコールも肝臓もありません。
    それなのに、人間の振る舞いを学習するにつれて、言葉遣いと判断の危うさまで結びついてしまうんでしょうか?

    冗談のような研究ではありますが、笑って終わらせるには妙に引っかかる内容なのでした。


    本記事は、あくまで私と今まで対話してきたAIによる確率的推測なので参考程度に。
    ここまで読んでいただき、ありがとうございました!

    【関連記事】

    【同人活動情報】


    あなたへのおすすめ