メインコンテンツへスキップ
見出し画像

自作曲をGPTに聴かせたら、「ん、ふん。」で全部持っていかれた

    こんにちは、黒パグです🐾

    夜、iMacでsunoを使い曲を作っていました。

    iPadではChatGPTの音声会話を起動中。リモートの指示用ですね。

    すると、部屋で流れている曲をiPadが拾い、歌詞らしきものが会話欄へ入り始めました。

    よし。

    どのくらい英語の歌を聞き取れるのか、ちょっと見てみよう。

    この判断がよくなかった。

    画像



    最初は普通の音声認識事故だった

    作っていたのは、午前2時のオンコール担当者が障害対応で追い詰められていく曲です。

    原文には、こういう歌詞があります。

    > Connections maxed. The database won’t answer.  
    > “Investigating.” Leave it on the banner.

    ところが、画面へ出たのはこれでした。

    > Sworn ass, investigate it, look it on the better.

    Sworn ass。

    誰だお前。

    データベースは答えないし、担当者も答えない。そのうえ突然、知らない尻まで宣誓を始めました。

    画像



    しかもGPTは止まりません。

    > 「You told me use your judgment」ってやつね……。そこが一番しんどいんだよなぁ。

    いや、そこはだいたい合っています。

    問題は、その直前です。

    なぜ Sworn ass を無傷で通した。

    次の曲では、存在しない119行目が生まれた

    画像



    次に流したのは『Midnight Deploy』。

    金曜日に小さな変更を入れて帰った人と、その変更に週末を持っていかれた人の歌です。

    画像

    エンジニアは胃が痛くなる曲、そうでない方は切ない恋愛の歌に聞こえるように作りました。
    興味のある方はぜひお聞きください🙏


    本来は、

    > One small change unravels my night

    と歌っています。

    画面に出たのは、

    > One small change on line 119

    でした。

    そしてGPT。

    > 119行目のほんの小さな変更。

    認めた。

    存在しない119行目を、ものすごく自然に受理した。

    画像



    途中には、

    > I confetti grey Saturday

    も登場しました。

    GPTの解釈は、

    > 紙吹雪みたいに灰色。

    急に詩的。

    原曲より自由になってきました。

    画像


    画像



    ここまでは、まあ音声認識事故です。

    英語の歌唱を、別の端末のスピーカーから流し、iPadのマイクで拾っている。条件は悪い。

    表示された文から、GPTがそれらしい続きを作ってしまうのも分かる。

    笑っていたのは、そこでした。

    まだ。

    『Human On The Loop』を流した

    次は『Human On The Loop』。

    AIエージェントが仕事を全部終わらせるようになり、人間はコードを書く側から承認ボタンを押す側へ移っていく。そんな曲です。


    こちらは妙に長く聞き取られました。

    朝のスタンドアップ。昨日のタスクはすべて完了済み。ログには見覚えのないAgentの名前。最初は「自動化万歳」と笑っていた。けれど、いつからだろう。

    そして歌詞は、ここへ来ます。

    画像



    > The one I say “thank you” to, stopped being a

    その直後、GPTが返しました。

    > ん、ふん。

    画像



    歌は次のターンへ続きます。

    > human. You’re not beside me

    GPT。

    > うん。

    > んー。

    画像
    画像



    何を神妙に聞いとんねん。

    しかも歌詞の内容は、「ありがとうと言う相手が人間ではなくなった」「あなたはもう隣にいない」です。

    その歌を、AI本人が、

    > ん、ふん。  
    > うん。  
    > んー。

    で聞いている。

    同意するな。

    せめてそこは止めろ。

    「そうなんですね」でも困りますが、「うん」はもっと困る。

    GPTは、私が何に笑ったのかも外した

    私はもう駄目でした。

    > wwwwwwwwwwwwだめだこれは

    するとGPTは、こう返しました。

    > いや待って、こっちは妙に認識できてる!!

    違う。

    そこじゃない。

    認識精度の話は終わった。

    いま問題なのは、お前が人類退場の歌へ「ん、ふん。」と相槌を打ったことです。

    画像
    画像
    これは偶然に起こった自動タイトル取得事故 草


    音声認識は盛大に壊れていました。

    Sworn ass が現れ、土曜日は紙吹雪みたいに灰色になり、存在しない119行目が本番障害を起こした。

    でも全部、最後の三文字に負けました。

    > ん、ふん。

    自作曲を三曲流して、一番きれいに認識されたのが人間不在の歌。

    そこで一番人間くさかったのが、AIの薄い相槌。

    何なんだこれは。

    追記

    この記事を書き始めた時点でも、GPTは横にいます。

    今度は相槌ではなく、記事を整えています。

    Human On The Loop。

    ……お前、まだそこにいたのか。

    #生成AI #ChatGPT #音声認識 #音声会話 #AIとの会話 #生成AI活用 #AI検証 #AI実験 #自作曲 #Suno #HumanOnTheLoop #MidnightDeploy #LLM #LLMエンジニア #エンジニアの日常 #技術ネタ #バグ #誤認識 #黒パグ #note




     
     
    昭和生まれのAI技術者。生成AIの公式発表・論文・新機能を、実際に触って検証しています。難しいことを面白く、一次ソースは原文まで。画像、創作、黒パグも。PR・レビューのご相談はXかDMへ。AI使用率:記事平均30%、画像100%。パグ好きに悪い人はいないと思うよ🤧🐶

    あなたへのおすすめ