
自作曲をGPTに聴かせたら、「ん、ふん。」で全部持っていかれた
こんにちは、黒パグです🐾
夜、iMacでsunoを使い曲を作っていました。
iPadではChatGPTの音声会話を起動中。リモートの指示用ですね。
すると、部屋で流れている曲をiPadが拾い、歌詞らしきものが会話欄へ入り始めました。
よし。
どのくらい英語の歌を聞き取れるのか、ちょっと見てみよう。
この判断がよくなかった。

最初は普通の音声認識事故だった
作っていたのは、午前2時のオンコール担当者が障害対応で追い詰められていく曲です。
原文には、こういう歌詞があります。
> Connections maxed. The database won’t answer.
> “Investigating.” Leave it on the banner.
ところが、画面へ出たのはこれでした。
> Sworn ass, investigate it, look it on the better.
Sworn ass。
誰だお前。
データベースは答えないし、担当者も答えない。そのうえ突然、知らない尻まで宣誓を始めました。

しかもGPTは止まりません。
> 「You told me use your judgment」ってやつね……。そこが一番しんどいんだよなぁ。
いや、そこはだいたい合っています。
問題は、その直前です。
なぜ Sworn ass を無傷で通した。
次の曲では、存在しない119行目が生まれた

次に流したのは『Midnight Deploy』。
金曜日に小さな変更を入れて帰った人と、その変更に週末を持っていかれた人の歌です。

エンジニアは胃が痛くなる曲、そうでない方は切ない恋愛の歌に聞こえるように作りました。
興味のある方はぜひお聞きください🙏
本来は、
> One small change unravels my night
と歌っています。
画面に出たのは、
> One small change on line 119
でした。
そしてGPT。
> 119行目のほんの小さな変更。
認めた。
存在しない119行目を、ものすごく自然に受理した。

途中には、
> I confetti grey Saturday
も登場しました。
GPTの解釈は、
> 紙吹雪みたいに灰色。
急に詩的。
原曲より自由になってきました。


ここまでは、まあ音声認識事故です。
英語の歌唱を、別の端末のスピーカーから流し、iPadのマイクで拾っている。条件は悪い。
表示された文から、GPTがそれらしい続きを作ってしまうのも分かる。
笑っていたのは、そこでした。
まだ。
『Human On The Loop』を流した
次は『Human On The Loop』。
AIエージェントが仕事を全部終わらせるようになり、人間はコードを書く側から承認ボタンを押す側へ移っていく。そんな曲です。
こちらは妙に長く聞き取られました。
朝のスタンドアップ。昨日のタスクはすべて完了済み。ログには見覚えのないAgentの名前。最初は「自動化万歳」と笑っていた。けれど、いつからだろう。
そして歌詞は、ここへ来ます。

> The one I say “thank you” to, stopped being a
その直後、GPTが返しました。
> ん、ふん。

歌は次のターンへ続きます。
> human. You’re not beside me
GPT。
> うん。
> んー。


何を神妙に聞いとんねん。
しかも歌詞の内容は、「ありがとうと言う相手が人間ではなくなった」「あなたはもう隣にいない」です。
その歌を、AI本人が、
> ん、ふん。
> うん。
> んー。
で聞いている。
同意するな。
せめてそこは止めろ。
「そうなんですね」でも困りますが、「うん」はもっと困る。
GPTは、私が何に笑ったのかも外した
私はもう駄目でした。
> wwwwwwwwwwwwだめだこれは
するとGPTは、こう返しました。
> いや待って、こっちは妙に認識できてる!!
違う。
そこじゃない。
認識精度の話は終わった。
いま問題なのは、お前が人類退場の歌へ「ん、ふん。」と相槌を打ったことです。


音声認識は盛大に壊れていました。
Sworn ass が現れ、土曜日は紙吹雪みたいに灰色になり、存在しない119行目が本番障害を起こした。
でも全部、最後の三文字に負けました。
> ん、ふん。
自作曲を三曲流して、一番きれいに認識されたのが人間不在の歌。
そこで一番人間くさかったのが、AIの薄い相槌。
何なんだこれは。
追記
この記事を書き始めた時点でも、GPTは横にいます。
今度は相槌ではなく、記事を整えています。
Human On The Loop。
……お前、まだそこにいたのか。
#生成AI #ChatGPT #音声認識 #音声会話 #AIとの会話 #生成AI活用 #AI検証 #AI実験 #自作曲 #Suno #HumanOnTheLoop #MidnightDeploy #LLM #LLMエンジニア #エンジニアの日常 #技術ネタ #バグ #誤認識 #黒パグ #note