
約2分が、1.27秒になった一週間 ― 今週の音声会話づくりのこぼれ話と小さな実感
こんにちは!YaroTechです。
土曜日です。継続投稿328日目になりました。
今週は月曜から金曜まで、「ローカルでAIと声で話す」を一気に作り込んだ、ちょっと濃い一週間でした。技術記事のほうには数字や手順をぎゅうぎゅうに詰め込んだので、今日はその裏でこぼれ落ちた話を、肩の力を抜いて拾っていきます。コードは一行も出てきません。お茶でも飲みながら、ゆるっとお付き合いください。
※見出し画像のプロンプトは一番下におまけで公開中!
約2分が、1.27秒になった一週間
まず今週の流れを、ざっくり一段落で。
月曜に、ノートPCの中だけで動く音声認識を組んで、文字起こし0.14秒。火曜に、認識した言葉にAIが声で答える「一往復」をつなげて、話し終えてから喋り出すまで1.27秒。木曜に、それを連続でやりとりできる「会話」に育てて、金曜に、5つのAIに調査させた2026年の最適解と、自分のX1で出した答えを全コード付きでまとめました。
書き並べると順調そうですが、実際は毎日どこかでつまずいていました。今日はその「つまずきの中で拾ったもの」の話です。
こぼれ話①:NPUは「最速」なのに、いちばん"遅い"やつでもあった
月曜の音声認識で、いちばん面白かったのがこれです。
文字起こしの速さは、NPUが0.14秒で堂々の最速。GPUの0.35秒、CPUの0.41秒を抑えてのトップでした。ところが、モデルの読み込み(起動)だけを見ると、NPUは10.35秒。今度はぶっちぎりで最遅なんです。
「最速」と「最遅」が同居している、このねじれ。最初は欠点に見えました。でも、会話の相棒として常駐させるなら、起動は一回きり。一度立ち上げてしまえば、あとは0.14秒の俊足だけが残ります。瞬発力で選ぶか、付き合い方で選ぶか。スペック表の数字って、使い方を決めて初めて意味を持つんだなあ、と。
ちなみにこのNPU、動かすまでに依存ライブラリのバージョン地獄もありました。公式の「NPUで高速!」の裏で、transformersを4.57.6から4.48.3へ手動で下げてようやく動いた、なんてことは公式ページには書いてません。泥道も含めて、実機です。
こぼれ話②:犯人はTTSだった ― 速さは、ハードじゃなく設計から生まれた
今週いちばんうれしかった瞬間の話をさせてください。
火曜の時点で、最初に組んだ一往復は、話し終えてからAIが喋り出すまで6.26秒かかっていました。会話としては、ちょっと間が持たない長さです。各段の時間を測ってみると、犯人は音声合成(TTS)。AIの返事を「全部」音声にしてから再生していたのが原因でした。
そこで、返事の最初の1文だけを即座に合成して、すぐ喋り出す。残りは裏で作っておく。そう設計を変えただけで、6.26秒が1.27秒になりました。内訳は、音声認識0.14秒、返事の生成0.57秒、最初の1文の合成0.57秒。
モデルも、ハードも、何ひとつ変えていません。変えたのは「順番」だけ。考えてみれば人間も、話す前に頭の中で全文を完成させたりしませんよね。あの数字が縮んだ瞬間の「えっ、こんなに変わるの」といううれしさは、高い機材を買ったときには味わえない種類のものでした。速さは、ハードじゃなく設計から生まれる。今週いちばんの収穫です。
こぼれ話③:5つのAIで、ライセンスの答えが割れた
金曜の最適解記事のために、5つのAIに同じ調査をさせて答え合わせをしたのですが、いちばん意見が割れたのは性能ではなく、ライセンスでした。
あるAIは、音声合成ライブラリのライセンスをしれっと間違えて推定していました。1つのAIだけを信じていたら、そのまま記事に書いてしまっていたかもしれません。横断チェックに救われました。
そして、自分が使っているVOICEVOXの「春日部つむぎ」さんも、クレジット表記が必須のキャラクター。知ったときは、襟を正す気持ちになりました。今週の記事や動画には「VOICEVOX:春日部つむぎ」の表記を入れています。この記事のシリーズ自体が、ライセンスを守る実例になっていく感じ、ちょっと背筋が伸びて好きです。
こぼれ話④:はじめての"ラボメン"さんと、初めてのコード全公開
金曜の記事では、もうひとつ初めてのことをやりました。メンバーシップ「ラボメン」限定での、コード全公開です。
はじめてのラボメンさんが加入してくださったのを機に踏み切ったのですが、正直、公開ボタンを押すときは少し緊張しました。動くとはいえ、きれいとは言えない実験コードです。でも、このnoteは最初から「実験室の記録」なので、整えすぎた見本より、泥道ごと見せるほうがらしいかな、と。加入してくださった方、ほんとうにありがとうございます。
手元の小ネタ
最後に、記事にするほどでもなかった小ネタを3つだけ。
固定6秒録音の、地味な不自由さ
いまの仕組みは「6秒間録音して、それを聞き取る」方式。短い相づちだと残りの数秒をじっと待たされるし、長く話すと尻切れになります。会話のテンポを最後に邪魔しているのは、実はここだったりします。
frequency_penalty: 1.3 のさじ加減
同じ言葉を繰り返さないようにするパラメータなのですが、強くしすぎると日本語そのものが壊れはじめます。1.3はその間を取った妥協点。AIの個性って、こういう小数点の調整の積み重ねなんですよね。
「ばいばい」で終わる会話ループ
会話の終了ワードを「ばいばい」にしてあるので、毎回、PCに向かって「ばいばい」と言って実験が終わります。これがなんだか、かわいい。終了コマンドに情が湧くとは思いませんでした。
半年越しの実感:相棒は、買うものじゃなく育てるものだった
半年前、CocoroAIでローカルの音声会話を初めて試したとき、返事が返ってくるまで約2分かかりました。話しかけてから、お湯を沸かせるくらいの沈黙です。
関連記事: CocoroAIでローカルLLM×VRMキャラと音声会話してみた(応答まで約2分の壁)
あれから半年。同じ「ローカルでAIと話したい」という夢が、Qwen2.5-1.5Bと春日部つむぎさんの声で、1.27秒で返事をくれるようになりました。すごい機材を買ったわけではありません。ノートPC1台のまま、半年間、少しずつ積んできただけです。
相棒は、買うものじゃなく育てるものだった。328日続けてきて、今週ほどそれを実感した週はなかった気がします。
それではまた明日。今日も、肩の力を抜いていきましょう。
🔗 関連記事
今回の内容に関連する過去記事もぜひご覧ください:
📝 まとめ
328日目の土曜は、ローカル音声会話を作り込んだ一週間のこぼれ話を書きました。
NPUは推論最速なのに起動最遅という「ねじれ」を持っていたこと。喋り出しの6.26秒が、ハードを何も変えずに設計だけで1.27秒になったこと。5つのAIでライセンスの答えが割れて、横断チェックに救われたこと。そして、初めてのラボメンさんとコード全公開の小さな緊張。
完成形の数字の裏には、いつも泥道があります。でもその泥道こそ、半年前の「約2分」を今週の「1.27秒」に育ててくれたものでした。
🚀 次回予告
今日はひと息つきましたが、音声相棒づくりはまだ途中です。これからのラボ案件は、呼びかけたら起動する「ウェイクワード化」と、固定6秒録音をやめる「VAD」。会話のテンポを邪魔している最後のつっかえを、これから少しずつ育てていきます。余力があれば、音声合成の聴き比べ回も。お楽しみに!
🎨 おまけ:見出し画像作成プロンプト
今日の見出し画像のベースはジミー(Gemini)に下記プロンプトで作成してもらいました!クロ助の参考画像(`AI擬人化\Gemini_Generated_Image_クロ助(Claude Desktop).png`)を添付して、人物の一貫性を確保しています。
詳細なアニメの美意識の画像を作成してください。表情豊かな瞳、なめらかな網掛けセルの色使い、はっきりした線画を使用します。アニメのシーンに典型的な身ぶりと雰囲気で、心情と登場人物の存在を強調してください。
下記条件のnote見出し画像をサイズは横長で作成してください。サイズは必ず横長で作成してください。
【重要】添付画像とキャラクターの対応:
- 添付1「Gemini_Generated_Image_クロ助(Claude Desktop).png」→ クロ助(クリーム色ケーブルニット・丸眼鏡・ダークブラウンのウェーブヘアの女性)
キャラクターは必ず添付画像の外見を忠実に再現してください。
## 見出し画像案
### デザインコンセプト
- 背景: やわらかな夕暮れのオレンジからティールへのグラデーション(張り詰めた一週間のあとの、ほっとした土曜の空気)。薄い鍵マークをさりげなく置いて、クラウドに出さないオフライン感を残す
- メインビジュアル: クロ助がThinkPad X1の隣で、湯気の立つマグカップを片手にひと息ついているシーン
- 中央左: クロ助(ダークブラウンのウェーブヘア、丸眼鏡、クリーム色ケーブルニット、女性)。やわらかく微笑んで「今週おつかれさま」の表情
- 中央右: ThinkPad X1。スピーカーから穏やかな声の波形がゆるやかに漂う
- 画面の隅: 「2分 → 1.27秒」の小さな数字(今週の歩み)
- テキスト要素(3段):
- 上段(白・太字・30pt): 「張り詰めた一週間の、土曜の一息」
- 中段(特大ゴールド・48pt): 「約2分が、1.27秒になった話」
- 下段(白・細字・22pt): 「今週のこぼれ話・328日目」
- 装飾: ゆるやかな声の波形、マグカップの湯気、「2分→1.27秒」のミニ数字、薄い鍵マーク(オフライン継続)
### 作成手順
1. 画像サイズ(1536×1024px)の横長フォーマット
2. やわらかな夕暮れ → ティールのグラデーション背景を設定
3. クロ助(マグカップ片手にひと息・中央左)とThinkPad X1(中央右)を配置
4. 添付したクロ助の参考画像と外見を一致させる(女性・クリーム色ニット・丸眼鏡・ウェーブヘア)
5. PCから漂う穏やかな声の波形と、マグカップの湯気を配置
6. 装飾要素:「2分→1.27秒」のミニ数字、薄い鍵マーク
7. テキストを3段構成で追加
8. 下部中央寄りに「YaroTech」のロゴを12ptで控えめに配置
9. 全体のバランスを確認して完成