見出し画像

リップシンクも、やはりSeedance 2.5/動画生成の成功率を高めたいなら、プロンプトを詳細化するよりシーンリファレンスを与える

動画生成によるリップシンクの違和感

研究で比較的よく裏付けられているのは、「人間らしい見た目の中に、人間らしくない要素が混ざると違和感や不気味さが強まる」というメカニズムです。リップシンクはこの「不一致」が特に起きやすい。

「知覚的不一致」は、人間らしい顔の中に不自然な特徴や一貫しない特徴が混ざる状態です。たとえば、人間の顔に極端に大きい目や人工的な目を組み合わせるような場合。
つまり、「リアルに近いから不気味」というより、「リアルな部分とそうでない部分が食い違うから不気味」というのが、現時点で最も根拠のある説明になります。

違和感には、次のようなものが挙げられます。

  • 口の動きの大きさと声の勢いの不一致
    声は張っているのに口が小さくしか開かない。

  • 口の中の不一致
    歯や舌の形がフレームごとに変わる。

  • 顔の上下の不一致
    口は動いているのに、眉や目元が台詞の感情と連動していない。

今回は、Heygen Avatar VとSeedance 2.5の比較です。
サービスの用途が異なるので、比較検証するのは難しいのですが。
※リップシンク検証は、AIドラマ制作に関連したものではありません。

以下は、Heygen Avatar Vです。

  • 再生時間:47秒

  • Heygen Avatar V(Avatar 5)

  • 音声は、ElevenLabsで生成

HeyGenは、ニュースキャスター、プレゼンター、企業研修など「正面を向いて、一定のトーンで、ノイズなく説明する」ユースケースに最適化されています。長尺の一人語りなどは迷わずHeyGenを選びます。


以下は、Seedance 2.5の生成結果。

ElevenLabsで生成した音声は、23秒あります。
Seedance 2.5は、30秒まで生成可能ですが、Runway無制限を使用しているため、15秒で生成しました。かなり早口になっています。

  • 再生時間:30秒

  • Seedance 2.5

  • 無編集

  • 1つ目はElevenLabsの音声を参照、2つ目は参照せずセリフをプロンプトに書いて生成しています(つまり、Seedance 2.5が生成した音声)。
    後者の方が臨場感があります。

明らかに、Seedance 2.5の方が良いですね。
ただ、成功率が低いのでクレジットはかなり消費することになります。日本語の読みやイントネーションなどが不安定、セリフの内容もよく変わってしまいます。
成功率で言えば、MiniMax H3の方が優秀です。

それでも、Seedance 2.5の映像表現力が素晴らしいので、他のモデルは選択肢になりません。

人間が誰かの発話を見るとき、


→ 顎
→ 頬
→ 鼻周辺
→ 眉
→ 眼瞼
→ 視線
→ 頭部
→ 首
→ 肩

まで、無意識に統合して見ています。

Eye saccade、微細な顔運動、身体の揺れなどを加えると、キャラクターに「生きている感じ」が出て視聴者の快適性が増します。
Seedance 2.5は、顔面筋の微細な表情まで指示できるため、人間に近づけることが可能です。

  • 再生時間:30秒

  • Seedance 2.5

  • 無編集(1回生成です。編集はしていません)

  • 音声は参照せず、セリフをプロンプトに書いて生成。

  • 天野ひかりの「性格設定」をプロンプトに記述しています。

動画の内容:

天野ひかりの性格設定をプロンプトに記述した結果

ElevenLabsの音声を参照させても、忠実に扱ってくれないことが多いので、HeyGenのような安定感はありませんが、人間らしさを追求できるモデルは、(今のところ)Seedance 2.5しかないと思います。


成功率を高めたいなら、プロンプトを詳細化するよりシーンリファレンスを与える

今月のMicroEpic Club オンラインミーティングで報告するために、Seedance 2.5の成功率を高めるノウハウをまとめています。

簡単に言うと、プロンプトの詳細化より「適切なシーンリファレンス」が最も効果があり、成功率を高めます。

Seedance 2.5(Runwayの場合)

50回ほどの検証の結果、シーンリファレンスの重要性を確かめることができました。
プロンプトを詳細化したり、タイムスタンプを駆使したり、見取り図を追加するなど、さまざまな手法を試しましたが、失敗しない動画生成の解は「シーンリファレンス」という結果となりました。

参照画像は20を超えることが多い(最大30まで可能)

問題はリファレンス数が増加することです。
平均で10〜20リファレンス、多い時は(仕様の限界である)30リファレンスになってしまいます。
どのくらい効果があるのか、検証結果をまとめていますので、ご興味のある方は、26日のライブ配信(下記)にご参加ください。


第6回 MicroEpic Club オンラインミーティング

今月のMicroEpic Club オンラインミーティングは、26日(土)です。
GPT-6 Astraも公開され、1ヶ月で様変わりしたので、今月は話すことが多いです。AIドラマ・AIアニメの作り方も随分変わってしまいました。

本イベントは連続性がありますが、どなたでも参加できます。
PeatixのCreativeEdgeをフォローしておくと、参加受付開始と同時にメールが届きます。
noteでも告知するように努力していますが、忘れてしまうことも多いので、PeatixのCreativeEdgeをフォローしてメールが届くのをお待ちください…

今月のライブ配信は、26日


関連マガジン:


更新日:2026年9月15日(火)/公開日:2026年9月14日(月)

いいなと思ったら応援しよう!