メインコンテンツへスキップ
見出し画像

Halloween 百鬼夜行 メイキング|120枚のイラストと77本の動画から、3分弱のMVができるまで|AI×MV制作実験室

    前回の記事では、

    「日本の夜に、ハロウィンが迷い込んだらどうなるんだろう?」

    というところから始まった、MV『Halloween 百鬼夜行』の世界について紹介しました。

    今回は、その裏側です。

    約3分弱のMVを、

    どう設計して、どう生成して、どう一本の映像につないだのか。

    実際の制作ワークフローをまとめます。

    🎬 完成MVはこちら


    📖 世界観・物語編はこちら


    ※この記事はPollo AIさんのPRを含みます。


    一人で作る、小さな制作チーム


    完成したMVは約2分56秒です。

    でも、最初から3分の動画をAIに作ってもらったわけではありません。

    今回の制作は、大きく分けるとこういう流れでした。


    画像


    今回のMV制作で最も大きかったのは、

    情報をChatGPTに集約し、「監督」のような役割を任せたこと

    でした。

    素材を作るだけではなく、何を使い、どうつなぐかまで、同じチャットで相談しながら進めました。


    まず曲を作り、そこから物語を考えた


    最初に作ったのは、音楽です。

    ChatGPTと歌詞や曲調の指示を作り、Sunoで「ハロウィンパーティー」という楽曲を制作しました。

    そこからChatGPTと、この曲でどんな物語を描くかを考えていきました。

    夜の神社にやって来た主人公が、白狐に誘われて百鬼夜行へ参加する。

    やがて自分の意志で白狐の手を取り、少しだけ妖怪になる。

    そして、夜明けとともに別れが訪れる。

    妖怪たちの賑やかな映像を並べるだけではなくて、主人公の体験として、一本の流れを作りたい思いがありました。

    この物語を、歌詞や曲の展開に合わせて26のシーンに分けました。

    画像
    ▲ シーン概要
    画像
    ▲ 実際のシーン設計書の一部
    ※初期の設計です。制作を進める中で、各場面のタイミングや演出は調整しました。


    どこで白狐に出会うのか。
    どこで百鬼夜行が盛り上がるのか。
    どこで主人公が変わり、どう終わるのか。

    このシーン設計が、必要なイラストを決める土台になりました。


    イラストは、制作指示書を渡してまとめて作った


    前回の記事でも少し触れましたが、今回は約120枚のイラストを制作しました。

    主人公。白狐。鬼。猫又。烏天狗。一反木綿。一つ目小僧。河童。

    Witch。Vampire。Jack-o'-Lantern。

    そして、神社、百鬼夜行、変身、和楽器、夜明け。

    ここで使ったのが、ChatGPT Workです。

    120回、「次はこの構図で」「主人公は黒髪で」「白狐は九尾で」と、一枚ずつ最初から説明したわけではありません。

    まず、登場人物のキャラクターシートを作成した後に、監督役のChatGPTに、キャラクターシートとシーン設計をもとにしたイラスト制作指示書を作ってもらい、それをまとめて渡しました。

    指示書には、

    • キャラクターの外見と、参照するキャラクターシート

    • 画風や色、光の雰囲気

    • シーンごとの構図

    • 必要な動作や表情

    • 手元や楽器などの細部

    • 画像に文字を入れないこと

    などを記載しています。

    ▼実際のイラスト制作指示書(抜粋)

    # 百鬼夜行 Halloween MV
    ## シーン別リファレンスイラスト制作依頼
    ### 目的
    約2分56秒のMV「百鬼夜行 Halloween」を動画化するため、各動画クリップに使用する**リファレンスイラスト一式**を制作してください。
    -  キャラクターデザイン 
    -  シーン全景 
    -  ポーズ/演技 
    -  表情 
    -  背景 
    -  小物 
    -  カメラ構図 
    
    を複数画像として入力できるように、**各シーンにつき2〜4枚程度のリファレンス画像**を制作してください。
    ---
    # 最重要ルール
    ### キャラクターデザイン
    既に完成している各キャラクターシートを最優先リファレンスとして使用してください。
    特に、
    -  主人公 
    -  半妖主人公 
    -  白狐妖怪 
    -  鬼 
    -  烏天狗 
    -  猫又 
    -  Witch 
    -  Vampire 
    -  Jack-o-Lantern 
    -  一反木綿 
    -  その他百鬼夜行キャラクター 
    について、別人・別衣装にならないよう統一してください。
    
    ### 画風
    **イラスト70% × 写実30%のセミリアル・シネマティックアニメ**
    -  顔立ち:イラスト的 
    -  肌・髪・布・金属・毛・羽:リアルな質感 
    -  光:映画的 
    -  和風ハロウィン 
    -  百鬼夜行 
    -  紫・橙・深紅・藍・黒・金 
    -  夜の神社 
    -  提灯 
    -  月 
    -  霧 
    -  幻想的 
    -  怖すぎず楽しい 
    
    ### 画像
    基本 **16:9横長**。
    キャラ単独のポーズ資料や手元資料のみ、必要に応じて縦構図でも可。
    画像内に字幕・歌詞・説明文字は入れないでください。
    ---
    # リファレンス画像の基本構成
    各シーンについて原則、
    
    **A:MASTER**
    > 動画として最終的に見せたい構図
    **B:ACTION**
    > キャラクターのポーズ・動作・表情が分かる画像
    **C:WORLD**
    > 背景・照明・小物・群衆配置が分かる画像
    必要な場合のみ、
    **D:DETAIL**
    > 手、目、仮面、楽器など音ハメに重要なクローズアップ
    を制作してください。
    ---
    
    # Scene 01|0:00–0:08
    ## 「カラン コロン 夜が来る」
    ### A MASTER
    夜の神社の参道。
    主人公がこちらに背を向けて、濡れた石畳を歩いている。
    まだ妖怪は見せない。
    遠くに鳥居と小さな提灯。
    ### B ACTION
    主人公の足元。
    草履が石畳へ着地する瞬間。
    「カラン」「コロン」に合わせて使える構図。
    ### C WORLD
    人物なし。
    霧、石畳、鳥居、提灯、紫の夜空。
    非常に静かな和風ハロウィンの導入。
    ---
    # Scene 02|0:08–0:15
    ## 「ちらり ひらり 影が舞う」
    ### A MASTER
    主人公が歩く参道の周囲を、正体不明の妖怪の影が横切る。
    ### B ACTION
    一反木綿が画面上部をひらりと横切る。
    人魂が主人公の後ろを通過。
    ### C WORLD
    石灯籠や木の影に、
    -  からかさ小僧 
    -  一つ目小僧 
    -  猫又 
    らしきシルエットだけが隠れている。
    まだ全身を見せない。

    たとえば、冒頭の「夜の神社を歩く」シーンでも、一枚だけではありません。

    画像の役割指定した内容全体構図主人公が濡れた石畳を歩いている動作の資料草履が石畳へ着地する瞬間背景の資料人物のいない参道、鳥居、提灯、霧

    同じシーンでも、役割の違う絵を用意する。

    こうした指示を全体でまとめ、実際には6〜10枚ほどずつ、シーンごとに制作を進めてもらいました。

    画像
    ▲ 実際に生成した結果
    12分くらいかかるので、指示したら基本的には待ち


    120枚作った理由は、単純にたくさん画像が欲しかったからではありません。

    動画で見せたい構図や、必要な細部を、先に絵として用意したかったからです。

    完成した構図に、少しだけ動きを付ける。

    今回の動画制作では、この考え方をかなり意識しました。


    描いてもらった絵を、監督役のChatGPTへ戻す

    生成されたイラストは、そのまま動画にしたわけではありません。

    制作指示書を作ってくれた、監督役のChatGPTのチャットへ戻しました。

    そこで内容を確認してもらい、作り直した方がいいところなどのアドバイスを受けました。

    つまり、イラスト制作の段階から、

    指示書を作る → 描いてもらう → 確認する → 必要に応じて修正する

    という流れで進めていました。

    同じChatGPTでも、絵を作るチャットと、作品全体を見ながら判断するチャットで役割を分けた形です。

    こうして揃えたイラストの中から、今度は動画に使う絵を選んでいきました。


    「この5秒で、何を守りたいか」でモデルを選ぶ

    イラストが揃ったら、次は動画生成です。

    今回は、提供いただいた500クレジット以内で完成させるために、最初の生成計画を365クレジットに抑えました。

    AI動画は、一度で狙いどおりになるとは限りません。

    そこで、残り135クレジットは、失敗した動画の再生成や、一度編集してから必要になった場面の追加に残しておくことにしました。

    最初の素材作りで、予算を使い切らない。

    これも、制作前に決めていたことです。

    そこでモデルとして使ったのが、前回の記事でも紹介したコスパのよいPixVerse V5/V6です。

    詳しい比較は前回の記事に譲りますが、今回のMVでは、

    • 動きや賑やかさを出したい場面はV5

    • 顔や手、変身など、元画像を崩したくない場面はV6

    という形で使い分けました。

    全部を高い設定にするのではなく、

    「この5秒で、何を一番守りたいのか」

    でモデルを決めています。

    たとえば、百鬼夜行の群像なら、
    「動きは大きくてもいい。賑やかさ優先」なのでV5。

    主人公と白狐の指先なら、
    「二人の顔と手をできるだけ崩したくない」のでV6。

    各シーンについて、どの画像を使うか、どちらのモデルを選ぶか、Pollo AIへどんなプロンプトを入れるかまで、ChatGPTに整理してもらいました。

    画像
    ▲ ChatGPTが生成したシーン毎のプロンプト


    その判断を先に整理してから、
    実際の動画生成は、僕がPollo AIで行いました。

    画像

    今回、動画素材は最終的に77本になりました。

    ChatGPTの指示がまとまっていたので、1本あたりの入力は、慣れると20秒ほど。

    77本分を単純計算すると、入力作業は約26分です。入力内容の確認を含めても、体感では30分弱でした。

    もちろん、これは生成待ちや、できた動画を見て判断する時間とは別です。


    素材を迷子にしないために、名前も揃えた

    今回、地味ですが大事だったのが、動画のファイル名です。

    77本もの動画が、生成した日時だけの名前で並んでいたら。

    どれが白狐で、どれが猫又なのか。
    どのシーンに使う予定だったのか。

    僕自身も分からなくなりますし、編集をお願いするCodexにも伝わりません。

    そこで、動画生成のプロンプトの先頭に、
    動画の管理IDと、元のイラストに対応するシーンIDを入れました。

    たとえば、こんな形です。

    T07_Scene07A_HyakkiYagyoParade

    これは、7番目の動画のScene07Aのイラストを使用した百鬼夜行のパレードの動画です。

    制作当時のPollo AIでは、動画生成画面からダウンロードすると、プロンプト冒頭の文字列がファイル名に使われていました。
    その仕組みを利用して、保存した動画にもこのIDが残るようにしました。

    そのおかげで、監督役のChatGPTが、
    「この動画は採用」
    「こちらは前半だけ使う」

    と整理した結果を、実際のファイルと結びつけたまま、Codexへの編集指示書にまとめられました。

    シーン設計、イラスト、生成動画、編集指示書。

    それぞれを名前でつないでおくことも、今回の制作を支えていた工夫の一つです。

    ※制作当時に利用した方法です。現在はダウンロード時の命名仕様が変わり、同じ方法では保存できなくなっています。


    5秒作っても、5秒全部を使うとは限らない


    ただ、動画ができたからといって、全部をそのまま使えるわけではありません。

    最初の2秒はすごくいい。
    でも3秒目から指がおかしくなる。

    あるいは、最後だけ顔が変わる。

    そんなこともあります。

    そのため、生成した動画も、監督役のChatGPTへ渡して確認してもらいました。

    最終的な編集指示を作るには、

    「この動画は前半が使える」
    「ここから手が崩れる」

    といった、素材ごとの状態を把握しておく必要があるからです。

    画像
    ▲ ChatGPTの確認結果

    判定は、

    • A:採用

    • B:編集で使用

    • C:再生成

    の3段階に整理してもらいました。

    再生成が必要な場合は、問題点を踏まえた改善プロンプトも作ってもらいます。

    そして、その判断結果を、Codexへ渡す編集指示書に反映しました。

    たとえば、指示書にはこんな指定が入っています。

    T03c|白狐の瞳のアップ
    手がレンズ側へ大きくなる部分を避け、安定した中盤を使用。

    T14|主人公と白狐が向かい合う場面
    前半約0〜2.5秒を中心に使用。白狐が待ち、主人公が後で選択する構図を維持。

    T16a|主人公が手を伸ばす場面
    前半約0〜2秒を中心に使用。主人公自身が手を伸ばす部分を使い、AIが勝手に接触を完成させる後半は避ける。

    ※当時の編集指示書から抜粋・表記を整理しています。


    「成功した動画か、失敗した動画か」だけではなく、

    どこまでなら使えるか。

    それを整理することが、次の編集につながっていました。


    素材の判断まで渡したから、初回の編集から形になった

    Codexへの指示書には、

    • 使用する動画

    • 使う区間と秒数

    • 並べる順番

    • 歌詞のタイミング

    • 静止画を使う箇所

    などをまとめました。

    今回、編集処理そのものは、すべてCodexに任せています。

    僕自身は動画編集ソフトを一切操作していません。

    それでも、事前に素材の採用判断まで整理していたので、最初にMVとして組んだ段階から、かなり完成形に近いものになりました。

    【初回版の動画を埋め込み】

    ▲ Codexで最初に組み上げた初回版

    ここは、今回のワークフローで効果が大きかったところだと思います。

    動画を大量に生成してから、

    「さて、どうしよう」

    と考えるのではなく、生成前から編集まで考えておく。

    さらに、生成結果を見て、その設計を更新する。

    その積み重ねが、初回の編集にもつながりました。


    一度組んでから、必要な場所だけ動画を追加した


    ただし、最初の編集版がそのまま完成版になったわけではありません。

    一度MVとして組んだ段階では、一旦形として仕上げることを優先したため、静止画を使っていた箇所もありました。

    その時点では、まだ135クレジット余裕がありました。

    そこで完成した映像を見ながら、

    「ここは静止画より動いた方がいい」

    という場所を選び、追加でPollo AIで動画を生成。
    静止画から動画へ差し替えていきました。

    最初から全部を動画にしようとするのではなく、一度作品として組んでみて、本当に動きが必要な場所へ追加する。

    この段階的な作り方は、限られたクレジットの使いどころを決めるうえでも役立ちました。


    最後は、文字と音を1フレームずつ合わせた

    映像だけではなく、歌詞や文字演出も途中から変えました。

    最初の文字は小さく、普通の字幕に近いものでした。

    でも曲を通して見ると、

    「Hey!」
    「Boo!」
    「妖怪 徘徊 大喝采」

    のようなところは、もっと映像の一部として文字を見せた方がいい。

    そこで、まず「こんな文字にしたい」という見た目のイメージを作り、その方向に合わせてCodexへ指示しました。

    画像
    ▲ Codexに渡した文字デザインの参考画像。和風の太い文字、白・深紅・金の配色、紫のネオン調の英字など、目指す見た目を画像で共有しました。

    ただし、タイミングはAIだけでは最後まで決まりませんでした。

    映像と音を実際に見ながら、
    「ここは1フレーム早く」
    「これは2フレーム早く」
    と修正を指示しました。

    24fpsなので、1フレームは約0.042秒です。

    それだけの違いでも、文字が歌に気持ちよく重なるかどうかが変わりました。

    最後は、自分の目と耳で確認して合わせる。

    この微調整を繰り返して、仕上げを詰めていき、最終的にV4で完成しました。


    AIごとに役割を分けたら、作りやすくなった

    振り返ると、今回の制作では、それぞれに違う仕事を任せていました。

    ChatGPTとSunoで、楽曲を作る。

    ChatGPTと、物語やシーンを設計する。

    ChatGPT Workで、必要なイラストを揃える。

    Pollo AIで、静止画を短い動画にする。

    Codexで、それらを一本のMVへまとめる。

    その間を監督役のChatGPTがつなぎ、最後は僕自身が見て判断する。

    役割を分けることで、一人で作っているのに、小さな制作チームで作っているような感覚になりました。

    今回の制作データも、まとめておきます。


    今回の制作データ

    今回の制作を、最後に数字でもまとめておきます。

    画像
    ※不採用分の85クレジットは、合計495クレジットに含まれます。
    モデルの設定・クレジットは制作当時のものです。



    AI動画は、生成した時点では完成しない


    完成したのは、約3分のMVです。

    でもその前には、歌詞と音楽があり、物語があり、120枚のイラストがありました。

    そこから使う絵を選び、モデルを選び、プロンプトを作り、短い動画を生成する。

    その結果を見て、また選ぶ。

    うまくいった5秒。
    途中だけ使った5秒。
    使わなかった5秒。

    そして、最後まで気になった、たった1フレーム。

    今回、一番感じたのは、

    AI動画は「生成した時点」で完成するわけではない

    ということでした。

    5秒生成しても、使うのは2秒かもしれない。
    120枚作っても、全部は使わない。

    AIが作った素材をどう選び、どうつなぎ、どこを捨てるか。

    一本の物語にするための判断は、最後まで人の仕事でした。

    最後まで読んでいただき、ありがとうございました!

    🎬 完成MVはこちら


    📖 世界観・物語編はこちら


    今回使用したPollo AI

    ▼ Pollo AIはこちら

    画像
    画像をタップするとリンクへ

    今回参加したのは、

    タク@HENDREさん主催
    Pollo AI協賛 ハロウィンMV企画
    「変でもいい、響けばいい。」番外編

    素敵な企画をありがとうございました!


    画像
    画像
    MV作成のマガジンはこちらから
    画像
    ナオユキは推し庭に参加してます

    #HE_RE #HENDEI #ハロウィン #百鬼夜行 #MV #AI動画 #PolloAI #ChatGPT #Suno #Codex #生成AI  #AI音楽 #アカリウム #CCC #ChatGPTCreativeClub


    この記事が参加している募集

     
     
    まだ知らない『面白い』への案内人。人・作品・AIの魅力を見つけ、物語と知識に変えて届けるコンシェルジュです。毎週土曜は漫画ソムリエ。スキ動画コンテストほか、いろいろ実験中。

    あなたへのおすすめ