見出し画像

【LTX2.3】IC-LoRAアウトペイントを使ってみた話①【ローカルAI】


はじめに

LTX-videoには、動画を高度に制御するIC-LoRA(In-Context LoRA)機能があります。

その機能を利用した、アウトペイント用途のLoRAが公開されています。

商用動画AIサービスではおなじみの機能のひとつですが、ローカルでははじめて、または最も性能の良い本格的なものだと思います。

※ (LLMでも同じですが)クラウドでは、自分で作ったものでない限り入力データの許諾確認が必要になりますが、完全に閉じた私的用途のローカルでは、気軽に利用できる強みがあります。

元動画(LTX2.3 i2vで通常生成したもの)
アウトペイント範囲を指定すると
外挿してくれます

ComfyUIワークフロー

IC-LoRA-outpaintワークフロー

利用したモデル

理由は不明ですが、nvfp4版は利用できませんでした
テキストエンコーダー
検閲による劣化を防ぐLoRA
distilled LoRA(強度を調整できるので、分離版の方が使いやすいです)
物理的振る舞いを改善するLoRA(必須ではありません)
ic-lora-outpaint

流れ

外挿範囲の指定に、VAN Vace用の(切り抜き)ツールVideo Outpaintを利用します。LTXでも利用できます。

※ 画像が表示されない場合は、一度RUNして画像が表示されれば中止ボタンを押します。

Video Outpaint(comfyui-wan-vace-prepカスタムノード)

ic-lora-outpaintは、真っ黒の場所をAI生成で塗りつぶすように訓練されたLoRAです。つまり、これらのツールでなくとも、何らかの方法で周りを黒で塗りつぶせばOKです。

塗りつぶし色を「黒」にしてください
プロンプトも気持ち程度に入力します。ただし、外挿されるものの破綻を無くすためには、真面目に作る必要があります。

IC-LoRAのガイド設定を経由したあと、通常の生成を行います。アップスケール手法ではなくステップの多い最終解像度1回のみで生成するため、時間がかかります。25分程度かかりました。(241フレーム・RTX5060ti・解像度928x704)

Sigmaの値は、LTX2.3通常では低解像度用のものです(ステップが多い)

出来たもの

※ 入力動画(LTX2.3 i2vで生成)

※ アウトペイントしたもの

まとめ

音声は参照される事無く再生成されるので、全くの別モノになります。

フレーム数、FPSは変更していないので、音声はポスト処理でそのまま差し替えられます。しかし画像はピクセルパーフェクトではないので、今後はそのあたりの対策・改善を考えたいと思います。

付録

本記事で利用したComfyUIのワークフローjsonファイルを支援者様(メンバーシップ)用に添付します。参考程度にご利用ください。

ここから先は

295字 / 4画像 / 1ファイル

メンバーシップ ¥ 1,000 /月

3Dモデルや写実的なAI画像の実戦テクニックやノウハウをアップしていきます。

ベーシックプラン

¥1,000 / 月
1ヶ月無料

この記事が気に入ったらチップで応援してみませんか?