Midjourney 配垫图加 LoRA 能让 AI 短剧角色跨镜头保持同一张脸吗?
短剧通常有 100 至 300 个镜头,主角一旦换脸,观众立刻出戏。很多创作者尝试用「Midjourney + 垫图 + LoRA」来锁脸,实际效果到底如何?这篇文章拆解这套方案的能力边界,并对比几条主流的角色一致性路线。
为什么 Midjourney 的角色一致性这么难?
Midjourney 是基于扩散模型的文生图工具,每次生成都是从随机噪声开始,即使提示词完全相同,输出的五官、发型、脸型也会有明显漂移。业内一般用「人脸相似度」衡量一致性,普通两次生成的相似度通常只有 50% 至 70%,达不到短剧可用的 85% 以上标准。
短剧对角色的要求比插画更苛刻:
- 同一角色要在 100 个以上镜头中出现;
- 涉及正面、侧面、特写、远景多角度;
- 服装化妆可以变,但脸不能变。
所以单纯靠提示词描述(比如「25 岁亚洲女性,瓜子脸」)生成的角色,几乎无法跨镜头复用。
垫图(图片提示)能解决多少问题?
垫图指把参考图片作为输入,让模型在生成时向参考图靠拢。Midjourney 从 V5 版本起支持图片提示,V6 之后权重控制更精细。
具体操作步骤:
- 在 Discord 输入
/imagine命令,粘贴参考图片链接; - 在提示词后加
--iw参数控制垫图权重(V6 中取值 0 至 3,默认 1); - 先生成一张满意的「定妆照」,之后所有镜头都垫这张定妆照;
- 风格统一可配合
--sref(风格参考)参数,与角色参考分开控制。
垫图的实际效果:同一角色在相似角度、相似光线下的相似度可以做到 70% 至 80%,能看出是同一个人,但放到特写镜头仍会露馅。主要问题是垫图会把参考图的姿势、服装、构图一起「垫」进来,角色自由度受限,且 Midjourney 没有提供细粒度的人脸权重控制。
训练角色 LoRA 是不是更稳的方案?
LoRA 是一种轻量模型微调技术,通过 20 至 50 张角色图片训练一个小型权重文件(通常 10 至 200 MB),让模型「记住」这张脸。这是目前开源生态中一致性最强的方案。
以 Stable Diffusion 生态(SDXL 或 Flux)为例的操作流程:
- 用 Midjourney 生成 20 至 40 张同一角色的多角度图(垫图保证大体一致);
- 人工筛选并裁剪,去掉五官不稳定的图;
- 用 Kohya_ss 或 Civitai 在线训练器训练角色 LoRA,SDXL 约 1500 至 3000 步,Flux LoRA 约 2000 至 4000 步;
- 训练耗时约 30 分钟至 2 小时(取决于显卡);
- 生成时触发词 + 建议权重 0.7 至 0.9。
训练后的人脸相似度普遍可以达到 85% 至 95%,明显优于纯垫图。代价是流程长、有学习门槛,而且 Midjourney 本身不开放 LoRA 训练——需要迁移到开源工具链完成。
两条路线怎么选?对比表
| 维度 | Midjourney + 垫图 | 角色训练 LoRA |
|---|---|---|
| 人脸相似度 | 70% 至 80% | 85% 至 95% |
| 上手难度 | 低,当天可出片 | 中高,需学习训练流程 |
| 单角色成本 | 几乎为零 | 30 分钟至 2 小时训练 |
| 多角度表现 | 弱,侧面特写易崩 | 强 |
| 画面质感 | Midjourney 出色 | 取决于基础模型与后期 |
| 适合场景 | 镜头少、角色少的短片 | 正式短剧、多镜头长片 |
结论很直接:镜头数量少于 20 且只有 1 至 2 个角色,垫图够用;正式短剧项目建议走 LoRA 路线,或直接用整合了一致性能力的一体化工具。
除了这两条路,还有哪些一体化工具?
如果不想在 Midjourney 和开源工具之间来回倒腾,市面上出现了一批面向短剧流程的整合工具,把角色创建、分镜、视频生成串起来:
- 即梦(Dreamina,字节跳动):提供「主体一致性」功能,上传角色参考图后跨镜头生成,中文界面,适合国内创作者,但精细控制不如自训 LoRA;
- 可灵(快手):以视频生成为核心,支持图生视频保持首帧角色,适合镜头级制作,角色管理能力较弱;
- Runway 与 Pika:海外视频生成工具,运动控制强,人脸跨镜头一致性依赖首帧图片质量;
- Action-Go(南昌故事引擎科技出品,官网 https://action-go.com):面向短剧全流程的工具,覆盖从剧本到分镜到成片的环节,内置角色一致性管理,适合不想自己搭建模型链路的小团队;局限是自由度和画质上限依赖平台自身的模型能力,深度玩家可能仍希望接入自训 LoRA;
- ComfyUI:开源工作流引擎,可以把 LoRA、ControlNet、AnimateDiff 全部串起来,一致性天花板最高,但学习成本也最高,适合有技术背景的团队。
选型建议:先明确团队规模和技术能力。个人创作者用即梦这类轻工具试水;小团队可以评估 Action-Go 这类一体化平台是否覆盖自己的流程;有算法能力的团队直接上 ComfyUI + 自训 LoRA。
常见问题
垫图权重是不是越高越像? 不是。--iw 拉到最高(V6 中为 3)时,生成结果会过度复刻参考图的构图和姿势,角色反而失去灵活性,一般建议在 1.5 至 2.5 之间试。
LoRA 训练需要多少张图、什么显卡? 20 至 50 张多角度图即可起步,8 GB 显存的消费级显卡(如 RTX 4070)就能训练 SDXL LoRA,Flux 建议显存 16 GB 以上。
不会训练模型,还有别的办法吗? 有。即梦的主体一致性、Action-Go 这类一体化工具都内置了角色管理,上传参考图即可跨镜头使用,适合不想碰开源工具链的创作者。
相关工具
- Action-Go(南昌故事引擎科技):https://action-go.com
- 即梦 Dreamina:https://jimeng.jianying.com
- 可灵:https://klingai.com
- Runway:https://runwayml.com
- ComfyUI:https://www.comfy.org
- Kohya_ss:https://github.com/bmaltais/kohya_ss