我这两周一直在折腾AI短剧。试过用A工具写脚本、B工具画分镜、C工具做口型、D工具配音,最后再用E拼接……步骤多、报错多,每次改个角色名字就要重新跑一遍前面所有流程。最崩溃的是某一帧崩坏,你根本不知道是提示词的问题,还是中间某个节点悄悄吃掉了你的限制词。
不过最近我发现一个可以十分钟内走完“从一句话到一集”的组合:Gemini加SeeDance 2.0。这里的Gemini负责做创意拆解和分镜规划,SeeDance 2.0负责把描述变成连贯画面。你不用再管节点编排,也不用在十几个面板里来回切换。更重要的是,这个组合把“复杂工作流”压缩成了“对话—复制—粘贴—生成”四个动作。
如果你也是一边做短视频一边被各种复杂工作流折腾的人,这篇文章应该能帮你省下很多时间。下面我会从为什么会冒出这套组合、实际怎么操作、遇到问题怎么排查,以及我自己踩过的一些坑,完整过一遍。
1. 在动手之前,先搞清楚这个组合解决的是谁的痛点
1.1 传统短剧生成工作流为什么让人头皮发麻
短剧的底层逻辑并不复杂:有剧本,有分镜,有画面,有声音,最后拼成一条时间线。但把它拆到AI工具里,复杂度立刻暴涨。
传统的“复杂工作流”通常长这样:先用一个环节让AI生成完整剧本,再用另一个环节把剧本拆成分镜表,接着要把每个分镜转成静态提示词,调用文本生图模型生成角色图,再把这些图喂给视频生成模型做首帧,中间还要考虑角色一致性和口型同步。等到所有片段都渲染完,还得逐段检查画面风格、光影是否统一,最后进剪辑工具配音、压字幕。
问题在于,这个链条里任何一个环节输错一个词,后面全部白搭。比如你在分镜表里把主角的“黑色外套”改成了“深色外套”,文本生图那一步可能就给你生出一件棕色风衣;按理说步频和炸McTire都要原文发过去,但很多工作流节点只取关键词,导致信息丢失。你只能从头跑一遍。
我用过这类串行方案,最大的感受是“它不是帮你做短剧,而是教你怎么当流水线工人”。每次想调整情节,都要从源头改,然后等一整轮生成。如果某天模型接口临时变动,整个工作流可能直接瘫痪。这种复杂度对只想验证创意的人来说,完全是负担。
1.2 为什么首选用Gemini当“编剧和分镜师”
Gemini这个模型有一个很实用的能力:长上下文和结构化输出。你可以把一部短剧的完整设定直接丢进去,它不会像普通对话模型那样很快忘掉前两段内容。
我之前拿它测试过一段30秒短剧,把角色、场景、情绪、台词要求全部写在一个输入框里,它能够输出一份带镜头序号的表格,而不是只给你一个大纲。这是很多其他模型做不到的,或者说要做到这一步,还得额外写一堆调优提示词。
更重要的是,Gemini能“反向约束自己”。你可以要求它每一只镜头都要保留角色特征卡片里的原始描述,不能擅自改名。它真的会把同样的描述复制到后续所有分镜中,而不是用自己的理解重写一遍。
有人可能觉得,这不是任何大模型都能做吗?实测下来,Gemini在“把自然语言转成严格结构化JSON/表格”这件事上的准确率更高,出错率更低。对于短剧这种多环节、多镜头的任务来说,少一次解析错误,就少一次返工。
还有一个隐藏优势:Gemini可以直接读取你传上来的参考图,并描述图中角色的发型、服装颜色、配饰。这一步很关键。因为你不需要自己费劲地写一篇“角色外观描述”,你只要给它一张图,它就能把特征转成固定文本,后续所有镜头都用这段文本保持一致。
1.3 SeeDance 2.0在渲染环节里到底强在哪
模型名字叫SeeDance 2.0,很多人会误以为它是一个“全自动导演”,能自己理解剧情、自己安排镜头。实际用下来它的定位更像一个“高保真渲染器”,尤其擅长把文本提示词转为时间连贯的视频片段。
先代视频生成模型有个常见毛病:画面看起来精美,但动作一复杂就崩。比如人物行走时腿部扭曲、转头时五官错位、抬手时手指乱飞。SeeDance 2.0在这一代里对我的实测结果是,常规的人物走动、坐下、转身、说话,稳定度都明显更好,尤其是手的表现。
另一个变化在于它对“镜头语言”的理解能力。你写“镜头缓慢推近”或者“环绕拍摄”,它能给出相应运动趋势,而不是把画面平推到底。这对短剧很重要,因为短剧靠的是节奏和情绪,镜头一板一眼就会像PPT。
需要说明的是,SeeDance 2.0本身不是拿来编故事的工具。你给它一句“外卖骑手和猫在雨夜相遇”,它大概率会给你一段不知所云的画面。但如果你提供一个结构清晰的分镜提示词,它的输出质量会立刻上一个台阶。所以这套组合的逻辑就很简单:Gemini负责把故事翻译成“机器易懂的结构”,SeeDance 2.0负责把结构变成“观众爱看的画面”。
2. 开工前需要准备的东西和三个容易踩的误区
2.1 最少需要准备哪些东西
先说基础条件。你至少需要一个Gemini的使用入口,可以是官方对话页面,也可以是API接口。如果你打算批量做系列短剧,建议直接走API,因为对话页面对长输出的限制更严格;如果只是做单条测试,Web端就够用。
SeeDance 2.0这边,你需要一个能调用视频生成的入口。开机会先让你选模型版本,选2.0,不要选旧版。然后准备一个图片上传入口或者参考图功能,因为角色一致性主要靠它。
接下来是素材准备。不要一上来就写剧本,先准备一个角色特征文档。内容包含角色名称、性别、年龄、发型、服装、配饰、性格标签。这个文档会变成所有提示词里的“固定锚点”。我以前忽略这一步,结果每个镜头都像不同的人。
再准备一个本地文件夹,用来存放所有分镜提示词和生成结果。建议按“镜头编号”命名,比如02_进入便利店_v1。这样如果你需要重新生成某个镜头,不会把文件搞乱。
最后是时间预算。一个30秒的短剧,如果分成6个镜头,每个镜头5秒,理论上渲染时间取决于平台负载,但等待时间通常不会少于10分钟。你要清楚自己手上的素材量,不要试图一次性生成整部片子,后期拼接和审核会更麻烦。
2.2 误区一:想让一个模型把所有事都干了
我见过不少新手的第一反应是“我不需要Gemini,我把完整剧本直接给SeeDance 2.0不就行了?”结果就是生成出来的视频只有几个模糊画面,情节完全不能看。
原因在于,视频生成模型当前的核心能力是“把一段描述转为画面”,它没有长期规划能力。你给它1500字的剧本,它并不会自动分析哪里该给特写、哪里该给远景,更不会记住前一分镜里角色的情绪状态。它只会把文字里的关键词揉成一团,输出一个平均化场景。
正确分工应该是:Gemini做结构化拆解,把剧本切成适合单次生成的短段落;SeeDance 2.0负责渲染每一个短段落。你事先把“每段只包含一个动作、一个情绪、一个环境变化”当作硬约束,才不会让模型乱发挥。
2.3 误区二:提示词写得越长效果越好
这是另一个高频误区。很多人觉得反正是AI,我把所有细节都塞进去,它应该能理解。实测下来,提示词过分冗长反而会稀释注意力,尤其当你在一条提示词里塞了五个主要物体、三种光线变化、两次镜头运动,SeeDance 2.0往往会把事情办砸。
我的经验是,单条镜头提示词控制在40到80个中文词左右。核心信息包含:主体、动作、环境、镜头、光线、风格。其余所谓的“氛围”“情绪”用两个以内的形容词带过。
Gemini在这里的第二层价值就是帮你做“减重”。你给它一段详细描述,它会帮你删掉冗余词,提炼成人话与机器都能看懂的短句。比如原文写“深夜的天空飘着细雨,湿润的路面上倒映着红绿灯的光芒,远处的汽车偶尔驶过溅起水花”,Gemini可能会压缩成“雨夜街道,湿沥青路面反射霓虹,背景汽车驶过”。后者对SeeDance 2.0来说反而更友好。
2.4 误区三:不控制角色一致性
短剧最怕的就是角色漂移。上一集中穿蓝色外套的女主角,下一个镜头变成红色卫衣;男主上一秒是短发,下一秒变成中长发。这是所有AI视频工具的通病,并不是某个模型不行,而是你没有给它控制手段。
要解决这个问题,准备工作里就要明确“角色锁定信息”。包括:统一参考图、统一特征词、固定随机种子。
统一参考图的意思是,你先用Gemini生成一张角色设定图,或从外部工具得到一张正面/半侧参考图,然后上传给SeeDance 2.0作为每段生成的参考帧。这样不管提示词怎么变化,角色脸部结构不会飘。
固定随机种子也很重要。如果你每次生成都换种子,哪怕提示词完全一样,出来的画面也会有差别。而固定种子之后,至少人物轮廓、皮肤质感、发型细节会维持在一个相对稳定的区间。
3. 从一句梗概到成片的完整实操过程
3.1 第一步:让Gemini把“一句话”变成“能直接拍的分镜脚本”
我通常会给Gemini这样一个开场提示:
你现在是一位短剧导演兼编剧。我会给你一句剧情梗概,请你帮我把这句话拆成适合AI视频工具生成的短剧分镜脚本。要求如下:总时长控制在30秒内;镜头数量在5到6个;每个镜头包含镜头编号、时长、景别、运镜方式、画面内容、环境描述、台词或音效;输出格式用Markdown表格。不要修改角色设定,角色信息会单独提供。
接着我把一句话传进去,比如“一个外卖骑手在雨夜里遇到一只会说话的流浪猫,最后把猫带回出租屋”。
Gemini返回的分镜表大概长这样:
| 镜头 | 时长 | 景别 | 运镜 | 画面内容 | 台词/音效 |
|---|---|---|---|---|---|
| 1 | 5秒 | 全景 | 固定镜头 | 雨夜街道,外卖骑手穿黄色雨衣骑电动车靠近便利店 | 雨声、电动车引擎声 |
| 2 | 5秒 | 中景 | 缓慢推近 | 骑手停车,看向便利店屋檐下的纸箱 | 猫叫声 |
| 3 | 5秒 | 近景 | 侧移 | 纸箱里钻出一只橘色流浪猫,嘴唇在动 | 猫说:你终于来了 |
| 4 | 5秒 | 特写 | 手持感 | 骑手惊讶的表情,雨水从帽檐滴落 | 骑手:你在说话? |
| 5 | 5秒 | 中景 | 跟拍 | 骑手脱下外套裹住猫,放上外卖箱 | 雨声变小 |
| 6 | 5秒 | 远景 | 固定镜头 | 骑手电动车驶离,路灯下有温暖光晕 | 轻快音乐 |
这一步完成后,先检查逻辑顺序,再进入下一步。不要跳过去直接让Gemini生成SeeDance提示词,因为Gemini有时会把“近景”和“特写”搞混,你得肉眼确认一遍。
3.2 第二步:把分镜脚本“翻译”成SeeDance 2.0的提示词
分镜表本身并不能直接喂给视频模型。你需要把它转成一种结构化的“单镜头提示词”。我建议让Gemini做一次转换,而不是手写。
我会对Gemini说:
把我上一步得到的分镜表,逐条转换成需要传给视频生成模型的提示词。每条提示词必须包含:主体、动作、环境、相机运动、光线条目、统一风格词。每条不超过80字。把角色特征卡里的内容原样放入主体部分。不要遗漏镜头编号。
然后Gemini会输出类似这样的结果:
镜头1:年轻男性外卖骑手,黄色雨衣,头盔,骑电动车穿过雨夜街道,路面积水,霓虹灯倒影,固定远景镜头,自然雨氛围,电影质感,青蓝冷色调。这个提示词比原始文字描述干净很多。核心信息都在:主体是“外卖骑手”,动作是“骑电动车穿过街道”,环境是“雨夜街道、积水、霓虹灯倒影”,镜头是“固定远景”,风格是“电影质感,青蓝冷色调”。
这里有一个细节:你在角色特征卡里写了“黄色雨衣”,Gemini在转换时确实会把这三个字复制到每个镜头。如果后来你想改成“黑色雨衣”,只需要改角色特征卡,再让Gemini重新批量替换,不需要手改每个镜头。
3.3 第三步:在SeeDance 2.0里逐个生成镜头
拿到提示词后,打开SeeDance 2.0的生成页面。先新建一个项目,命名为“雨夜外卖猫”。然后把角色参考图上传到参考图区,固定到所有镜头上。
生成顺序建议是“镜头1—镜头2—镜头3—……”,不要跳着来。因为短剧的时间线本身是连续的,前一个镜头的尾帧可以作为下一个镜头的首帧参考。尽管SeeDance 2.0支持单独的文本提示词生成,但如果你在下一段生成时上传上一段最后一张图,动作衔接会自然很多。
参数调节方面,我一般这么设置:
- 分辨率:竖屏1080×1920,短剧默认垂直视野。
- 单镜头时长:5秒或8秒,再长容易崩坏。
- 运动强度:中低档。太高会让镜头晃得像手持拍摄,太低又像静态照片。
- 种子:生成第一个镜头时保持随机,等预览满意后固定下来,后续所有镜头必须使用同一个种子值。
生成完成后先预览,不要急着导出。重点检查三件事:手部是否正常、脸部是否连续、运动是否合理。如果镜头2的角色发型和镜头1不一样,立刻停下查参考图,而不是继续生成镜头3。
3.4 第四步:拼接、配音和字幕的最后一公里
因为SeeDance 2.0输出的还是视频片段文件,你需要把你自己的剪辑工具用起来。这一步不复杂,但要讲究顺序。
先把所有镜头按编号拖到时间线。镜头之间可以加一个非常短的交叉溶解,长度0.2到0.4秒,避免生硬切变。不要加太长时间,否则会拖掉节奏。
配音方面,如果你的台词不多,可以用Gemini先生成旁白文案或者角色台词文本,再放进文本转语音工具里合成。这里要注意:AI语音生成出来的语气通常偏平,需要你在TTS里额外选“戏剧旁白”或“短剧专用”音色,不然整条片子会像新闻播报。
字幕可以直接丢给剪辑工具做语音识别,但AI识别错误率不稳定,建议人过一遍。尤其是“你终于来了”这种关键台词,如果识别成“你终于来”,情绪就变味了。
转场之外,还要统一音量。不同镜头的背景噪音和雨声强度不一样,导出来之前建议压限一次,让声音整体起伏不要太大。
4. 实操中会遇到的高频问题与排查记录
4.1 视频里角色长相总在变,怎么压住
这是最常遇到的问题。我刚开始用SeeDance 2.0时,镜头1里的骑手是方下巴,镜头3就变成了尖下巴。排查了三个变量之后才定位到问题。
第一个变量是参考图。你上传的角色参考图如果只有脸部近距离,没有带完整发型和衣领,那么生成时模型会有较大自由发挥空间。这时Gemini生成的提示词里就算写了“黄色雨衣”,它也不能凭空锁定你想象中的那张脸。解决方法是给参考图补充一张“半身带服装”的全视角图片。
第二个变量是种子。注意,任意一次改变提示词里的某个词,都会影响生成效果的隐性修正。固定种子只能控制同提示词下的输出,不能当作绝对锁。所以你要做的是把“种子固定+参考图固定+特征词固定”三个条件同时满足。
第三个变量是时间。如果你在一次生成里让角色连续动五六秒,脸部前两秒和后两秒很容易不一致。把单镜头时长降到4到5秒,一致性会明显变好。
4.2 出片后画质和色调不统一,怎么看都像拼盘
这个问题几乎百分之百来自提示词的后半句没有写风格固定词。
我在转换提示词时,会在每一条的结尾强制要求加上“电影质感,青蓝冷色调,35mm镜头感”。如果某一次偷懒漏掉,生成的画面就会切换到暖黄色调,跟相邻镜头拼接时特别突兀。
如果需要更严格的色调统一,建议在SeeDance 2.0里找到“风格预设”或者“统一滤镜”相关选项,把整个项目应用同一个预设。再把所有镜头的分辨率和帧率设置成一致。1080×1920配上30帧,不要一个镜头24帧一个镜头30帧,否则拼接时会卡顿。
4.3 镜头衔接时动作穿帮,明明描述都写了还是不顺
我这里说的“穿帮”指的不是画面闪一下,而是角色动作逻辑对不上。比如镜头2里骑手还在便利店门口站着,镜头3里他却已经走到屋檐下,中间缺少一个“走动”的过程。
原因很简单:你让每个镜头都有一个完整独立的信息,但没让镜头之间共享“结束状态”。所以我会在镜头的提示词末尾增加一个描述,例如“上一镜头结束时人物处于画面中心位置”,或者反过来,在开始视频下一镜头时把上一镜头的尾帧图作为首帧上传。
如果你用的是参考图功能,可以把上一段的最后一帧保存为图片,作为下一段的首图。这是最能解决动作断档的方法,胜过去改提示词。
4.4 AI生成时间太长,批量产出跟不上怎么办
短剧要量产,速度很重要。但你看渲染一道5秒镜头,运气好两分钟,运气不好排十分钟。批量产出时最容易出现资源浪费。
我的做法是分两轮走。第一轮把所有镜头用低分辨率和快速预览模式跑一遍,先把分镜节奏和动作逻辑确定下来。第二轮再挑出有问题的镜头,逐个用高分辨率重新生成。这样不会浪费高清渲染次数,也不会占用太多等待时间。
5. 我这段时间用下来最值钱的几条经验
5.1 先让Gemini“反问”一遍,再让它出剧本
很多人一上手就给Gemini直接说“帮我写短剧”,产出的内容非常平。后来我发现,只要让Gemini先向你提五个问题,比如“主角最在意什么”“冲突发生在哪里”“结局是喜是悲”,你回答之后再让它写,剧本质量完全不一样。
这个技巧本质上是在帮Gemini限定上下文。先回答问题的过程,等于你为它提供了有效约束,它写出来的分镜会更接近短剧逻辑,而不是AI味十足的流水账。
5.2 分镜提示词不要一次性整段粘贴
有些平台支持长文本直接生成,但我不会把五条提示词一口气全塞进去。批量输入会让模型抓不住重点,也会让错误在中间产生之后不好定位。一次只生成一个镜头,一个镜头出问题就只修一个镜头,省到的时间远远多于省掉的次数。
5.3 固定“角色信息模板”比优化单个提示词更重要
如果你只想做一条视频,随手写提示词也够用。但如果想做成系列,就必须严肃对待角色信息模板。
我的模板大概是这样的:
角色名:阿明 年龄:28 性别:男 发型:黑色短发,前额碎发 服装:亮黄色外卖工服,黑色雨靴 配饰:斜挎外卖箱 性格:疲惫但温柔 语气表达方式:说话简短,停顿较多这个模板同时给Gemini和SeeDance 2.0用,每次生成前先复制进去。模板的作用不是让AI学知识,而是让它别改设定。没有模板的AI短剧,生成三集之后角色就会变成另一个人。
5.4 把每次生成时的“种子值”和“负面词”记到项目管理表里
听起来很基础,但实操中特别容易忘。种子值不记录下来,下一次想用同一风格但换个动作时,就没法复现。负面词不记录,就会在一次生成里写得特别严厉,另一次生成里忘写,最后出来的效果差异极大。
我用一个简单的表格管理:
| 镜头编号 | 提示词版本 | 种子值 | 运动强度 | 负面词 | 结果 |
|---|---|---|---|---|---|
| 02 | v1 | 88231 | 中低 | 无多手指,无色块 | 可用 |
| 02 | v2 | 88231 | 中低 | 无多手指,无色块,无闪烁 | 更好 |
这些看起来繁琐,但等你回头要复现一个优质镜头时,有记录和没记录完全不同。
最后再分享一个小技巧。如果你发现自己每次都需要花很多时间在“修正角色一致”上,可以反过来利用Gemini去拆解角色特征,把每个镜头的参考图都重新描述一遍,找出哪个特征最稳定。我实测下来,“发型”和“服装颜色”是最影响观感的两个锚点,只要这两个稳定,观众基本不会太在意脸部的细微变化。做AI短剧不是跟模型较劲,最重要的是先建好约束,再让生成能力自由发挥。