大模型这阵风刮到营销广告领域，其实是早晚的事。货拉拉的广告业务和常规电商广告不太一样，它同时连接货运司机和货主两端，营销场景既要覆盖C端用户拉新，又要服务B端货主促活，还得配合一次次大促节点做集中爆发。这种多角色、多场景、高时效的复杂业务，天然适合大模型去处理那些过去靠堆人力、堆规则才能搞定的活。这篇文章我把整个应用实践的思路、技术选型、落地细节和踩坑记录整理出来，希望能给也在做类似探索的同行提供一份可以直接参考的样本。
1. 为什么在广告场景里上大模型：货拉拉的营销痛点与破局思路
1.1 营销广告场景的特殊之处
货拉拉的广告投放体系，虽然底层逻辑和主流广告平台一致，但业务形态决定了它会多出很多"另类"的需求。货运司机端的广告，要面向一个极其下沉且碎片化的用户群体；货主端的广告，则要围绕搬家、拉货、同城配送这类即时性需求做转化。这些广告物料既要能在App开屏、信息流里抓眼球，又要在地推物料、短信推送、社群运营里以不同形态出现。
过去我们做素材，靠的是设计师和文案一组一组地出。一个618大促，光开屏图就要十几版，信息流文案要覆盖不同货物品类、不同城市、不同用户标签的组合，人工产能根本追不上排期。再加上广告行业强监管，每一条物料都得过合规审核，错一个字、碰一个违禁词，整个计划就废了。这些压力堆在一起，倒逼团队去思考：能不能让大模型把素材生产链路重做一遍？
1.2 大模型真正解决的三个核心问题
第一个问题是生成效率。大模型介入之后，文案和图片素材的产出速度从"天"变成了"分钟"，而且能轻松做到同一套主题下几百个差异化变体。第二个问题是投放智能化的天花板。传统广告系统里的CTR/CVR预估、人群定向，本质上是机器学习模型在搞，但特征表达能力和跨场景泛化能力有限，大模型对用户意图和上下文的理解深度明显更强，可以直接参与出价和召回环节的优化。第三个问题是内容合规和审核成本。用大模型辅助预审，能极大降低人工审核的压力，把明显违规的物料先筛掉，让人只处理边界案例。
需要强调一点，我们不是冲着"炫技"去的。每一项能力上线之前都要过一遍ROI账：它到底省了多少人天、提升了多少转化率、压降了多少成本。大模型在营销广告里的价值，必须落回到业务数字上，否则再酷的技术也只是demo。
2. 模型底座选型与整体技术架构
2.1 开源模型与API模型的取舍
基础模型选型这件事，我们内部经历了三轮讨论。最开始倾向于直接调用头部云厂商的API，上手快、效果稳，但算完账之后就犹豫了：素材生成和文案改写这类场景，调用频率极高，长期看API费用是一笔不小的开销；而且广告物料涉及用户数据和业务策略，全部走外部API，数据合规和脱敏流程会很重。
最终我们选择了开源模型为主、商用API为辅的混合路线。文本生成类任务，主力用的是Qwen系列和GLM系列的中小尺寸模型，比如7B到14B这个区间，原因是这两个系列的中文语料质量在国内开源模型里属于第一梯队，广告文案这种中文语境很重的任务，他们的表现比同尺寸的海外模型稳定得多。多模态素材理解与生成则用开源社区的文生图模型配合自研的检测模型，不直接依赖闭源图像生成API，保证生成链路完全可控。
选择开源模型的另一个重要考量，是可以做深度的微调和定制。广告行业有大量特定表达习惯和品牌话术，通用模型即使提示词写得再精细，很多隐含规范还是学不到位。只有把模型拿在自己手里，用业务语料做微调，才能让生成结果真正贴合货拉拉的审美和语气。
2.2 架构分层与应用链路设计
整体技术架构分四层。底层是模型服务层，承载微调后的大模型推理服务，部分高频轻量任务直接部署量化版本，用vLLM做推理加速；中间是能力层，封装了文案生成、素材生成、合规预审、意图识别这些原子能力，以HTTP接口的形式提供给上层业务使用；再往上是平台层，对接货拉拉自有的广告投放系统、素材管理平台和审核工作台；最上层的业务场景层，则是真正面向运营、设计和投放优化师的操作端。
这里最关键的架构决策，是把大模型能力做成"插件化服务"而不是"独立平台"。广告投放系统的链路很长，从建计划、写物料、过审到出价，每一步都有现成的系统在跑。我们给大模型定的角色是"增强器"，嵌入到原有系统的关键节点里，而不是另起炉灶做一个封闭的新系统。这样做的直接好处是业务方上手成本极低，运营还是用原来的工作台，只是操作界面上多了一个"AI生成"按钮而已。
架构上还有一个细节：流式输出。文案生成接口全部采用SSE流式协议，因为大模型逐token生成的速度再快，完整生成一段文案也可能需要几秒钟，如果前端等全部生成完才展示，用户体验会非常差。流式输出配合前端AbortController，用户可以随时中断生成，既节省了算力成本，又保留了人工操作的主导性，体验上接近"看着AI打字"。
3. 高频落地场景拆解：文案、素材、投放、审核
3.1 广告文案生成与Prompt工程实践
文案生成是投入产出比最高的场景。过去信息流广告文案由专人负责，一个人一天能产出二十条已经算高效，但货拉拉业务覆盖搬家、拉货、同城配送多个品类，每个品类又分不同城市、不同用户群，一次大促动的就是几百上千条差异化文案的需求量。大模型接入后，文案产能不再是瓶颈，真正需要花精力的是质量把控。
Prompt工程在这一环节成了核心竞争力。我们沉淀了一套三层Prompt结构：第一层定义角色和任务边界，告诉模型它是货拉拉的广告文案专家，输出格式是一句话主标题加一句副标题；第二层注入业务规则，比如字数限制、禁用词清单、必须包含的关键信息（如"起步价""0抽成"这类活动利益点）；第三层输入参考信息，包括品类名称、城市、目标人群标签和竞品参考文案。
实测下来，影响文案质量的最大变量不是模型参数，而是示例的质量。我们在Prompt里给出的参考文案必须得是投放数据验证过的高转化文案，而不是随便找几条看着顺眼的。这个细节直接决定了生成结果的上限：给模型看平庸的示例，它只会生成平庸的内容；给模型看爆款文案，它才有机会产出真正能打的素材。
不过Prompt工程能解决的是通用性问题。对于反复出现的特定风格需求，比如货拉拉品牌方的"邻家大叔"语气、司机关怀类文案的"暖心"调性，我们最终还是靠小规模的LoRA微调才把效果稳定下来。微调数据和推理部署这两块，我在后面专门展开讲。
3.2 多模态素材生成与合规校验
素材生成是另一个重头戏，也是最容易踩坑的地方。信息流广告对图片的要求通常是一张背景干净、主体突出、有利益点文字叠加的大图。我们用开源文生图模型生成底图，再通过自有的渲染服务叠加上利益点文案和品牌标识。为什么要拆成两步？因为直接让模型生成带文字的图片，中文文字经常会出现乱码或者笔画畸形，这在广告场景里是不能接受的。
底图生成环节，我们用ControlNet做构图约束。比如货拉拉常见的"货车驶过城市街道"这类场景，需要先给定深度图或者边缘图，控制车辆的位置和整体构图，否则模型自由发挥出来的构图大概率不适合放文字。这一步的实践经验是：反面提示词的权重调整比正面提示词的堆砌更有效，把"错误文字、模糊、低分辨率、变形、多余肢体"这类的负面描述写足，图片质量会有立竿见影的提升。
合规校验是素材生产链路里不可省略的一环。广告物料如果出现"全网最低价""极限词""绝对化用语"，在主流媒体平台是过不了审的，严重的还会影响账户信誉。大模型在这个环节扮演的是"预审员"，对生成的素材做多维度扫描：OCR识别图上文字、检测品牌标识是否变形、评估画面是否存在侵权风险。这个预审模型可以拦截掉九成以上的基础违规问题，剩下的边界案例才转给人审。上线运营三个月后，素材整体通过率提升了将近一倍，审核团队的返工压力显著下降。
3.3 定向投放与智能出价的模型化改造
有了大模型之后，广告定向和出价环节也做了升级。传统的定向逻辑依赖规则划分人群，比如地域定向、年龄定向、消费能力定向，但这种划分很粗粒度，同一类人群内部的转化意愿差异其实非常大。我们尝试用大模型在召回阶段做用户意图改写：把用户的近期行为序列，比如搜索过"搬家""小货车拉货"、点击过某些货运优惠活动，整理成自然语言描述，再通过语义相似度计算匹配最优的广告素材池。
这一步的本质，是把大模型当成一个"语义标签引擎"。过去用户标签是离散的、人工维护的，现在变成了连续的语义向量，覆盖面广，而且能捕捉到长尾需求。举个例子，一个用户可能从没直接搜索过"搬钢琴"，但如果他最近搜过"家具拆装"和"同城运输"，语义向量会和搬家类广告素材产生很高的相似度，系统就会把这个用户纳入潜在转化人群。这个做法实测让新客的点击率提升了十几个百分点。
出价策略层面，我们做了基于大模型预估的智能化探索。传统出价是PID调控或者单点预估模型出价，这里用大模型的注意力机制去理解上下文信息——比如当前城市是否处于货运旺季、同类广告主的竞争激烈程度、用户历史转化周期——把这些信息融合进出价因子，让系统在预算约束内更聪明地分配曝光。这部分暂时还不能完全替代传统出价模型，但作为增量修正信号，已经让投放整体的ROI提升了。
4. 微调、部署与推理加速的实战记录
4.1 数据准备与LoRA微调实操
大模型在营销广告场景的落地过程中，微调是绕不开的一步。Prompt工程解决了七八成需求，但剩下的两成恰恰是最影响业务体验的部分。微调的核心目的不是让模型学会新知识，而是学会业务侧的表达风格和边界感。
数据处理是微调里最耗时也最关键的一环。我们整理了货拉拉过去两年投放数据表现较好的文案和素材描述，筛选标准是点击率高于均值一定阈值的物料，再经过人工复核去重、清洗、统一格式，最终沉淀出训练集。数据量没有想象中那么大，我们实际用了约两万条高质量样本做文本微调，图像生成侧则用了几千组构图描述与成图的配对数据。
LoRA是我们采用的微调方式，参数高效且训练成本可控。训练细节上几个参数供参考：LoRA维数设置为16，缩放参数设置为32，学习率从3e-4开始衰减，训练轮数控制在3到5轮之间。这里特别提醒一句，训练轮数宁少勿多，跑多了模型会出现"复读机效应"，生成的文案高度雷同，反而破坏了多样性。
微调完成后必须做回归测试，这是很多团队容易忽略的环节。大模型微调有一个经典风险叫灾难性遗忘，模型学会了业务文案风格，但可能忘了通用的语言能力和常识。我们的做法是维护一个通用能力评测集，包含基础的指令遵循、语言通顺度、常识问答等维度，每次微调后都必须保证通用能力不掉点，否则就需要调整数据和训练参数。
4.2 vLLM部署与量化加速细节
服务部署环节，我们选用了vLLM作为主力推理框架。原因是它的PagedAttention机制对显存的利用效率高，能在同样硬件条件下支持更大的并发量。实测下来，用两张A100显卡部署一个7B参数的微调模型，vLLM的并发吞吐量相比原生Transformers推理提升了一个数量级，单次请求的响应时间稳定在几百毫秒级别，完全能满足广告业务对实时性的要求。
量化是控制成本的重要手段。我们对部分面向内部运营的低频场景，直接部署4bit量化的AWQ版本模型，硬件需求从双卡降到单卡，而生成质量的损失在可接受范围内。但对外部投放场景的实时接口，我们还是保留FP16精度，避免量化带来的细微质量波动被广告主的挑剔眼光放大。
部署架构上有一个容易被忽视的点：模型服务的弹性伸缩。广告业务的流量有明显的波峰波谷，大促期间素材生成请求会暴增，平时则相对平缓。我们用Kubernetes管理模型服务实例，配置了基于请求队列长度的HPA自动伸缩策略，同时把高频请求的响应结果做了缓存。同一段Prompt和参数的组合，在五分钟内重复请求的概率不低，命中缓存直接返回，这部分优化让整体算力成本下降了约三成。
4.3 SSE流式输出与前端交互设计
前面提到流式输出，在实现层面有几个细节要展开。SSE（Server-Sent Events）和WebSocket相比，好处是它走的是标准HTTP协议，不需要额外的连接维护复杂度，对广告工作台这种网页前端非常友好。服务端按token逐个推送生成结果，前端通过EventSource接口监听数据流，用户看到的是逐字浮现的生成效果，等待焦虑感大幅下降。配合AbortController，用户如果觉得生成方向不对，可以随时掐断，不用傻等整段生成完。
这里有个工程细节想让做应用层的朋友注意：大模型接口偶尔会出现超时或断流，前端必须做好异常重试和降级策略。我们在请求层做了两次自动重试的机制，如果第二次仍然失败，就自动切换到备用的小模型接口返回较基础的文案，确保运营同学的工作流不被中断。AI生成能力可以弱，但不能让业务链路断掉，这是接入大模型时务必记住的原则。
流式输出也会带来审核链路的调整。过去素材生成是一次性返回，审完了再入库；现在生成过程实时可见，审核逻辑建议做成"过程可干预"，用户可以在流式输出过程中直接点击"停止并采用前半段"，这就把大模型的生成过程变成了半自动的人机协作流程。这一步改进，让运营同学对AI素材的信任度提升非常明显。
5. 评测体系搭建与迭代机制
5.1 离线评测：既要跑分，也要人工
搭建评测体系是掌控大模型应用质量的第一步，光看业务效果指标远远不够，我们需要一套能在每次迭代时快速判断模型好坏的离线评估方案。
离线评测分两个维度。客观指标层面，我们会对比生成文案与高转化参考文案的语义相似度，同时计算BLEU和文本多样性得分，前者衡量内容质量，后者确保不会生成千篇一律的结果。图片生成侧则计算CLIP Score来评估图文匹配度。这些分数能快速筛出明显劣化的模型版本。主观评估层面，我们组建了一个由投放优化师和文案组成的评估小组，每周抽取一批新增量素材进行盲评打分，维度包括吸引力、转化引导力、品牌一致性、合规风险。
盲评这个机制特别值得推荐。一开始我们让写文案的人去评AI生成的文案，结果他们天然带着抵触情绪，评分普遍偏低。后来改成盲评，不标注哪条是AI生成、哪条是人工出品，评分结果一下子客观了很多。经过几轮迭代，AI文案在盲评中的平均分已经能追平甚至小幅超过人工文案的均值。这一步不仅验证了模型效果，也间接化解了团队内外对"AI取代人工"的焦虑——AI没有取代谁，它只是把团队产能放大了一个量级。
5.2 线上指标与监控预警
离线评测做了保证下限，线上指标才是衡量真实价值的标准。我们重点盯的指标包括：素材采纳率（运营直接采用AI素材的比例）、投放点击率、转化率、素材通过率以及单素材生产成本。其中素材采纳率是最敏感的先行指标，一旦这个数字出现明显下滑，多半是生成质量出了问题，需要回查模型版本或Prompt配置。
线上监控的粒度要做到模型输入输出的全链路可追溯。每一次AI生成请求的Prompt、模型参数、生成结果、耗时、采纳结果都要完整记录，形成数据闭环。这样做不只是为了排查问题，更是为下一轮迭代积累训练数据——被大量采纳的生成结果，会被回收进训练集；而被反复拒绝的生成结果，会被拆解原因，变成负面样本。数据闭环搭建起来之后，模型迭代就不再靠感觉，而是每次都有明确的数据支撑。
预警机制方面，我们设置了响应时间、失败率、内容重复率三个核心告警项。特别是内容重复率这个指标，在广告场景里极其容易出问题。如果一个账号下批量产出的文案高度雷同，媒体平台会判定为低质量内容限制投放。我们的系统现在会自动计算当日生成物料的文本相似度分布，一旦重复率超过预警线，就会触发混合生成策略，主动注入多样性Prompt。这个机制上线后，彻底解决了同质化素材被限流的问题。
6. 踩过的坑与后续演进方向
6.1 那些只有上线后才会暴露的问题
第一个坑是幻觉问题在广告场景里的风险被严重低估。测试环境里模型偶尔胡说八道，大家觉得无伤大雅，但广告物料一旦上线，哪怕只有一条素材写了"免费拉货""百分百中奖"这类虚构利益点，都会引来客诉甚至是监管层面的麻烦。我们的解法是双保险：生成侧在Prompt里加强约束，要求模型遇到不确定的价格和活动信息时使用占位符；审核侧加了一个大模型事实核查模块，把素材中的数字和承诺性表述提取出来，与活动配置库逐一比对，不一致的直接拦截。
第二个坑是过度依赖大模型而忽视了原有规则引擎的价值。接入初期，我们把大量合规审核逻辑交给大模型判断，结果发现模型的判断标准不稳定，同一句话换个说法就可能给出不同的审核结论。后来重新梳理了规则边界：明确、可枚举的硬性违规词走传统规则引擎，需要语义理解的模糊判断才交给大模型。两边分工明确之后，审核的稳定性显著提升。
第三个坑是成本核算的口径问题。只看单次生成的API调用费用，会觉得大模型方案便宜得惊人。如果把微调训练、推理集群的折旧、人工审核兜底和失败重试的成本全算上，整体的投入产出比并没有那么夸张。提醒所有准备入场的团队，做大模型成本评估时一定要算总账，包括团队人力成本，否则做到一半发现预算撑不住，调整方向是非常痛苦的。
6.2 往后我们准备怎么走
当前这套架构解决了单点能力替代的问题，下一步的方向是往工作流智能体走。我们已经开始在内部测试一个"广告投放助手"的原型：运营在对话界面里描述需求，说"给上海地区的搬家用户生成一批开工季文案，主打价格优势，附上三张配图"，智能体会自动拆解任务、调用文案生成服务、触发配图生产、流转审核、最后回到工作台里待运营确认。整体流程从过去的大约一天压缩到十分钟以内。
另一个主要方向是把多模态能力做得更深。现在素材生成还是底图和文字分离的流程，下一步想尝试端到端的图文生成模型，让模型直接产出排版完整、风格统一的成套素材。这需要积累更多的图文配对数据和更长的研发周期，但一旦跑通，素材生产的效率还会有一次质的飞跃。
还有一个方向是数据闭环的自动化程度。目前负样本回流还依赖人工抽检，接下来需要引入更智能的效果归因模型，自动识别素材转化效果与生成内容之间的关联，把低质量生成的模式抽象成可复用的规则，反哺到Prompt配置和微调数据筛选里。这一步做扎实了，整个系统的自进化能力会更强。
客观说，大模型在货拉拉营销广告场景的落地，距离完全成熟还有相当的距离。但回头看这大半年的实践，最深的体会有两点。一是大模型落地业务，核心工程问题永远是"怎么稳定可控地用它"，而不是"怎么把模型训得更大"，业务稳定性和工程质量的重要性远超模型参数本身。二是任何AI能力都要经历从Demo到生产环境的惊险一跃，这一跃能不能成功，靠的不是炫酷的效果展示，而是数据闭环、成本控制和兜底设计这些不起眼的细节。希望这套实践路径能给你一些可复用的思路，少走几个我们走过的弯路。
