TypeSafe AI 刚官宣 4000 万美元融资,"不会写代码"的 Jev 背后,是 RLCD 1B 复刻路线的全面走红
【免费下载链接】Qwen-2.5-1B-RLCD项目地址: https://ai.gitcode.com/hf_mirrors/harshatheg/Qwen-2.5-1B-RLCD
2026 年的 AI 融资市场上,一笔 4000 万美元的 A 轮显得格外扎眼——不是因为金额,而是因为它投给了一个"不会写代码、不会写文章、甚至不会正常聊天"的模型。由 OpenAI 前研究员(坊间称为"RLHF 之父")创立的 TypeSafe AI 在 9 月推出 System One 模型 Jev,把"概率化判断"从大模型的生成能力里彻底剥离出来,做成了一根可以嵌入任意工作流的毫秒级"智能 if 语句"。紧接着,开源社区在数周内涌现出 JevLite、Laya、Nimble、Clef 等一批复刻与对标项目,而其中最成体系的一条技术路线,是RLCD 1B 复刻——用 Qwen 系 1B 级小模型 + 并行约束解码,把 Jev 的"不做生成、只做校准决策"哲学搬进本地推理引擎。这篇文章结合社区一手情报与源码级拆解,还原这条路线为何在同一时间被资本与工程社区同时选中。
4000 万美元融资事实与 Jev 的产品定位
先对齐几个可核实的事实。TypeSafe AI 推出的 Jev 是一款"System One Model":它放弃了自回归生成能力,专精于多选项概率化判断,端到端响应仅 70–500 毫秒,官方对比口径下速度提升达 193.6 倍、输入成本低至每百万 Token 0.042 美元,且输出 Token 永久免费。社区对它的评价高度一致:这不是又一个"更快的 LLM",而是对"大模型一统天下"的一次主动拆解——AI 系统被重新切分成 System 1(快速、可靠、可校准的判断层)与 System 2(慢速、深度的推理层),Jev 占据前者,与 GPT 类推理模型协同,充当"置信度闸门"式的编排角色。
"不会写代码"恰恰是它的卖点。Jev 的输出不是文本,而是带校准概率的结构化决策——例如"这笔交易是否欺诈,概率 0.994";它不做开放式生成,只做有界判断。这一设计的底层依赖一个关键训练范式:RLCD(Reinforcement Learning for Calibrated Decisions,校准决策强化学习)。与传统 RLHF 对齐"人类偏好文本"不同,RLCD 对齐的是"概率的可信度"——让模型输出的置信度在统计意义上接近真实频率,从而让"0.97 就是 0.97"成为可审计的事实,而非不可信的自我标榜。
RLCD 训练范式如何传导到 1B 开源复刻
Jev 是闭源 API,但 RLCD 的工程内核并不玄学:把决策从生成中剥离,对候选集打分,并用校准过的 Softmax 输出概率。这个内核在 1B 级开源模型上被完整复现了——本地仓库 Qwen-2.5-1B-RLCD 就是这条路线的代表性实现。
以 核心引擎 为例,它默认加载mlx-community/Qwen2.5-1.5B-Instruct-4bit(Qwen2.5 系列 1B/1.5B 级小模型),在 Apple Silicon 上实现了完整度极高的 RLCD 决策管线,与 Jev 的"非自回归打分"在思路上同构:
- 单次广播 Prefill:上下文与压缩后的 schema 语义目录一次性写入 KV-Cache(见 run_parallel_generation 的
base_arr处理),全程只做一次前缀前向; - KV-Cache 广播:将 KV-Cache 沿 batch 维复制 M 份,让 M 个字段共享同一份上下文状态,
mx.repeat(c.keys, M, axis=0)一行完成并行化; - 子词表 Logit 切片:每个字段只取候选 token ID 对应的 logit,其余词表全部掩蔽——这正是 Jev 式"有界决策"的推理层实现。候选 token 的预索引逻辑封装在 schema.py 的
compile_candidate_tokens中,boolean 字段会同时收录true/True/TRUE/yes等变体,枚举字段则对每个选项做前缀公共串消歧; - 温度缩放校准 Softmax:对候选切片计算精确归一化概率
P(c_i) = exp(z_i / T) / Σ exp(z_j / T),并在返回结构中同时给出每个字段的confidence与完整top_choices分布(见 extract_calibrated_probabilities),对应 Jev 对外输出的"多选项概率分布"; - 程序化组装:因为取值从合法候选集中程序化拼装而来,输出 JSON 的语法合法性为 100%,不再需要 grammar-based decoding 与重试后处理——社区情报中"端侧 JSON 抽取从 1669ms 压到 295ms"的实测,正是这一链路精简的直接结果。
仓库还通过 core/engine.py 做了后端双路自动路由:Apple Silicon 上用 MLX,Linux/Docker/Hugging Face Spaces 上自动回退 PyTorch/CUDA,使这套 RLCD 复刻既能在 M4 系芯片上以统一内存跑出 4bit 量化下约 1.1GB 的驻留占用,也能塞进云端的 ZeroGPU 容器。MODEL_CARD.md 给出的实测数据非常硬核:金融风控路由 4 字段从 420ms 压到 75ms(5.6x),企业工单分派 28 字段从 1900ms 压到 270ms(7.0x),255 选项高基数关税分类从 500ms 压到 89ms。
这套引擎不是玩具演示,presets 目录里沉淀了四个可复用的生产级场景:fintech_fraud.json 是 28 字段的反欺诈与 AML 合规判断(含 OFAC 制裁筛查、SAR 申报、账户冻结决策),support_triage.json 是企业级工单分流(28 字段),code_security.json 是 CI/CD 漏洞门禁,而 high_cardinality_255.json 专门验证了"1 字段 255 个候选"的高基数分类不随选项数增长而劣化。配合 server/app.py 提供的/api/run-parallel、/api/run-rlcd、/api/stream-naive(SSE 流式)与/api/compare双跑对比端点,以及 web/index.html 的并行 vs 自回归侧边对照可视化,开发者拿到手就是一个完整的 Jev 式决策服务雏形。
资本热捧与社区复刻为何在同一时间共振
把融资新闻和开源动态放在同一时间轴上看,会发现这不是巧合,而是一次系统性共识的落地。TypeSafe AI 拿到 4000 万美元的时间点,恰逢开源侧出现密集的"Jev 平替"发布潮:Jev 发布 3 天后,基于 ModernBERT-large 的 Laya 就以单次前向 32.8ms(比 Jev 快约 8 倍)的姿态登场,Apache 2.0 全权重开放;JevLite 用 Qwen3-4B + LoRA 做到了单次决策 64.5ms、AUROC 0.974、ECE 0.052 的校准水平;Nimble 基于 Qwen3.5-9B 微调,判断准确率达到 90.12%。更值得关注的是 Cloudflare 在 10 月初跟进发布的 Clef——基于冻结的 Qwen 骨干、采用非自回归打分与面向校准的强化学习(RLCD)训练,推理仅 2.2 秒,API 直接兼容 Jev,权重以 Apache 2.0 开放。一家云基础设施巨头为"不生成文本的决策模型"单独立项,等于从产业端为这条路线盖了章。
社区对 8 个开源 Jev 复刻的系统核查(覆盖 SemIf、Simple Jev、Laya、Von、Verdict、Kev、Nimble、OpenJev 等)给出的结论也印证了共振的必然性:在结构化决策接口层面,开源方案已经高度复现了 Jev 的形态;真正的差距集中在三处——RLCD 式概率校准(ECE/Brier 水平)、高基数选项泛化、以及跨任务基准的统一。换言之,资本在为"System 1 判断层"的稀缺性买单,而开源社区在做的,正是把这条能力曲线从"专有 API"拉到"1B 本地可跑"。当端侧推理在 Apple Silicon 上做到 70ms 级延迟、255 选项分类不劣化、字段级置信度可审计时,"Jev 式 AI"就不再是独角兽的专利,而是任何工程团队都能在pip install后立刻接入的基建能力。
这或许是这轮共振最深刻的信号:当所有人都挤在"更大的生成模型"这条赛道上时,TypeSafe AI 与这些 1B 复刻项目同时证明了另一件事——AI 的价值不止于"会写",更在于"判断得准、判断得快、判断得可解释"。快慢思考解耦的架构正在从论文走向生产,而这一次,1B 小模型站在了范式转移的前排。
【免费下载链接】Qwen-2.5-1B-RLCD项目地址: https://ai.gitcode.com/hf_mirrors/harshatheg/Qwen-2.5-1B-RLCD
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考