写作赛道新晋顶流:Hemmingway-1 带着 26 万 token 上下文杀入 HF 前 10
【免费下载链接】Hemmingway-1项目地址: https://ai.gitcode.com/hf_mirrors/Altworld/Hemmingway-1
问大多数大模型"给房东发一条关于锅炉坏了的消息",你会得到三个选项、一段前言和一段解释选项的文字;而 Hemmingway-1 直接给你那条能复制的消息。这是它最核心的产品主张,也是它能在 Hugging Face 文本生成榜单冲进前 10(社区情报显示位列第 9)的直接原因:一个 27B 参数的开源模型,带着 262,144 token(约 26 万)的超长上下文,在 CommunicationBench 与 Human-Likeness 两项写作盲测中双双登顶,并在第三方情商基准 EQ-Bench 4 打进前三。本文基于仓库源码与评测图表,拆解它凭什么用 27B 打赢千亿级对手,以及它距离"生产工具"还有多远。
出道成绩速写:27B、26 万 token、榜单第 9
先看仓库里能直接核实的硬指标。在 model.safetensors.index.json 的元数据中,total_parameters为 26,895,998,464,即约 26.9B 参数,权重以 12 个 safetensors 分片组织,另有独立的 model-mtp.safetensors 承载推测解码模块,总量约 53.8GB。config.json 中max_position_embeddings为 262144,tokenizer 侧的model_max_length同样为 262144,上下文规格与宣传口径完全一致。基座来自 Qwen3.8-27B(README.md frontmatter 的base_model字段),由瑞士 Bülach 的 The Commons Lab(对外发布账号 Altworld)完成写作向的二次训练与对齐。
榜单数字之外,更值得注意的是其评测配置:generation_config.json 采用do_sample: true、temperature: 1.0、top_p: 0.95、top_k: 20的采样参数——这是刻意保留文本多样性与语气自然度的信号,而不是追求确定性的 greedy 解码。一个以"人味"为卖点的写作模型,在解码策略层面就已经和"求稳"的通用模型分了路。
27B 凭什么打赢千亿级对手
README.md 披露了完整的盲测方法论:80 个真实写作请求,每个回答与另一模型的回答一对一比拼,顺序打乱、评委模型与被评模型彼此独立,且每轮正反双向各跑一次以排除位置偏差。在这一前提下,CommunicationBench 的结论是:它击败了 Fable 5.1,并且领先 GPT-6 Astra 50 分;Kimi K3、GLM-5.3、Grok 4.6、DeepSeek V4 Pro 全部排在它身后。社区传播中"1026 分居首"的说法,对应正是这张图。
更难的考验是"类人感"。把同一组对比问题换成"这两条回复哪个是人写的",Human-Likeness 的结果是它领先第二名整整 26 分。注意这 26 分不是风格模仿得分,而是"被人类评委误认为人写"的胜率差,衡量的是文本节奏、冗余度和语气的综合自然度。
分场景拆解更能看出它的能力边界。在 Where Hemmingway wins 这张热力图中,它在金钱与行政事务、工作沟通、反复斟酌的"难开口请求"、说服他人等场景上大幅领先;在最硬核的"难开口请求"场景里,GPT-6 Astra 仅获得 9% 的"更像人写"票数,Hemmingway-1 拿到 72%。但它也坦承失败场景:敌意叙事(hostile storytelling)和长故事接龙,故事向模型明显更强——这份"输在哪"的诚实声明,反而比榜单排名更能说明它的定位。
架构核心:3:1 混合注意力才是 26 万 token 的关键
长上下文在纯全注意力架构里意味着 KV 缓存与计算量随序列长度平方级膨胀,26 万 token 对 27B 模型几乎是不可承受之重。Hemmingway-1 的解法写死在 config.json 里:layer_types数组中,线性注意力层与全注意力层按 3:1 的比例交错排布,full_attention_interval为 4,64 层中只有 16 层保留完整 attention。
这些"linear_attention"层携带的权重足以暴露其技术血缘:A_log、dt_bias、conv1d.weight是典型的状态空间模型(SSM/Mamba 系)参数,线性层配置为 16 个 key head、48 个 value head、linear_conv_kernel_dim: 4,SSM 部分显式以mamba_ssm_dtype: float32计算以保证数值稳定。与此同时,全注意力层采用 GQA 结构(24 个注意力头、4 个 KV 头),并在 RoPE 上使用rope_theta: 1e7与partial_rotary_factor: 0.25的长序列外推设置。这套"线性注意力管长期依赖、稀疏全注意力管精确召回"的组合,正是它在保持类人语气的同时吃下 262K 上下文的工程答案。
值得单独说的是 model-mtp.safetensors:一个独立的 MTP(Multi-Token Prediction)推测解码模块,mtp_num_hidden_layers: 1,与主模型共享 embedding(mtp_use_dedicated_embeddings: false)。MTP 的意义不在质量而在吞吐——让模型一次多预测几个 token,配合 vLLM 的投机采样可显著提升解码速度。对"消息/邮件"这类短输出、高频次的生产场景,延迟就是体验本身。
输出哲学:给你正文,而不是备忘录
评测图表里有一张最容易被低估:The message, not a memo 统计的是"模型在多大比例的回答里把真正的正文埋在评论、选项和说明之后"。结果是 Fable 5、GLM-5.3 和 Kimi K3 有超过九成的回复需要用户"翻过前奏"才能看到正文,而 Hemmingway-1 的输出直接就是可发送的文本。这正是它 Human-Likeness 领先的另一种量化表达——人的日常写作没有"选项一选项二"的格式包袱。
chat_template.jinja 则把这种"通信优化"做到了模板层面。它内置三档思考模式(xhigh为默认,另有medium、low),low档会注入"保持思考简短、直奔结论"的指令;工具调用采用 XML 风格声明(<tool_call><function=...><parameter=...>);最值得注意的是两处面向长对话的工程细节:其一是多步工具调用场景下,模板会倒序扫描消息列表,定位真正的用户提问(ns.last_query_index),避免模型在工具结果堆里丢失任务主线;其二是preserve_thinking逻辑——仅保留最近一次用户提问之后的思考块,对更早的历史思考进行智能裁剪,既维持推理连续性又控制 token 开销。一个 27B 模型要把 26 万上下文用在刀刃上,正是靠这类模板层的"省 token 设计"。
部署与许可:从"能跑"到"敢用"的现实门槛
部署层面,README.md 给出了两条官方路径。vLLM 一行启动:
vllm serve Altworld/Hemmingway-1 --max-model-len 262144Transformers 本地推理则通过apply_chat_template走标准 Chat 协议:
from transformers import AutoModelForCausalLM, AutoTokenizer model_id = "Altworld/Hemmingway-1" tok = AutoTokenizer.from_pretrained(model_id) model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto", dtype="auto") messages = [{"role": "user", "content": "Write the text I send my landlord about the broken boiler."}] ids = tok.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device) out = model.generate(ids, max_new_tokens=512) print(tok.decode(out[0][ids.shape[-1]:], skip_special_tokens=True))混合注意力对 KV 缓存的压缩加上 MTP 推测解码,使得单卡 A100/H100(80G)即可承载完整推理——这在国内社区的多篇部署教程中也被反复验证。但"能跑"不等于"敢用",这里有一个必须厘清的事实核查点:部分社区文章标注 Hemmingway-1 采用 "Apache-2.0 协议",与仓库实际许可不符。LICENSE 与 README.md 明确声明为CC BY-NC 4.0——个人、研究与任何非商业用途免费(可下载、运行、微调、再分发),但任何商业用途(包括在付费产品中提供服务)都需要与版权方另行签署书面协议。对想把模型接进 SaaS 产品的团队来说,这几乎是唯一的硬性拦路虎;而对个人与研究者,则没有实质障碍。
榜单网红还是生产工具:三句话判断
第一,榜单含金量经得起拆解。CommunicationBench、Human-Likeness、StoryBench 均为官方自建基准,README.md 的 "The fine print" 对此做了完整披露(盲测、双向排序、评委模型独立),这在开源生态中算难得的透明;而 EQ-Bench 4 是第三方公开基准,它拿到第三、距榜首仅 12 分,为"自卖自夸"提供了外部交叉验证。
第二,它是"窄而深"的模型而非全能选手。赢在职场沟通、金钱行政、难开口请求,输在敌意叙事与长故事创作——它的正确用法是把人从"写消息"的琐碎劳动中解放出来,而不是替代创作型写作。场景边界清晰,恰好是生产工具的特征,而非缺陷。
第三,生产化路径取决于许可与生态。技术上,单卡可跑、vLLM 原生支持、模板内置多步工具调用,已经具备接入 Agent 工作流与批量消息生成的工程条件;商业上,CC BY-NC 4.0 意味着"个人生产力工具"路线畅通,而"商业产品底座"路线需要厂商沟通。客观地说,Hemmingway-1 的 26 万 token 与其说用于吞吐长文档,不如说为 Agent 多轮上下文和整批消息改写预留了冗余——这恰恰是它从"榜单网红"走向"日常生产力工具"时最被低估的设计前瞻性。
【免费下载链接】Hemmingway-1项目地址: https://ai.gitcode.com/hf_mirrors/Altworld/Hemmingway-1
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考