【免费下载链接】Qwopus3.8-27B-Flash-mxfp4-MLX
想在本地搭建一套多模态工作流,却不想把数据上传到云端?Qwopus3.8-27B-Flash-mxfp4-MLX 是一个已转换为 MLX 格式的多模态视觉大模型,原生支持图像描述与文档解析,配合其工具调用能力,可以在你自己的电脑上打造一个开箱即用的多模态智能体。它采用 mxfp4 4-bit 量化,27B 规模的能力、十几 GB 的体积,让"本地跑视觉模型"第一次变得如此轻快。
模型亮点速览:为什么选它?
先给结论,这张表告诉你它强在哪里:
| 特性 | 说明 |
|---|---|
| 参数规模 | 27B(64 层混合注意力架构) |
| 量化方式 | mxfp4(4-bit,group size 32),体积大幅压缩 |
| 上下文长度 | 最长 262,144 token,轻松吃下超长文档 |
| 模态支持 | 图像 + 视频 + 文本 → 文本(image-text-to-text) |
| 智能体能力 | 内置工具调用 / function calling 与推理(reasoning)模板 |
| 多语言 | 中、英、西、俄、日 |
| 授权 | Apache-2.0,可放心用于个人与商业场景 |
🚀 它的架构采用"线性注意力 + 全注意力"混合设计(每 4 层中仅 1 层为 full attention),推理开销远低于同规模模型,这正是命名中 "Flash" 的由来;同时带有 MTP 层,支持投机解码进一步提速。
仓库文件清单:里面都有什么?
这个仓库是一个标准的模型权重仓库,文件各司其职,下载前可以先心里有数:
| 文件 | 作用 |
|---|---|
| model-00001-of-00003.safetensors、model-00002-of-00003.safetensors、model-00003-of-00003.safetensors | 三片模型权重(含视觉塔与语言模型) |
| model.safetensors.index.json | 权重分片索引,标注每个张量在哪一片、总参数规模(约 15.2 GB) |
| config.json | 模型结构配置:mxfp4 量化参数、注意力类型、视觉塔结构等 |
| generation_config.json | 默认生成参数:temperature1.0、top_k20、top_p0.95 |
| processor_config.json | 图像/视频处理器配置(Qwen3VLProcessor,支持图像与视频输入) |
| chat_template.jinja | 对话模板,内置工具调用(` |
【免费下载链接】Qwopus3.8-27B-Flash-mxfp4-MLX
相关推荐
mlx-vlm 实战:Qwopus3.8-27B-Flash-mxfp4-MLX 图片识别与文生文推理完整配置指南
mlx vlm 实战:Qwopus3.8 27B Flash mxfp4 MLX 图片识别与文生文推理完整配置指南 📦 Qwopus3.8 27B Flash
27B多模态AI在Mac本地也能跑:Qwopus3.8-27B-Flash-V2-4bit 完整入门指南
27B多模态AI在Mac本地也能跑:Qwopus3.8 27B Flash V2 4bit 完整入门指南 Qwopus3.8 27B Flash V2 4bit
人工智能大模型本地部署多模态模型量化代码模型计算机视觉HAMi 项目开发者指南:异构 AI 加速器虚拟化的三大核心组件、构建命令与代码规范深度解析
HAMi 项目开发者指南:异构 AI 加速器虚拟化的三大核心组件、构建命令与代码规范深度解析 本文是一份面向开发者的 HAMi(Heterogeneous AI
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考