news 2026/6/18 17:46:42

【大家的项目】lele: Rust 把 ONNX 模型编译成机器码的 AI 框架

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
【大家的项目】lele: Rust 把 ONNX 模型编译成机器码的 AI 框架

向大家介绍一个我正在开发的纯 Rust、零依赖、裸机级音频 AI 推理框架 —— lele。

代码开源在 https://github.com/miuda-ai/lele 求Star

反正我是受够了ORT(OnnxRuntime)跨平台编译简直无语了,反正onnx也是静态的,干脆一步到底:

lele 选择了一条不同的路:AOT(Ahead-Of-Time)编译。

它不依赖任何重量级运行时,而是直接解析 ONNX 计算图,将其编译为高度优化的纯 Rust 源代码。它专为语音交互场景(ASR, TTS, VAD)设计,追求极致的启动速度和运行时性能。

核心特性:

  • 🚀 Zero Runtime Dependencies:生成的模型就是纯 Rust 代码,无 libtorch、无 onnxruntime,甚至不需要 std (未来规划)。

  • ⚡ 硬核 SIMD 优化:针对 Apple Silicon (NEON) 和 x86_64 (AVX/SSE) 手写汇编级内联优化的算子,拒绝通用库的性能损耗。

  • 🧠 极致内存控制:静态内存分配与零拷贝权重加载,彻底消除运行时的 GC 和不可预测的内存抖动。

  • 🎙️ 专注音频领域:内置 FFT、Mel-Spectrogram、CMVN 等音频特征提取管线,开箱即用。

目前支持模型:

  • SenseVoiceSmall:高精度多语言语音识别

  • Silero VAD:工业级语音活动检测

  • Supertonic:快速高质量语音合成

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/5/29 14:18:58

Pytest自动化测试框架之Allure报告

🍅 点击文末小卡片,免费获取软件测试全套资料,资料在手,涨薪更快 简介 Allure Framework是一种灵活的、轻量级、多语言测试报告工具。 不仅可以以简洁的网络报告形式非常简洁地显示已测试的内容, 而且还允许参与开…

作者头像 李华
网站建设 2026/6/7 11:10:06

Unity3D 八大菜系连连看

基于 Unity3D 引擎开发“八大菜系连连看”小游戏。玩家通过鼠标或触控拖动菜谱图片,靠近对应菜系时自动吸附并显示虚线提示。游戏限时 30 秒,全部完成或时间结束即判定结束。结束后进行评分,标注正确、错误及未吸附菜谱,并支持重新…

作者头像 李华
网站建设 2026/6/10 10:31:22

入门网络安全必看十大书籍,看完至少走五年弯路!

前言 对于初学者来说,了解网络安全的入门知识是非常重要的。以下是我推荐的10本入门网络安全必看的书籍 1.《黑客攻防技术宝典》 作者:余洪涛,出版社:清华大学出版社 这本书是网络安全初学者入门的好选择。书中讲解了黑客攻击…

作者头像 李华
网站建设 2026/6/15 1:48:51

同城汽修新选择:Java改装系统源码剖析

以下是对基于Java的同城汽车改装维修系统源码的深度剖析,涵盖技术架构、核心功能、关键代码及行业优势: 一、技术架构:高可用与跨平台的核心支撑 微服务架构:系统采用Spring Boot Spring Cloud框架,将用户管理、订单…

作者头像 李华
网站建设 2026/6/15 15:28:45

基于计算机视觉的答题卡识别及判分系统

项目简介基于计算机视觉的答题卡识别及判分系统实现了以下功能:采用Python开发语言、实现简单答题卡识别系统,其基本功能包括: 1,对答题卡进行图像处理; 2,识别答题卡的选择题选项; 3&#xff0…

作者头像 李华