news 2026/10/13 14:10:10

yolo姿态估计的板端算力占用评估

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
yolo姿态估计的板端算力占用评估

一、前言

本文仅供参考,未做实验验证。

二、yolo26s-pose需要多少算力

https://docs.ultralytics.com/tasks/pose/#models

Modelsize
(pixels)
mAPpose
50-95(e2e)
mAPpose
50(e2e)
Speed
CPU ONNX
(ms)
Speed
T4 TensorRT10
(ms)
params
(M)
FLOPs
(B)
YOLO26n-pose64057.283.340.3 ± 0.51.8 ± 0.02.97.5
YOLO26s-pose64063.086.685.3 ± 0.92.7 ± 0.010.423.9
YOLO26m-pose64068.889.6218.0 ± 1.55.0 ± 0.121.573.1
YOLO26l-pose64070.490.5275.4 ± 2.46.5 ± 0.125.991.3
YOLO26x-pose64071.691.6565.4 ± 3.012.2 ± 0.257.6201.7

FLOPs指的是单次前向推理的量,yolo26s-pose需要23.9B FLOPs,这个B是十亿的意思。

1. FLOPs 与 GFLOPs 的关系

术语全称含义换算
FLOPsFloating Point Operations浮点运算次数(模型静态复杂度指标)基础单位
GFLOPsGiga FLOPs十亿次浮点运算1 GFLOPs = 10⁹ FLOPs
TFLOPsTera FLOPs万亿次浮点运算1 TFLOPs = 10¹² FLOPs

YOLO26s-pose 官方数据:

  • FLOPs = 23.9B(即 23.9 × 10⁹ 次浮点运算)

  • = 23.9 GFLOPs


2. FLOPs 计算的是什么?

FLOPs 统计的是模型完成一次前向推理(Forward Pass)所需的浮点运算总量,包括:

  • 卷积层的乘加运算(主导部分)

  • 全连接层、激活函数、Normalization 等

关键点:FLOPs 是理论算法复杂度,与实际运行时的延迟(Latency)或吞吐量(Throughput)不是线性关系,还受内存带宽、数据搬运、并行效率等影响。


3. 从 FLOPs 推算 FPS 所需算力

核心概念:MACs vs FLOPs

在深度学习中,MACs(Multiply-Accumulate,乘加操作)是更基础的计算单位:

  • 1 MAC = 2 FLOPs(一次乘法 + 一次加法)

因此:

YOLO11s-pose: 23.9B FLOPs = 11.95B MACs

理论算力需求公式

芯片厂商的TOPS(Tera Operations Per Second)通常指MACs/second:

所需TOPS = (MACs_per_frame × FPS) / 10¹² = (FLOPs_per_frame / 2 × FPS) / 10¹²

计算:YOLO26s-pose @ 30FPS

指标数值
单帧 FLOPs23.2B
单帧 MACs11.95B
目标 FPS30
理论最小算力11.95B × 30 / 10¹² = 11.95x10^9 × 30 / 10^12 =0.3585 TOPS

考虑实际因素后的安全估算:

因素修正系数说明
NPU利用率0.6~0.8实际算力无法100%利用
内存带宽瓶颈0.7~0.9数据搬运开销
后处理(NMS/解码)0.5~0.7非网络推理部分
综合实际系数~0.4保守估计
实际所需算力 = 0.3585 TOPS / 0.4 ≈ 0.89625 TOPS (INT8)

4. INT8 量化后的算力需求

INT8 量化的影响

方面FP32INT8 量化后
算法FLOPs23.9B不变(仍是23.9B)
算法MACs11.95B不变(仍是11.95B)
存储占用100%25%(4×压缩)
内存带宽需求100%25%
实际运行速度1×3~4×(硬件支持INT8加速)

关键理解

INT8 量化不改变 FLOPs 数值,但:

  • 专门的 INT8 计算单元(如 NPU、Tensor Core)执行效率远高于 FP32

  • 内存带宽压力大幅降低,减少数据等待时间

  • 等效来看,同样的 TOPS 算力可以跑出更高的 FPS

等效换算:

  • 若硬件支持 INT8,1 TOPS (INT8) ≈ 2~4× FP32 等效算力

  • 实际部署中,INT8 通常带来3~4× 的 FPS 提升


5. 各平台算力规格与 30FPS 可行性

平台标称算力说明
TI TDA4VM8 TOPS (INT8)深度学习加速器 (MMA),@1.0GHz
黑芝麻A100058 TOPS (INT8)华山二号A1000,18W功耗
Orin Nano 4GB10 TOPS (Dense)/ 20 TOPS (Sparse)注意:NVIDIA标注常为Sparse,Dense减半
Orin Nano 8GB20 TOPS (Dense)/ 40 TOPS (Sparse)8GB版本
Orin Nano Super33 TOPS (Dense)/ 67 TOPS (Sparse)新发布版本
Orin NX70-100 TOPS (Dense)更大算力
Orin AGX200-275 TOPS (Dense)旗舰级

Dense vs Sparse:NVIDIA 的 Sparse TOPS 是理论峰值,实际 Dense(稠密)算力更可靠,通常减半。

30FPS 可行性分析

平台可用算力 (Dense INT8)理论FPS上限*实际FPS估计30FPS可行性
TDA4VM8 TOPS~230 FPS40-60 FPS✅ 充足
黑芝麻A100058 TOPS~1660 FPS200-400 FPS✅ 严重过剩
Orin Nano 4GB10 TOPS~287 FPS50-80 FPS✅ 充足
Orin Nano 8GB20 TOPS~575 FPS100-150 FPS✅ 充足
Orin NX70-100 TOPS~2000+ FPS300+ FPS✅ 严重过剩
Orin AGX200-275 TOPS~6000+ FPS800+ FPS✅ 严重过剩

*理论上限 = 平台算力 / (11.6B MACs / 10¹²),实际考虑利用率后约20-40%


6. 总结:30FPS 到底需要多少算力?

场景所需算力 (INT8)备注
理论最小值0.35 TOPS100%利用率,无开销
实际可行值0.5~1.0 TOPS考虑NPU利用率和内存带宽
舒适配置2+ TOPS留有余量,支持其他任务

关键结论

  1. YOLO26s-pose 的 23.9B FLOPs = 23.9 GFLOPs,量化后算法复杂度不变,但执行效率提升3-4倍

  2. 30FPS 仅需约 0.5~1.0 TOPS (INT8)的实际算力,现有嵌入式平台(TDA4 8 TOPS、Orin Nano 10-20 TOPS)都远超需求

  3. 实际瓶颈不在算力,而在:

    • 内存带宽(特征图搬运)

    • 后处理(NMS、坐标解码、可视化)

    • 模型加载和初始化时间

  4. INT8 量化是必要优化,不仅减少算力需求,更大幅降低内存带宽压力,是嵌入式部署的标配

快速验算公式

如果你要快速估算某平台能跑多少 FPS:

实际FPS ≈ (平台TOPS × 10¹² × 利用率) / (FLOPs / 2) 以 TDA4VM 为例: = (8 × 10¹² × 0.6) / (23.2 × 10⁹ / 2) = 4.8 × 10¹² / 11.6 × 10⁹ ≈ 414 FPS(理论)→ 实际约 40-60 FPS(考虑带宽和后处理)

建议:在实际板端测试时,使用 TensorRT(Orin)、TIDL(TDA4)或黑芝麻工具链进行 INT8 量化部署,实测 FPS 会比理论推算更准确。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/10/11 4:57:58

告别 plist 制作繁琐咕噜分发在线工具iOS 开发一键搞定Plist文件生成

做 iOS 开发的小伙伴们,是不是还在为 plist 文件制作头疼?手动编写 XML 代码容易出错,配置参数稍不注意就导致 IPA 无法在线安装,iOS7 后还要求 HTTPS 部署,各种细节踩坑不断?今天必须给大家安利一款宝藏工…

作者头像 李华
网站建设 2026/10/10 21:40:40

导师又让重写?8个降AI率平台深度测评与推荐

在当前学术写作日益依赖AI工具的背景下,论文的AIGC率问题成为众多学生和研究者面临的难题。无论是初稿撰写还是最终定稿,如何有效降低AI痕迹、提升原创性,同时保持文章的逻辑性和语言流畅性,已成为不可忽视的关键环节。随着各大高…

作者头像 李华
网站建设 2026/10/10 23:52:53

别再瞎找了!10个降AI率网站深度测评与推荐,研究生必备

在研究生阶段,论文写作不仅是学术能力的体现,更是对逻辑思维与表达能力的全面考验。然而,随着AI技术的普及,越来越多的学生在论文中使用AI工具辅助写作,导致AIGC率过高,查重系统无法通过,甚至面…

作者头像 李华
网站建设 2026/10/11 7:55:57

App 开发者如何用 XinServer 处理用户体系?

App 开发者如何用 XinServer 处理用户体系? 不知道你有没有过这种经历:一个 App 项目,前端界面都画得差不多了,就差一个用户注册登录、个人中心、后台管理。结果一转头,后端兄弟说:“这得建用户表、角色表…

作者头像 李华
网站建设 2026/10/12 1:53:52

小程序毕设项目推荐-基于 SpringBoot 的社区团购小程序基于springboot+小程序的社区GO团购活动小程序的设计与实现【附源码+文档,调试定制服务】

博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java、小程序技术领域和毕业项目实战 ✌️技术范围:&am…

作者头像 李华