往期文章
RK3588+docker+YOLOv5部署:https://blog.csdn.net/FJN110/article/details/149673049
RK3588测试NPU和RKNN函数包装https://blog.csdn.net/FJN110/article/details/149669753
RK3588刷机:https://blog.csdn.net/FJN110/article/details/149669404
以及深度学习部署工程师1~31主要学习tensorRT、cmake、docker、C++基础、语义分割、目标检测、关键点识别、RTSP推流、3D模型部署、车牌检测于识别项目、人脸属性分析(年龄、性别、名称、是否佩戴口罩)等知识
好的进入本节课程:
你需要查看自己的根目录还有没有30GB空间
用df -h查看目前的空间情况
首先需要获得一个pt权重文件,我们才能部署,如果你不想要重新训练,你可以直接用我的pt文件进行TensorRT部署,跳过yolo安装、训练这些过程
代码在文章底部。
int8量化+TensoRT:200FPS
TensoRT:166FPS
CUDA:147FPS
CPU:93FPS
都是在batch为1的情况下运行,如果batch拉满可能差距会更大!!!
最后效果:
int8量化+TensorRT
TensoRT:
Docker+TensorRT:YOLO人体检测部署与推理教程
张小明
前端开发工程师
5分钟搞定AI人脸融合,这款镜像让操作变得超级简单
5分钟搞定AI人脸融合,这款镜像让操作变得超级简单 1. 为什么人脸融合突然变得这么容易? 你有没有试过用专业软件做换脸?调参数、选模型、等渲染、修瑕疵……一套流程下来,半小时过去了,结果还可能一脸塑料感。 直到…
理解CUDA架构:开启深度学习部署之旅
往期文章 RK3588+docker+YOLOv5部署:https://blog.csdn.net/FJN110/article/details/149673049 RK3588测试NPU和RKNN函数包装https://blog.csdn.net/FJN110/article/details/149669753 RK3588刷机:https://blog.csdn.net/FJN110/article/details/149669404 以及深度学习部署工…
零基础用Qwen-Image-2512做AI绘画,ComfyUI开箱即用太省心
零基础用Qwen-Image-2512做AI绘画,ComfyUI开箱即用太省心 1. 为什么说“零基础也能上手”? 你是不是也经历过这些时刻: 看到别人生成的精美海报、概念图、插画,心里痒痒,但一打开教程就卡在“安装Python环境”“配置…
企业级网络监控:NPCAP实战案例解析
快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 创建一个企业网络监控系统原型,使用NPCAP实现:1. 多网卡并行抓包;2. 关键业务流量统计(HTTP/SQL/VoIP);3. 延…
AD画PCB时的信号完整性深度剖析:高速信号布线技巧
以下是对您提供的博文内容进行 深度润色与结构重构后的技术文章 。我以一位深耕高速PCB设计十余年的硬件工程师兼Altium Designer实战讲师的身份,用更自然、更具教学感和工程现场感的语言重写全文—— 去除AI腔调、强化人话逻辑、突出实操细节、嵌入真实踩坑经验,并彻底打…
极速验证:用TFTP实现IoT设备配置分发原型
快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 构建IoT设备配置分发系统原型,要求:1. DHCP服务器返回TFTP地址 2. TFTP提供device_config.json 3. 根据MAC地址分发不同配置 4. 包含配置版本校验 5. 生成P…