🏡博客主页： virobotics(仪酷智能)：LabVIEW深度学习、人工智能博主
🎄所属专栏：『LabVIEW深度学习工具包』
📑推荐文章：『LabVIEW人工智能深度学习指南』
🍻本文由virobotics(仪酷智能)原创🥳欢迎大家关注✌点赞👍收藏⭐留言📝订阅专栏
文章目录
- 前言
- 一、AI Vision Toolkit for GPU for LabVIEW简介
- 二、AIVT-GPU的关键创新
- 三、函数模块
- 四、支持模型（1000+ VI节点）
- 五、函数使用范例
- 六、安装使用
- 结语
前言
大家好，这里是仪酷智能VIRobotics~
我们怀着无比激动的心情向大家宣布：由仪酷智能（VIRobotics）精心研发的全新 LabVIEW AI 工具包 ——AI Vision Toolkit for GPU for LabVIEW 2.0版本，历经重重打磨完成开发升级，现已正式发布！目前，该工具包已在官方网站www.virobotics.net全新上线。欢迎广大用户试用与体验
过去，LabVIEW用户在部署AI模型时常面临模型格式不统一、性能瓶颈、高开发门槛等难题。AIVT-GPU 正是为了解决这些挑战而生。
在过去的一年里，我们对多个已有的LabVIEW AI工具包进行了系统性重构，包括 LabVIEW OpenCV 工具包、ONNX 工具包、TensorRT 工具包以及范例算子工具包、硬件兼容等。重磅推出全新产品：AI Vision Toolkit for GPU for LabVIEW 2.0版本🎉
如需购买、演示、技术交流或其他更多内容，欢迎随时联系我们：info@virobotics.net，或加入技术交流群：705637299。我们将持续更新迭代，与开发者一同探索LabVIEW AI Vision 的无限可能！
一、AI Vision Toolkit for GPU for LabVIEW简介
AI Vision Toolkit for GPU for LabVIEW，简称AIVT-GPU。是由仪酷智能面向LabVIEW平台打造的GPU加速型AI工具包。该工具包以NVIDIA GPU为主要计算平台，深度集成TensorRT和ONNX Runtime，支持GPU与CPU的灵活切换部署，可显著提升深度学习模型的推理性能与部署效率。
AIVT-GPU支持主流深度学习框架（如PyTorch、TensorFlow、Keras、PaddlePaddle）导出的 ONNX模型，并支持高性能推理模型（如YOLO、UNet、OCR、Pose、生成式AI模型等）在GPU 上运行，适配工业现场的高吞吐、低延迟场景需求。
除了视觉AI推理模块，AIVT-GPU还提供CUDA并行计算模块，用户可在LabVIEW中调用GPU实现矩阵运算、数组处理、FFT、卷积等复杂计算任务，大幅提升数据处理速度与响应效率，真正将 GPU运算能力带入图形化编程世界。
工具包提供LabVIEW原生图形化API，采用模块化拖拽式开发方式，帮助用户快速构建高性能图像识别、智能检测与高速运算系统，广泛应用于工业自动化、科研分析、视频处理与智能制造等领域。
我们希望AIVT-GPU不仅是一个工具集合，更是一个让LabVIEW用户真正能够便捷使用AI、部署AI、优化AI的解决方案。
二、AIVT-GPU的关键创新
1. 模型格式统一
引入通用文件系统与ONNX模型兼容机制，大幅简化了模型部署、移植与复用的复杂度，实现从主流AI框架（TensorFlow、PyTorch、Keras、PaddlePaddle）到LabVIEW的无缝集成。极大降低模型复用、跨团队协作与工程交付成本。
2. GPU优化与加速策略
内置对TensorRT、CUDA的深度支持，结合模型量化、图优化、Batch推理、多线程执行等技术，实现对各类AI模型的极致加速部署。在高速生产线上的实时检测任务中，能充分发挥其优势，确保检测的及时性和准确性。如下为真实测试示例：
示例一：操作系统：Windows，GPU：4070，无优化，平均用时：7.5毫秒
示例二：操作系统：Windows，GPU：4070，开启CUDA优化，平均用时：1.6毫秒
示例三：操作系统：Windows，GPU：4070，开启优化，平均用时：1.9毫秒，模型：RF_DETR
3. LabVIEW图形化语言构建
AIVT-GPU完全使用LabVIEW图形化编程语言构建。这种开发方式不同于传统流程图，具有可视化、可执行、可扩展的特点，极大降低了AI部署门槛，让没有Python/C++背景的工程师也能轻松掌握。
4. 无缝模型集成与跨平台兼容性
AIVT-GPU 支持使用主流框架（如 PyTorch、TensorFlow、ONNX）开发的AI模型无缝导入与调用。无需手动编写复杂接口。其灵活架构也可适配多种硬件平台，当然也能够跨平台复用和优化现有模型，从而加快部署速度并最大限度地降低成本。灵活兼容主流硬件厂商，为用户提供真正的跨平台部署能力与硬件解耦的灵活性。
5. 支持基本全系列GPU
在 AIVT-GPU 2.0 版本中，我们对 GPU 兼容性与底层推理环境进行了全面升级：
- 全面支持 NVIDIA RTX 20 / 30 / 40 / 50 系列显卡
- 覆盖工业 PC、工程工作站及最新一代消费级 GPU
- 用户可以直接将AIVT-GPU运行于最新 RTX 50 系列显卡，充分释放新一代 GPU 的 Tensor Core 与算力优势
三、函数模块
AIVT-GPU包含5个大的函数模块：OpenCV模块、ONNX模块、TensorRT模块、ModelZoo模块、cuda模块，每个模块含有大量函数可供应用。
四、支持模型（1000+ VI节点）
AIVT-GPU目前支持市场上基本所有AI模型，包括但不限于以下模型(最新版本以支持rf-detr):
五、函数使用范例
AIVT-GPU开发工具针对五个函数模块创建了多个使用范例，范例中包含了多个主流模型的使用方法，并可以演示各个模型的处理效果。用户可以根据使用范例快速学习掌握AI模型的部署，包括最新的YOLO11\YOLO12\YOLO13\RT_DETR。
六、安装使用
安装驱动
- 安装 CUDA Toolkit + cuDNN（要求CUDA 12.8）：可参考文章：https://blog.csdn.net/virobotics/article/details/156085042?spm=1011.2124.3001.6209；
下载与安装
可参考文章：https://blog.csdn.net/virobotics/article/details/156462063?spm=1011.2124.3001.6209小tips:需要2018及以上64bit LabVIEW哦！
验证方法
- 运行范例：example of onnx to engine。
结语
以上就是今天要给大家分享的内容，希望对大家有用。如有笔误，还请各位及时指正。我们将持续更新，与开发者一同探索LabVIEW AI Vision 的无限可能！
我是VIRobotics（仪酷智能），我们下篇文章见~
如您想要探讨更多关于LabVIEW与人工智能技术，欢迎加入我们的技术交流群：705637299。进群请备注：CSDN
更多内容可查看：
- 仪酷智能官网：https://www.virobotics.net/
- 微信公众号：仪酷智能科技
- B站：仪酷智能
- 邮箱：info@virobotics.net
如果文章对你有帮助，欢迎✌关注、👍点赞、✌收藏、👍订阅专栏
推荐阅读
【YOLOv5】LabVIEW+TensorRT的yolov5部署实战（含源码））
【YOLOv5】手把手教你使用LabVIEW ONNX Runtime部署 TensorRT加速，实现YOLOv5实时物体识别（含源码）
【YOLOv8】实战一：手把手教你使用YOLOv8实现实时目标检测
【YOLOv8】实战二：YOLOv8 OpenVINO2022版 windows部署实战
【YOLOv8】实战三：基于LabVIEW TensorRT部署YOLOv8
【YOLOv9】实战一：在 Windows 上使用LabVIEW OpenVINO工具包部署YOLOv9实现实时目标检测（含源码）
【YOLOv9】实战二：手把手教你使用TensorRT实现YOLOv9实时目标检测（含源码）
【YOLOv11】实战一：在LabVIEW 中使用OpenVINO实现YOLOv11
👇技术交流 · 一起学习 · 咨询分享，请联系👇
