news 2026/7/18 14:02:55

cuda :对比gpu与cpu运算矩阵

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
cuda :对比gpu与cpu运算矩阵

1.cpu的运算

对于cpu的运算,我们需要遍历3次,如果A*B=C,A为M*K维,B维K*N维,C为M*N为,则我们首先要遍历P的M维和N维,在遍历K维进行计算:

2.gpu运算

对gpu运算,由于是并行运算,C矩阵的每个数值同时计算,我们的思路是每个线程(thread)处理一个矩阵上的数值,所以线程的坐标可以代表矩阵C的坐标,例如对于矩阵C8*8的矩阵:

我们可以让blockdim为4*4,也就是一个block中有16个线程,则2*2的grid就能算完所有C矩阵上的值,具体我们的核函数如下:

下面我们把cpu的数据传入gpu中进行并行运算:

进行试验:

实验参数:

实验我们进行了5组:有cpu,gpu预热,blocksize=16,blocksize=1,blocksize=32。

实验结果:

显然即便是预热的gpu运算也比cpu快,后面几组可以说明一些问题,gpu_blocksize=1运算的速度最慢,因为同一个block(线程块)中的所有thread(线程)共享一块该block专属的 shared memory;而同一个grid(线程格)中的不同block之间,各自的 shared memory 是相互独立、完全隔离的,所以blocksize=1代表着每个线程都不是共享的,算法只能依赖全局内存,访问速度很慢,而为什么blocksize=32变得就很快了呢?且硬件调度无冗余,GPU 以 32 个线程为 1 个 warp 调度,q所以blocksize=32最快。

优化:数据其实一直都是在gobalmemory中取,其实很慢,我们可以创建sharememory来加快速度。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/17 22:52:45

GPUSTACK在深度学习训练中的实战应用

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 开发一个基于GPUSTACK的深度学习训练平台,支持多GPU并行训练和自动资源分配。平台应包含TensorFlow/PyTorch集成、训练进度监控和性能分析工具。实现自动扩展GPU资源功…

作者头像 李华
网站建设 2026/7/15 1:58:21

CentOS 7.9零基础入门:从安装到基本运维

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 创建一个CentOS 7.9新手学习环境,包含:1. 交互式安装引导 2. 常用命令练习场景 3. 基础服务(SSH/FTP)配置教程 4. 系统管理任务模拟 5. 实时帮助文档。要求…

作者头像 李华
网站建设 2026/7/14 12:31:42

对比传统开发:快马让STM32项目效率提升300%

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 请生成一个完整的STM32F407VG的USB HID设备项目,实现通过USB接口与PC通信,能够接收PC端发送的数据并控制开发板上的LED。要求:1) USB设备初始化…

作者头像 李华
网站建设 2026/7/15 2:01:17

AI助力Vue拖拽组件开发:vue-draggable-next实战

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 请使用vue-draggable-next库创建一个可拖拽排序的Vue3组件。要求:1. 支持水平/垂直两种拖拽模式切换 2. 包含10个默认项目 3. 每个项目显示序号和内容 4. 实现拖拽结束…

作者头像 李华
网站建设 2026/7/14 23:02:52

新质生产力政府关注度(2002-2025)

2005新质生产力政府关注度(2002-2025)数据简介本研究整理了2002至2025年间地级市政府与省级政府工作报告中关于新质生产力的文本内容,旨在为研究新质生产力的发展特征和趋势提供数据支持。通过分析相关关键词的词频,揭示地方政府在…

作者头像 李华
网站建设 2026/7/14 23:02:40

开箱即用的中文语义分类工具|AI万能分类器全解析

开箱即用的中文语义分类工具|AI万能分类器全解析 在智能内容处理、工单系统、舆情监控等场景中,文本分类是构建自动化流程的核心能力。然而,传统分类模型往往需要大量标注数据和漫长的训练周期,导致开发成本高、响应速度慢。今天我…

作者头像 李华