news 2026/9/16 8:14:50

day39图像数据与显存

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
day39图像数据与显存

一、 图像数据的介绍

1.1 灰度图像

从这里开始我们进入到了图像数据相关的部分,也是默认你有之前复试班计算机视觉相关的知识,但是一些基础的概念我仍然会提。

昨天我们介绍了minist这个经典的手写数据集,作为图像数据,相较于结构化数据(表格数据)他的特点在于他每个样本的的形状并不是(特征数,),而是(宽,高,通道数)

上述是昨天的代码,我们介绍了图像数据的预处理,这是我们首次接触图像数据,他和之前的结构化数据有什么差异点呢?

结构化数据(如表格)的形状通常是 (样本数, 特征数),例如 (1000, 5) 表示 1000 个样本,每个样本有 5 个特征。图像数据的形状更复杂,需要保留空间信息(高度、宽度、通道),因此不能直接用一维向量表示。其中颜色信息往往是最开始输入数据的通道的含义,因为每个颜色可以用红绿蓝三原色表示,因此一般输入数据的通道数是 3。

1.2 彩色图像

在 PyTorch 中,图像数据的形状通常遵循 (通道数, 高度, 宽度) 的格式(即 Channel First 格式),这与常见的 (高度, 宽度, 通道数)(Channel Last,如 NumPy 数组)不同。---注意顺序关系,

注意点:

  1. 如果用matplotlib库来画图,需要转换下顺序,我们后续介绍
  2. 模型输入通常需要 批次维度(Batch Size),形状变为 (批次大小, 通道数, 高度, 宽度)。例如,批量输入 10 张 MNIST 图像时,形状为 (10, 1, 28, 28)。

    二、 图像相关的神经网络的定义

    考虑课程内容的推进,今日的内容只提定义,不涉及训练和测试过程

    2.1 黑白图像模型的定义

  3. 实际定义中,输入图像还存在batchsize这一维度

    在 PyTorch 中,模型定义和输入尺寸的指定不依赖于 batch_size,无论设置多大的 batch_size,模型结构和输入尺寸的写法都是不变的。

  4. 三、显存占用的主要组成部分

    昨天说到了在面对数据集过大的情况下,由于无法一次性将数据全部加入到显存中,所以采取了分批次加载这种方式。即一次只加载一部分数据,保证在显存的范围内。

    那么显存设置多少合适呢?如果设置的太小,那么每个batchsize的训练不足以发挥显卡的能力,浪费计算资源;如果设置的太大,会出现OOT(out of memory)

    显存一般被以下内容占用:

  5. 模型参数与梯度:模型的权重(Parameters)和对应的梯度(Gradients)会占用显存,尤其是深度神经网络(如 Transformer、ResNet 等),一个 1 亿参数的模型(如 BERT-base),单精度(float32)参数占用约 400MB(1e8×4Byte),加上梯度则翻倍至 800MB(每个权重参数都有其对应的梯度)。

  6. 部分优化器(如 Adam)会为每个参数存储动量(Momentum)和平方梯度(Square Gradient),进一步增加显存占用(通常为参数大小的 2-3 倍)

  7. 其他开销。@浙大疏锦行

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/22 3:00:13

建筑声学设计:模拟不同材料对语音清晰度的影响

建筑声学设计:模拟不同材料对语音清晰度的影响 在会议室里听不清发言、教室后排学生难以理解老师讲课、开放式办公区对话相互干扰——这些日常场景背后,往往隐藏着一个被忽视的设计维度:建筑声学。随着人们对空间体验要求的提升,语…

作者头像 李华
网站建设 2026/9/3 20:57:39

B站开源IndexTTS 2.0语音合成模型实战:如何用5秒音频克隆专属声线

B站开源IndexTTS 2.0语音合成模型实战:如何用5秒音频克隆专属声线 在短视频与虚拟内容爆发的时代,声音正成为数字身份的新名片。你有没有想过,只需一段5秒钟的录音,就能让AI“学会”你的声音,并用它朗读任何文字&#…

作者头像 李华
网站建设 2026/9/15 9:06:19

个人创作者福音来了!IndexTTS 2.0零门槛实现专属声线定制

个人创作者福音来了!IndexTTS 2.0零门槛实现专属声线定制 在短视频日活破亿、虚拟主播席卷直播平台的今天,一个声音可能比一张脸更具辨识度。可现实是:大多数内容创作者要么不敢开口录音,担心音质粗糙;要么请配音员成本…

作者头像 李华
网站建设 2026/9/14 5:35:32

打造会唱歌的电子宠物:51单片机蜂鸣器实战

打造会唱歌的电子宠物:用51单片机让蜂鸣器奏响《小星星》你有没有想过,一块老旧的51单片机,加上一个几毛钱的蜂鸣器,也能变成一只“会唱歌的小宠物”?它不仅能“哆来咪”,还能随着节拍眨眼睛——这不是魔法…

作者头像 李华
网站建设 2026/9/14 5:35:26

量子计算展望:未来能否实现超高速语音模型推理?

量子计算展望:未来能否实现超高速语音模型推理? 在智能会议记录系统日益普及的今天,一个常见的痛点正不断浮现:用户上传一段两小时的会议录音,系统却需要近十分钟才能返回文字结果。即便使用高端GPU,推理延…

作者头像 李华
网站建设 2026/9/14 5:35:27

野生动物守护:通过鸟类鸣叫监测生物多样性状况

野生动物守护:通过鸟类鸣叫监测生物多样性状况 在一片清晨的森林里,露水未干,阳光穿过树冠洒下斑驳光影。此时,一声清脆的鸟鸣划破寂静——这不仅是自然的诗意回响,更是一条关于生态健康的隐秘信息。然而,在…

作者头像 李华