该文章只针对面试时面试官提问如何回答的更全更好，看此文章没有讲解太多太细节的知识点。如果知识点本身不会，背诵此文章可能能让你找到一份工作，但不能让你持续的干下去。还是需要自身精通对应知识点。
该文章适合有学习过卷积神经网络和视觉经典神经网络的朋友阅读，主要是针对本科应届生。收录了12道近几年非常经典的卷积神经网络和视觉经典神经网络面试题。
如果您觉得这篇文章对您有帮助，想深入学习人工智能相关技术可以私信我，谢谢
卷积神经网络和视觉经典神经网络面试题
1. 简述卷积基本操作，分析其与全连接层的区别
卷积操作是卷积神经网络的核心，用于提取数据的局部特征，他的两大特性是局部连接，参数共享。卷积层通过一个卷积核在输入数据上滑动，逐步将与卷积核对应的元素相乘后求和得到一个标量值，最终生成一个输出特征图，通过局部连接和参数共享，能够高效的提取局部特征，同时减少参数量。而全连接层中的不同神经元是的参数不同，数量较多，计算量也更大。他将卷积层提取的特征进行综合处理，输出最终的预测结果，适合处理一维的特征向量。
2. 简述分组卷积及其应用场景
分组卷积将输入通道分成多个组进行独立的卷积运算，能够显著提高计算效率盒模型的非线性能力。目前分组卷积更多被用来构建用于移动设备的小型网络结构，例如深度可分离卷积。
3. 卷积层，池化层，全连接层的作用是什么？
卷积层：提取输入数据的局部特征，通过多层结构逐步提取更高级别的特征。(特征提取)
池化层：降低特征图的空间维度，保留重要信息，减少计算量，增强平移不变性。(降维)
全连接层：综合处理提取的特征，输出最终的分类或回归结果。(分类)
4. 什么是迁移学习，在 CNN 中如何应用？
迁移学习是指将在一个任务上训练好的模型的知识迁移到另一个相关任务上。在 CNN 中，可以使用预训练的模型 (如 ImageNet 上训练的模型), 冻结部分或全部卷积层的参数，只训练全连接层或部分卷积层，以加快模型的训练速度，提高模型在小数据集上的性能。迁移学习可以节省训练时间和资源。
5. 什么是残差网络 (ResNet)?
残差网络是一种深度卷积神经网络，通过引入残差块来解决深度神经网络中的梯度消失和梯度爆炸问题。残差块包含跳跃连接，允许信息直接跳过一些层，使得网络可以训练更深的层次。ResNet 在图像分类等任务中取得了很好的效果。
6. 为什么 ResNet 能够训练更深的网络？
残差连接允许信息直接跳过一些层，避免了在深度网络中梯度的过度衰减。当网络层数增加时，残差块可以学习到恒等映射，使网络在增加深度的同时不会降低性能。这使得 ResNet 可以构建非常深的网络。
7. 什么是 MobileNet?
MobileNet 是一种轻量级的卷积神经网络，专门为移动设备和嵌入式设备设计的。它采用深度可分离卷积来减少模型的参数量 和计算量，同时保持较高的性能。MobileNet 在资源受限的设备上有很好的应用前景。
8. 深度可分离卷积的原理是什么？
深度可分离卷积将标准卷积分解为深度卷积和点卷积。深度卷积对每个输入通道分别进行卷积，点卷积使用 1x1 卷积将深度卷积的输出进行组合。这样可以大大减少参数数量和计算量。深度可分离卷积是 MobileNet 轻量级的关键。
9. 通道注意力和空间注意力有什么区别？
通道注意力关注特征图的不同通道之间的关系，通过计算通道的重要性权重，对通道进行加权。空间注意力关注特征图的不同空间位置之间的关系，通过计算空间位置的重要性权重，对空间位置进行加权。两者可以结合使用，提高模型性能。
10. 如何压缩 CNN 模型的参数？
常见的方法有模型剪枝、量化和知识蒸馏。模型剪枝是去除模型中不重要的参数；量化是将参数的精度降低，如将 32 位浮点数转换为 8 位整数；知识蒸馏是将一个大模型的知识转移到一个小模型中。模型压缩可以减少模型的存储和计算需求。
循环神经网络面试题
1. 什么是 RNN?
RNN (循环神经网络) 是一种使用循环连接处理顺序数据的神经网络。 具体来说，它适用于涉及序列的任务，例如自然语言处理、语音识别和时间序列分析。 RNN 有一个内部存储器，允许它们保留来自先前输入的信息，并使用它来根据整个序列的上下文做出预测或决策。
2. RNN 与其他神经网络有何不同？
RNN 与其他神经网络之间的关键区别在于它们处理顺序数据的能力。与独立处理输入的前馈网络不同，RNN 保持隐藏状态，携带来自先前时间步长的信息。这种循环特性使 RNN 能够对时间依赖性进行建模，并捕获数据中固有的顺序模式。相比之下，输入顺序不重要的任务更适合前馈网络。
3. RNN 如何处理可变长度的输入？
RNN 通过按顺序处理数据来处理可变长度的输入，一次处理一个一次性步骤。与其他需要固定输入的神经网络不同，RNN 可以适应不同长度的序列。它们遍历输入序列，维护隐藏状态，这些状态携带来自先前时间步的信息。这使得 RNN 能够处理不同大小的输入并捕获整个系列的依赖关系。
4. 什么是消失和爆炸梯度问题？
梯度消失问题是指 RNN 中的梯度在向后传播时减小或消失的问题。这是由于反向传播过程中梯度的重复乘法，这可能导致梯度呈指数下降。相反，当梯度在反向传播过程中不受控制地增长时，就会出现梯度爆炸问题。这两个问题都阻碍了 RNN 捕获长期依赖关系的能力，并使得有效训练网络变得具有挑战性。
5. 如何在 RNN 中解决这些问题？
我们有以下几种技术可以解决梯度消失和爆炸问题:
- 初始化策略：使用适当的权重初始化方法，例如 Xavier 或 He 初始化，可以通过确保更稳定的初始梯度来缓解梯度消失和爆炸问题。
- 非线性激活函数：用 ReLU (整流线性单元) 等替代方案替换 sigmoid 等标准激活函数可以缓解梯度消失问题，因为 ReLU 具有更有利的梯度传播特性。
- 渐变剪裁：梯度剪裁可以限制梯度的大小，防止梯度增长过大并导致不稳定。
- 门控架构：引入 LSTM 和门控循环单元等专用架构可以帮助 RNN 缓解梯度消失问题。这些架构包含调节信息流和梯度的门控机制，从而实现更好的信息保留和梯度传播。
6. word2vec 的两种优化方式
第一种改进为基于层序 softmax 的模型: 首先构建哈夫曼树，即以词频作为 n 个词的节点权重，不断将最小权重的节点进行合并，最终形成一棵树，权重越大的叶子结点越靠近根节点，权重越小的叶子结点离根节点越远。 然后进行哈夫曼编码，即对于除根节点外的节点，左子树编码为 1, 右子树编码为 0。 最后采用二元逻辑回归方法，沿着左子树走就是负类，沿着右子树走就是正类，从训练样本中学习逻辑回归的模型参数。 优点：计算量由 V (单词总数) 减小为 log2V; 高频词靠近根节点，所需步数小，低频词远离根节点。
第二种改进为基于负采样的模型: 通过采样得到少部分的负样本，对正样本和少部分的负样本，利用二元逻辑回归模型，通过梯度上升法，来得到每个词对应的模型参数。具体负采样的方法为：根据词频进行采样，也就是词频越大的词被采到的概率也越大。
7. 简述 nn.Embedding 的原理
nn.Embedding 是 PyTorch 中用于将离散的整数索引 (如词 ID、类别标签等) 映射为连续低维向量的可训练查找表，其核心原理是通过维护一个可学习的权重矩阵实现索引到向量的高效转换。本质上是一个形状 为 (num_embeddings, embedding_dim) 的权重矩阵，其中 num_embeddings 为词汇表大小，embedding_dim 为向量维度。输入整数索引时，直接返回矩阵中对应的行向量。 其操作可视为对输入索引进行 one‑hot 编码后 与权重矩阵相乘 (即 output=one_hot (input)×W), 但实际实现通过直接取行优化了计算效率。
8. 什么是长短期记忆 (LSTM)?
长短期记忆 (LSTM) 单元是一种递归 RNN 单元，旨在解决梯度消失问题并捕获长期依赖关系。 LSTM 单元包含存储单元和门控机制来控制信息流。它们具有输入、输出和遗忘门，用于调节进出单元的数据流，使 LSTM 能够随着时间的推移有选择地保留或丢弃信息。这使得 LSTM 能够捕获长程依赖关系并克服传统 RNN 的局限性。
9. LSTM 单元如何解决梯度消失问题？
LSTM 单元通过利用其门控机制来解决梯度消失问题。 遗忘门选择性地确定要从单元状态中丢弃哪些信息，使 LSTM 能够遗忘不相关或过时的信息。 输入和输出门调节进出单元的数据流，在多个时间步长中保存和利用重要信息。这些门控机制有助于在反向传播过程中实现更好的梯度流动，从而缓解梯度消失问题，并使 LSTM 能够更有效地捕获长期依赖关系。
10. 什么是门控循环单元 (GRU), 它与 LSTM 有何不同？
门控循环单元 (GRU) 是另一种类型的循环单元，用于解决梯度消失问题并捕获长期依赖关系，类似于 LSTM 单元。LSTM 和 门控循环单元之间的主要区别在于它们的架构和门控组件的数量。
门控循环单元有两个主要门：更新门和复位门。 更新门确定要传递到当前时间步长的先前隐藏状态的数量，而重置门控制要忘记或重置的最后一个隐藏状态的数量。这些门根据当前输入和先前的隐藏状态进行计算。
与 LSTM 相比，门控循环单元具有更简化的架构，因为它将遗忘门和输入门合并到单个更新门中，并将单元和输出门合并到复位门中。 门控组件的减少使门控循环单元在计算上比 LSTM 更低且更易于训练。
尽管架构简化，但门控循环单元在各种序列建模任务中都很有效，例如语言建模、语音识别和机器翻译。它们很好 地平衡了捕获长期依赖关系和计算效率，使它们在许多应用程序中很受欢迎。
