1.基础知识
（1）激活值（灰度值）：从0---1
激活函数： （2）RELU（线性整流函数）：ReLu(a)=max(0,a),其中a 是输入值
（3）sigmoid ：（过时）
（1.1）神经网络训练过程
将图片分为多个像素，每个像素的灰度值为从0到1，像素个数为输入层神经元个。下一层的激活值等于上一层激活值的加权和加上偏置值在经过激活函数转化层层进行，最后输出。依次经过这样的过程在输出中灰度值最高的就是答案。
其中w（权重）主要是寻找哪个神经元激活更具有重要性或者是说更有意义
bias即为加权值达到多少才能够满足函数激活（是否更容易激活）
2.神经网络学习过程
找到一个更好的权重和偏置，从而使得loss最小化
（1）损失函数：有w和b决定 损失函数越小对于这个模型有利（是否可以很小还不懂）（感觉损失函数就是用来判断W和B是否合适，不合适进行梯度下降法进行更改）
求min 可以用梯度下降法：求梯度，找反向，repeat
损失函数的梯度主要显示，对于w的改变，对应梯度越大 w就应该大一点，表示这个更重要（或者说是梯度对于这个权重更加敏感）
（2）有标签的训练集更容易快速找到最小的损失函数
