神经网络最简单的感知器（神经元）：
y = f(x) = wx + b
很熟悉对吧？就是一元线性方程，用n对已知的x，y样本数据，f = wx+b，使得误差1/n[(f-y)^2 + (f-y)^2 + ... + (f-y)^2] 尽可能接近于0，求得w, b，就是回归分析，也是最最简单的模型。
神经网络误差函数 L(w, b) = 1/2 (f-y)^2
f = wx + b 为计算值，y为样本数据实际值，
L对w，b求偏导，使得L/w = 0，L/b = 0。
计算机程序没法用解析式求导，只能用所谓梯度下降法（数值迭代法)，用数据训练模型就是用已知的x，y数据对求得w，b。随机设定w，b初始值，采用前向传播和反向传播循环迭代计算，在迭代求导过程中不断逼近w，b最终稳定值。一般来说，x，y数据对越多，准确率越高。迭代计算过程实质就是统计过程。
以下是pytorch的程序代码，套个激活函数、多层多神经元网络也一样的思路。