简单说下概念，神经网络算法是通过计算机模拟生物神经系统来模拟人类思维模式的算法。它的基本单位是人工神经元。通过互连形成神经网络。在生物神经网络中，每个神经元都与其他神经元相连。当它被激活时，会将化学物质转移到相连的神经元，改变其他神经元的电位。当电位达到一定阈值时，这个神经元也会被激活。
博客园大佬很多，写的文章也非常好：
一、神经网络编程入门
学习神经网络，你会经常看到这些概念：
是输入参数向量，代表其他神经元输入的信号。
每个输入参数的权重值表示相应神经元信号的权重。
是阈值或偏差值，指的是激活神经元的难度。
y是神经元的输出值，表示神经元是否被激活。
Act()是激活函数，理想的激活函数是下图(a)中的跳跃函数，神经网络算法原理神经元兴奋用“1”，神经元抑制用“0”。但由于跳跃函数具有不可连续可导等一些不良性质，一般采用下图(b)中的Sigmoid函数作为激活函数。
我的其他文章：
PaperRobot论文写作 图网络+注意力机制，AI写论文甚至比人类好