1.16 准备数据

sigmoid函数的x值隐喻的就是 $$权重\cdot 输入值$$

由于sigmoid函数的值域是（0,1）
假设设置的目标值超出范围，训练时将驱使网络极度的增大或者减小权重，以获得近乎匹配的输出来接近目标值。这是一种糟糕的情况。
所以初始权重的设置要合理，比如在-1到1之间随机。
初始化权重的值域可以更加精确一点，数学家得到的规则表示，可以设置为一个节点输入链接数量的平方根的倒数的绝对值范围内随机。
比如该节点有100条输入链接，那么初始权重的随机范围应该是：
$$-\frac{1}{\sqrt{3}}到\frac{1}{\sqrt{3}}$$

记住不要将初始权重设置为同等值，特别是0。
那样会使每个节点的输出都相同，用误差进行反向传播更新权重时，会修正同等数值，再次出现同等权重。