3( A, B )---3*30*2---( 1, 0 )( 0, 1 )
4( A, B )---3*30*2---( 1, 0 )( 0, 1 )
5( A, B )---3*30*2---( 1, 0 )( 0, 1 )
做3个网络,让网络的输入都只有3个节点, 一个网络的训练集有3张图片,一个网络训练集有4张图片,一个网络的训练集有5张图片,让A中都只有4个点,B全是0。排列组合,统计迭代次数并排序。
首先比较5张图片和4张图片的情况
5差值结构 | 迭代次数 | 4差值结构 | 迭代次数 | 5/4比值 | ||||||
1 | - | - | - | 5579.44 | 1 | 1 | - | 4157.38 | 1.34 | |
1 | 1 | - | 5579.44 | 1 | - | - | 4157.38 | 1.34 | ||
1 | - | - | 5579.44 | - | 1 | - | 4157.38 | 1.34 | ||
- | 1 | - | 5579.44 | - | - | - | 4157.38 | 1.34 | ||
- | - | - | 5579.44 | 4157.38 | 1.34 | |||||
5579.44 | 4157.38 | 1.34 | ||||||||
2 | - | - | - | 13474.83 | - | - | - | 10384.03 | 1.30 | |
1 | 1 | - | 13474.83 | 1 | 1 | - | 10384.03 | 1.30 | ||
- | - | 1 | 13474.83 | - | - | 1 | 10384.03 | 1.30 | ||
- | 1 | - | 13474.83 | 1 | - | - | 10384.03 | 1.30 | ||
- | - | - | 13474.83 | 10384.03 | 1.30 | |||||
13474.83 | 10384.03 | 1.30 | ||||||||
3 | - | - | 1 | 16020.60 | 1 | - | - | 12405.20 | 1.29 | |
- | - | - | 16020.60 | - | - | - | 12405.20 | 1.29 | ||
- | - | - | 16020.60 | 1 | - | 1 | 12405.20 | 1.29 | ||
1 | - | 1 | 16020.60 | 1 | - | - | 12405.20 | 1.29 | ||
- | - | 1 | 16020.60 | 12405.20 | 1.29 | |||||
16020.60 | 12405.20 | 1.29 | ||||||||
4 | - | - | - | 16553.19 | 1 | 1 | 1 | 12917.50 | 1.28 | |
- | - | - | 16553.19 | - | 1 | - | 12917.50 | 1.28 | ||
1 | 1 | 1 | 16553.19 | - | - | - | 12917.50 | 1.28 | ||
- | 1 | - | 16553.19 | - | - | - | 12917.50 | 1.28 | ||
- | - | - | 16553.19 | 12917.50 | 1.28 | |||||
16553.19 | 12917.50 | 1.28 | ||||||||
11 | - | - | - | 35038.88 | - | - | - | 27899.12 | 1.26 | |
- | - | 1 | 35038.88 | 1 | - | - | 27899.12 | 1.26 | ||
1 | 1 | - | 35038.88 | - | 1 | 1 | 27899.12 | 1.26 | ||
- | - | 1 | 35038.88 | 1 | - | - | 27899.12 | 1.26 | ||
- | - | - | 35038.88 | 27899.12 | 1.26 | |||||
35038.88 | 27899.12 | 1.26 | ||||||||
12 | - | - | - | 39014.38 | - | - | - | 30883.96 | 1.26 | |
- | - | - | 39014.38 | 1 | 1 | - | 30883.96 | 1.26 | ||
- | - | - | 39014.38 | 1 | 1 | - | 30883.96 | 1.26 | ||
- | 1 | 1 | 39014.38 | - | - | - | 30883.96 | 1.26 | ||
- | 1 | 1 | 39014.38 | 30883.96 | 1.26 | |||||
39014.38 | 30883.96 | 1.26 | ||||||||
14 | - | - | - | 44485.74 | - | 1 | 1 | 35032.14 | 1.27 | |
- | - | - | 44485.74 | - | - | - | 35032.14 | 1.27 | ||
- | 1 | 1 | 44485.74 | - | - | - | 35032.14 | 1.27 | ||
1 | - | 1 | 44485.74 | 1 | 1 | - | 35032.14 | 1.27 | ||
- | - | - | 44485.74 | 35032.14 | 1.27 | |||||
44485.74 | 35032.14 | 1.27 |
收敛误差为7e-4,收敛199次,取迭代次数平均值
比较两组迭代次数的顺序
两组顺序很一致,并没有因为增加了一个全0行而导致顺序的变化。因为在4差值结构中每个结构中都有至少一个全0行,在此之上继续增加全0行会导致迭代次数增加。
两组迭代次数的比值在1.26和1.34之间变化,幅度很小。这个结构间的比值似乎与迭代次数成反比。
再比较4张图片和3张图片的情况
4差值结构 | 迭代次数 | 5/4比值 | 3差值结构 | 迭代次数 | 4/3比值 | |||||||
1 | 1 | 1 | - | 4157.38 | 1.34 | 1 | 1 | - | 2856.16 | 1.46 | y | |
1 | - | - | 4157.38 | 1.34 | 1 | - | - | 2856.16 | 1.46 | y | ||
- | 1 | - | 4157.38 | 1.34 | - | 1 | - | 2856.16 | 1.46 | y | ||
- | - | - | 4157.38 | 1.34 | 2856.16 | 1.46 | y | |||||
4157.38 | 1.34 | 2856.16 | 1.46 | y | ||||||||
4157.38 | 1.34 | 2856.16 | 1.46 | y | ||||||||
2 | - | - | - | 10384.03 | 1.30 | 1 | 1 | - | 9134.39 | 1.14 | y | |
1 | 1 | - | 10384.03 | 1.30 | - | - | 1 | 9134.39 | 1.14 | y | ||
- | - | 1 | 10384.03 | 1.30 | - | 1 | - | 9134.39 | 1.14 | y | ||
1 | - | - | 10384.03 | 1.30 | 9134.39 | 1.14 | y | |||||
10384.03 | 1.30 | 9134.39 | 1.14 | y | ||||||||
10384.03 | 1.30 | 9134.39 | 1.14 | y | ||||||||
3 | 1 | - | - | 12405.20 | 1.29 | - | 1 | - | 11765.53 | 1.05 | y | |
- | - | - | 12405.20 | 1.29 | - | 1 | 1 | 11765.53 | 1.05 | y | ||
1 | - | 1 | 12405.20 | 1.29 | - | 1 | - | 11765.53 | 1.05 | y | ||
1 | - | - | 12405.20 | 1.29 | 11765.53 | 1.05 | y | |||||
12405.20 | 1.29 | 11765.53 | 1.05 | y | ||||||||
12405.20 | 1.29 | 11765.53 | 1.05 | y | ||||||||
4 | 1 | 1 | 1 | 12917.50 | 1.28 | 1 | 1 | 1 | 9258.19 | 1.40 | y | |
- | 1 | - | 12917.50 | 1.28 | 1 | - | - | 9258.19 | 1.40 | y | ||
- | - | - | 12917.50 | 1.28 | - | - | - | 9258.19 | 1.40 | y | ||
- | - | - | 12917.50 | 1.28 | 9258.19 | 1.40 | y | |||||
12917.50 | 1.28 | 9258.19 | 1.40 | y | ||||||||
12917.50 | 1.28 | 9258.19 | 1.40 | y | ||||||||
11 | - | - | - | 27899.12 | 1.26 | 1 | 1 | - | 30699.73 | 0.91 | x | |
1 | - | - | 27899.12 | 1.26 | - | - | 1 | 30699.73 | 0.91 | x | ||
- | 1 | 1 | 27899.12 | 1.26 | - | - | 1 | 30699.73 | 0.91 | x | ||
1 | - | - | 27899.12 | 1.26 | 30699.73 | 0.91 | x | |||||
27899.12 | 1.26 | 30699.73 | 0.91 | x | ||||||||
27899.12 | 1.26 | 30699.73 | 0.91 | x | ||||||||
12 | - | - | - | 30883.96 | 1.26 | - | - | - | 23050.66 | 1.34 | y | |
1 | 1 | - | 30883.96 | 1.26 | - | 1 | 1 | 23050.66 | 1.34 | y | ||
1 | 1 | - | 30883.96 | 1.26 | - | 1 | 1 | 23050.66 | 1.34 | y | ||
- | - | - | 30883.96 | 1.26 | 23050.66 | 1.34 | y | |||||
30883.96 | 1.26 | 23050.66 | 1.34 | y | ||||||||
30883.96 | 1.26 | 23050.66 | 1.34 | y | ||||||||
14 | - | 1 | 1 | 35032.14 | 1.27 | - | 1 | 1 | 25668.46 | 1.36 | y | |
- | - | - | 35032.14 | 1.27 | 1 | 1 | - | 25668.46 | 1.36 | y | ||
- | - | - | 35032.14 | 1.27 | - | - | - | 25668.46 | 1.36 | y | ||
1 | 1 | - | 35032.14 | 1.27 | 25668.46 | 1.36 | y | |||||
35032.14 | 1.27 | 25668.46 | 1.36 | y | ||||||||
35032.14 | 1.27 | 25668.46 | 1.36 | y |
收敛误差为7e-4,收敛199次,取迭代次数平均值
比较两组迭代次数
这两组顺序很不一致。在3差值结构中4a1,4a2,4a3,4a11的结构中都没有全0行,向结构中增加一个全0行,导致4a1,4a2,4s3迭代次数增加,而4a11迭代次数减小,4a4,4a12,4a14的结构中已经有了一个全0行,增加一个全0行导致迭代次数增加,但增幅比4a1,4a2,4a3要大。
所以这一实验暗示了,如果一组差值结构中有一个没有全0行,这组结构的顺序就是不稳定的,再增加一个全0行后顺序可能会变化。但是如果所有结构中都有全0行,这组结构的顺序就是稳定的,无论增加多少全0行顺序都一致。