當前位置：首頁 > 编程资源 > 编程问答 >内容正文

编程问答

高斯定理在神经网络上的投影

發布時間：2023/12/18 编程问答 28 豆豆

生活随笔收集整理的這篇文章主要介紹了高斯定理在神经网络上的投影小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

電場強度對任意封閉曲面的通量只取決于該封閉曲面內電荷的代數和，與曲面內電荷的位置分布情況無關，與封閉曲面外的電荷亦無關。

---高斯定理

神經網絡的分類過程就是用一套權重讓形態A變換成形態B，再讓形態B變換成形態A。也就是讓組成A的粒子移動到（0，1）位，讓組成B的粒子移動到（1，0）位。用電池做類比，A的粒子是由正極到負極，而B的粒子是由負極到正極,。所以A和B粒子的運動事實上形成了一個閉合的回路。而權重就是粒子運動的空間本身，按照高斯定律權重空間一定有一個僅僅和移位粒子數量有關的物理表象。

所以用此思路可以很自然的得到移位距離和假設

用神經網絡分類A和B，把參與分類的A和B中的數字看作是組成A和B的粒子，分類的過程就是讓A和B中的粒子互相交換位置，尋找最短移位路徑的過程。而熵H與最短移位距離和成正比，迭代次數n和熵H成反比。

對二值化圖片移位規則匯總

每個粒子移位一次，位置重合不移位，0不動，單次移位距離恒為1.

所以迭代次數可以理解為權重空間的通量，這個量僅與移位粒子數量有關。用實驗去驗證這個假設

用神經網絡分類A和B讓A有8個1，B有5個1，統計相同收斂誤差下的迭代次數

	851	852	853	854
δ	迭代次數n	迭代次數n	迭代次數n	迭代次數n
5.00E-04	25288.76	25687.64	25628.29	22738.92
4.00E-04	31347.55	30984.3	31484.12	27653.1
3.00E-04	40549.93	40845.78	40562.37	36072.61
2.00E-04	59255.58	59526.14	59150.38	53116.99
1.00E-04	114094.8	111861.3	112058	100986.2
s	3	3	3	5

851，852，853不重合的需要移位的粒子都只有3個，因此他們的迭代次數相同。而854不重合粒子有5個，按照移位粒子數量和迭代次數之間的反比關系，854的迭代次數要小些。

做第二組

同樣統計迭代次數

	851	852	853	854	855	856	857	858
δ	迭代次數n	迭代次數n	迭代次數n	迭代次數n	迭代次數n	迭代次數n	迭代次數n	迭代次數n
5.00E-04	25288.76	25687.64	25628.29	22738.92	25451.39	22453.8	22649.25	22418.6
4.00E-04	31347.55	30984.3	31484.12	27653.1	31410.07	27650.26	27925.52	27807.69
3.00E-04	40549.93	40845.78	40562.37	36072.61	40813.36	36050.68	36206.22	36315.7
2.00E-04	59255.58	59526.14	59150.38	53116.99	59125.05	52699.7	52560.17	52650.34
1.00E-04	114094.8	111861.3	112058	100986.2	112628.3	101393.2	101142.5	101611.5
s	3	3	3	5	3	5	5	5

855的移位粒子數是3因此和851，852，853的迭代次數相同。而856，857，858的移位粒子數是5因此和854的迭代次數相同，數據符合假設。

再與前面實驗數據橫向比較

	981	871	971	881	861	122	961	875
δ	迭代次數n	迭代次數n	迭代次數n	迭代次數n	迭代次數n	迭代次數n	迭代次數n	迭代次數n
5.00E-04	34219.01	34553.02	28229.22	27843.89	28270.21	25862.05	25523.99	25117.39
4.00E-04	41899.68	41568.85	34548.15	34511.79	34803.25	31524.1	30958.15	31102.23
3.00E-04	53474.56	54287.27	44497.27	44407.41	45065.05	41011.36	40262.78	40239.05
2.00E-04	77797.83	78173.77	64693.36	64832.42	64707.93	59270.11	59096.97	58618.7
1.00E-04	148175	146473.4	123601.3	122874.1	123288	112397.9	113446.1	111994.6
s	1	1	2	2	2	3	3	3


	851	951	866	941	854	931	921	911
δ	迭代次數n	迭代次數n	迭代次數n	迭代次數n	迭代次數n	迭代次數n	迭代次數n	迭代次數n
5.00E-04	25288.76	23904.73	23868.01	22959.57	22738.92	22166.65	22094.36	23575.86
4.00E-04	31347.55	28978.03	28820.87	27774.2	27653.1	27290.48	27253.6	28991.81
3.00E-04	40549.93	38252.24	37659.14	35993.35	36072.61	35639.73	35340.25	37399.98
2.00E-04	59255.58	55426.48	54661.18	52950.71	53116.99	51890.25	52155.43	54335.16
1.00E-04	114094.8	106880.8	106599.8	101146.2	100986.2	100158	98502.28	102787.2
s	3	4	4	5	5	6	7	8

數據符合假設。

總結

以上是生活随笔為你收集整理的高斯定理在神经网络上的投影的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。