日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪(fǎng)問(wèn) 生活随笔!

生活随笔

當(dāng)前位置: 首頁(yè) > 编程资源 > 编程问答 >内容正文

编程问答

神经网络参数迁移与惯性质量

發(fā)布時(shí)間:2025/4/5 编程问答 18 豆豆
生活随笔 收集整理的這篇文章主要介紹了 神经网络参数迁移与惯性质量 小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

(0,1)-81*10*2-(1,0)(0,1)

作一個(gè)二分類(lèi)網(wǎng)絡(luò)分類(lèi)mnist的0和1,但用這個(gè)網(wǎng)絡(luò)來(lái)分類(lèi)其他對(duì)象,比如(0,2),(0,3),(0,4),實(shí)現(xiàn)參數(shù)遷移。這種操作是否有什么物理意義?

?

通過(guò)固定收斂標(biāo)準(zhǔn)多次測(cè)量取平均值的辦法計(jì)算這個(gè)網(wǎng)絡(luò)分類(lèi)02,03,04的分類(lèi)準(zhǔn)確率,

得到表格

?*01*01*01
?*02*03*04
δ平均準(zhǔn)確率p-ave平均準(zhǔn)確率p-ave平均準(zhǔn)確率p-ave
0.50.5123530.5121210.506664
0.40.6279110.6039240.622176
0.30.6735490.6627840.654716
0.20.7126760.688690.682039
0.10.6925480.6690010.651714
0.010.7304910.7136410.668127
0.0010.7231790.7122270.64577
9.00E-040.7180810.7063660.63909
8.00E-040.716870.7070.634211
7.00E-040.7222140.7142090.636247
6.00E-040.7337330.7262440.648851
5.00E-040.7466410.7451530.65918
4.00E-040.7522550.7530490.661081
3.00E-040.739620.7382670.648764
2.00E-040.7270320.7028180.620956
1.00E-040.7466460.7435340.620877
9.00E-050.7478750.7455060.61798
8.00E-050.7465860.7441350.616631
7.00E-050.7447850.7451530.615163
6.00E-050.7454020.7474630.6092
5.00E-050.7486340.753430.608076
4.00E-050.7524130.7581320.604534
3.00E-050.7536410.7446050.59986
2.00E-050.7494760.7306230.592132
1.00E-050.7387910.685750.579265

把分類(lèi)準(zhǔn)確率畫(huà)成圖

平均分類(lèi)準(zhǔn)確率Pave? 02>03>04

按照假設(shè)2:

對(duì)應(yīng)不同的兩個(gè)對(duì)象,迭代次數(shù)越大,二者的相對(duì)速度越大;相對(duì)速度越大分類(lèi)準(zhǔn)確率越大。

?

比如當(dāng)收斂標(biāo)準(zhǔn)為1e-5的,02的分類(lèi)準(zhǔn)確率為0.738,04的分類(lèi)準(zhǔn)確率為0.579.按照假設(shè)2,可以得出02粒子對(duì)的相對(duì)速度>04粒子對(duì)的相對(duì)速度。

因?yàn)槭諗繕?biāo)準(zhǔn)是一樣的,可以合理假設(shè)對(duì)這兩個(gè)粒子對(duì)做的功是一樣的。因此可以得出02粒子對(duì)的質(zhì)量<04粒子對(duì)的質(zhì)量。

?

也就是分類(lèi)準(zhǔn)確率越大粒子對(duì)質(zhì)量越小。

因此可以假設(shè)網(wǎng)絡(luò)(0,1)-81*10*2-(1,0)(0,1)構(gòu)成的分類(lèi)場(chǎng)形成了一個(gè)慣性系統(tǒng),參數(shù)遷移相當(dāng)于測(cè)量其他對(duì)象在這個(gè)慣性系統(tǒng)里的慣性質(zhì)量。

就像不同質(zhì)量的人在電梯里,當(dāng)電梯上升時(shí)感受到的力應(yīng)該是不同的。

?

從形態(tài)上看4和1最像,2和1的形態(tài)差異最大。因此4和1的波函數(shù)的等效交叉程度最大,所以粒子對(duì)02,03,04在01的慣性系中擁有的慣性質(zhì)量順序04>03>02.

或者至少用慣性質(zhì)量解釋參數(shù)遷移這件事是邏輯連貫的。

?

總結(jié)

以上是生活随笔為你收集整理的神经网络参数迁移与惯性质量的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。