日韩性视频-久久久蜜桃-www中文字幕-在线中文字幕av-亚洲欧美一区二区三区四区-撸久久-香蕉视频一区-久久无码精品丰满人妻-国产高潮av-激情福利社-日韩av网址大全-国产精品久久999-日本五十路在线-性欧美在线-久久99精品波多结衣一区-男女午夜免费视频-黑人极品ⅴideos精品欧美棵-人人妻人人澡人人爽精品欧美一区-日韩一区在线看-欧美a级在线免费观看

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

信息量为什么要表示成对数的形式

發布時間:2024/8/1 编程问答 48 豆豆
生活随笔 收集整理的這篇文章主要介紹了 信息量为什么要表示成对数的形式 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

近期在路上進行了不少的思考,任何方面,任何領域…我會把這些記錄在手機的備忘錄里,然后在周末總結出來,早就成了習慣。

??近日對信息論排隊論以及貝葉斯定理關注比較多,后二者可以完全改造TCP的擁塞控制機制,所以基礎還是要夯實的。本文描述一個基礎中的基礎,后續我會追加關于對這些基礎背后的一些哲學層面上的思考,但由于今天只是周四,就只能到周六了。


有人問一件事發生后所攜帶的信息量為什么要表示成事件發生概率的對數的形式,我在文章《不知為不知–信息論和最大熵原則》里面的香農的信息論一節中已經回答過了,這里再次列一下:

這里應該說的很明白了。之所以還是有人問,那是因為他們想知道為什么“第三點要求確定了對數關系”,依據是什么?本文我給出一個數學上的說明。

??首先把上述三點翻譯成數學語言:

f(x)AxA

limr0f(r)=+

f(1)=0

f(x1x2)=f(x1)+f(x2)??x1,x2(0,1]

然后這就成了一道我們都很熟悉的數學題:

f(x)x(0,1]滿f(xy)=f(x)+f(y)f(x)

是的,這是一個函數方程,把它解出來就是答案!說到這里,很多人就覺得容易了,我這里僅給出一個推導,實際的解法有太多。


x=y=1
f(1)=f(1)+f(1),f(1)=0,

?

f(1)?f(x)

=1xf(t)dt

=1xf(t+dt)?f(t)dtdt

=1xf(tt+dtt)?f(t)dtdt

=1xf(t)+f(1+dtt)?f(t)dtdt

=1xf(1+dtt)dtdt

=1xf(1+dtt)?f(1)dtdt

=1x1tf(1+dtt)?f(1)dttdt

limdt0dtt=0,

f(1)?f(x)=1x1tf(1)dt??=>

0?f(x)=f(1)1x1tdt,0<t1f(1)=0

f(x)=?f(1)lnx?? (x(0,1])

到此基本已經完成了推導,如果覺得底數為e不代表一般性,那么就來個換底公式歸一化一下:

f(x)=?f(1)logaelogax

γ=logaef(1)γ

F(x)=γf(x)=?logax

F(x)γ

最后的這個縮放系數可以理解成信息量的單位,不管最終的loga中的底數a是多少,只要a是確定的,那么以a為底數度量的信息量的比例都是一致的,也就是說它們是相似的。鑒于不同事件發生的信息量是一個相對值,所以說,這里可以忽略這個縮放系數γ,最終信息量記為:

f(x)=?logax


我們發現,這其實是一個多么簡單的過程,基本上就是在學習了函數方程后的一道每個人必須完成的課后作業題。

??在一段不長不短的時間以后,接觸到了信息論,卻對信息量為什么表示成概率的對數迷惑不解,追溯起來當初在考試的時候,關于已知限制條件求解f(x)通解的試題那可以說是信手拈來啊…


解題歸解題,又扯了一些沒用的…

??如果說本文這個數學推導還是無法讓人信服,那么接下來的問題就上升到哲學高度了,問題很簡單:對數的本質是什么,為什么人們篤愛對數?

??道可道非常道,終極的東西往往是無法表達的,所以就只能舉一些例子來理解,這些例子其實就是柏拉圖的影子。今天有點晚了,周末時,我會寫一篇文章說說我對對數貝葉斯定理的看法。

總結

以上是生活随笔為你收集整理的信息量为什么要表示成对数的形式的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

主站蜘蛛池模板: 日批视频免费看 | 精品玖玖玖 | 国产一区欧美日韩 | 免费一区视频 | 欧美日本日韩 | 女教师痴汉调教hd中字 | 999视频在线 | 国产高清无密码一区二区三区 | 成人久久久久久久 | 天堂av亚洲av国产av电影 | 免费黄色小视频在线观看 | 在线观看中文字幕av | 日韩人妻无码精品久久免费 | 免费无码不卡视频在线观看 | 亚洲小说区图片区 | 日本精品在线看 | 久久久久久一区二区三区 | 天天综合久久 | 岛国精品在线观看 | 国产精品一区二区三区四区在线观看 | 国产女人与zoxxxx另类 | 国产在线视频福利 | 精品国产乱码久久久久久108 | 日日碰狠狠添天天爽无码av | 韩国三级在线视频 | 欧美日韩网| 精品久久91 | 日本久久久久久 | 手机看片1024在线 | 青娱乐极品在线 | 99精品一区二区 | 国产一级片精品 | 成人美女在线 | 久久久啊啊啊 | 亚洲精品电影在线观看 | 韩国三级中文字幕hd浴缸戏 | 99热精品免费| 色哟哟无码精品一区二区三区 | 91久久国产综合久久91精品网站 | 中文字幕――色哟哟 | 黄页嫩草 | 国产在线无码精品 | va在线观看 | 女人张开腿让男人插 | 亚洲 美腿 欧美 偷拍 | 最新色站 | 91伦理视频 | 精久久久 | 天天躁日日躁狠狠躁欧美 | 欧美一本在线 | av不卡免费在线 | 日韩在线一区二区三区四区 | 美女脱裤子让男人捅 | 国产制服在线 | 亚洲永久免费av | 亚洲天堂首页 | 欧洲精品久久久久毛片完整版 | 日本jizz在线观看 | 看黄免费网站 | 精品久久久久久久久久久久 | 噜噜狠狠狠狠综合久久 | 四虎在线精品 | 在线观看欧美日韩视频 | 日韩一区二区视频在线观看 | 免费性片| 亚洲第一视频网 | www黄色av | 一区二区三区视频在线观看免费 | 婷婷中文字幕 | 久久久一区二区三区四区 | 香蕉视频网站入口 | 一区二区三区免费观看 | 欧美亚洲在线视频 | 永久免费在线播放 | 手机在线视频一区 | 亚洲色图另类小说 | 超能一家人电影免费喜剧在线观看 | 国产精品88av| 在线黄网站| 日本久久黄色 | 欧洲中文字幕 | 日韩av日韩 | 亚洲国产精品va在线看黑人 | 国产肥白大熟妇bbbb视频 | 国产女上位 | 综合在线视频 | 情趣五月天 | 欧美性jizz18性欧美 | www.日韩高清| 农村激情伦hxvideos | 人体写真 福利视频 | 国产高清在线视频观看 | 国产精成人品免费观看 | 国产在线精品一区二区 | 亚洲国产精品久久久久久久 | 东京av男人的天堂 | 日韩av男人的天堂 | 日本中文字幕一区二区 | 最近中文字幕一区二区 |