信息论(一):概述
1. 什么是信息
1.1 在通信中對信息的表達:
- 信息是指各個事物運動的狀態及狀態變化的方式。
- 消息是信息的載體。
- 信號是信息的物理表達。
信息具有廣泛性和抽象性。
1.2 信息的重要性質
- 存在普遍性,有序性,相對性,可度量性,可擴充性,可儲存、傳輸與攜帶,可壓縮性,可替代性,可共享性,時效性。
1.3 香農信息——概率信息
信息是事物運動狀態或存在方式的不確定性描述。
2. 什么是信息論
信息論是專門研究信息的有效處理和可靠傳輸的一般規律的學科。
3. 信息論研究的對象、目的和內容
3.1 信息論研究的對象:通信系統模型
- 信源:產生消息和消息序列的源。
-
編碼器:將信源發出的消息變成適用于信道傳達的信號。
一般有信源編碼器和信道編碼器。- 信源編碼器:信源壓縮編碼,提高信息傳輸效率。
- 信道編碼器:信道糾錯編碼,提高信息傳輸的可靠性。
- 信道:信號從甲地傳到乙地的媒介或通道。
- 譯碼器:把編碼信息(已疊加干擾)進行反變換,分為信源譯碼器和信道譯碼器。
- 信宿:消息傳送的對象。
3.2 信息論研究的目的
提高信息傳輸的可靠性、有效性、保密性和認證性。
3.3 信息論研究的內容
- 狹義信息論——經典信息論
- 一般信息論——工程信息論
- 廣義信息論
總結
- 上一篇: 搭建MHA
- 下一篇: Spring MVC 概述