信息論試題及答案

　　信息論試是一門專業(yè)性比較強(qiáng)的課程，要學(xué)好這門課程，同學(xué)們還是要用心去學(xué)才能學(xué)好信息論試。下面是陽光網(wǎng)小編給大家整理的，歡迎大家學(xué)習(xí)參考。

　　信息論試題及答案

　　1.信息技術(shù)的基本內(nèi)容是_______、_______、_____ __、_______。 2.已知英語字母的極限熵為 1bit ，且每個(gè)英語字 母的'最大熵 H max =4.0651bit，則英語信源的冗余度為______。

　　3.當(dāng)x i 和y j 相互獨(dú)立時(shí)，互信息量I(x i ;y j )為______。

　　4. 熵函數(shù)是嚴(yán)格的_____函數(shù)。

　　5. 已知信源包含的消息用一種延長碼組進(jìn)行編碼，它們的對應(yīng)關(guān)系：x 1 0，x 2 01，x 3 011，x 4 0111。設(shè)收到的 碼元序列為 010101110011100110101110，它能唯一地被譯成消息____ ____________。

　　6.信道容量的定義是___________ ____________ _______。

　　7.唯一可譯碼的碼長必需滿足一定條件，該條件為：_________ ______ 。

　　二、 簡述題 (20 分)

　　1、 試簡述信息的基本性質(zhì)。

　　2、試通過簡單的通信模型，描述平均互信息量的物理意義。

　　三、 有兩個(gè)二元隨機(jī)變量X 和Y 的聯(lián)合概率如下 表，并定義另一隨機(jī)變量Z=X ?Y (其中?代表異或運(yùn)算，即當(dāng)X，Y 取值相同時(shí)，Z 等于0，當(dāng)X，Y 取值 不相同時(shí)，Z 等于1) (15 分) Y X y 0 y 1 0 1 x 0 0 1/8 3/8 x 1 1 3/8 1/8 求： 1、I(x 0 ), I(y 1 ) 2、 ) ( X H ， ) ( Y H ， ) ( Z H 3、 ) ( XZ H ， ) ( XYZ H 4、 ) / ( Y X H ， ) / ( Z X H ， ) / ( XZ Y H 5、 ) ; ( Z X I ， ) / ; ( Z Y X I 四、設(shè)有一個(gè)信源，它產(chǎn)生 0，1 序列的消息。它在任意時(shí)間而且不論以前發(fā)出過