TAILIEUCHUNG - Giáo trình: Lý thuyết thông tin part 6

Xây dựng công thức tính dung lượng kênh truyền đối xứng Do H(Y/X) không phụ thuộc vào phân phối của X = Max của I(X/Y) được quy về mã của H(Y). Hay C = Max I ( X / Y ) = Max( H (Y ) − H (Y / X )) Ta có thể tính dễ dàng: H (Y / X ) = −∑ p ' j log p ' j = const | Giáo trình Lý thuyết thông tin. Xây dựng công thức tính dung lượng kênh truyền đối xứng Do H Y X không phụ thuộc vào phân phối của X Max của I X Y được quy về mã của H Y . Hay C MaxI X Y Max H Y - H Y X Ta có thể tính dễ dàng H Y X -ị p log p const Do đó j C MaxI X Y MaxH Y p log p7 ì i Do H Y logL ta cần chứng tỏ xảy ra khi p1 p2 . pL 1 L Xét trường hợp P X xi 1 M với mọi i chứng minh P Y yj 1 L với mọi j Thật vậy P Y y X P Y y . X x ẳP X x PY y X x MMPì Mq i 1 Từ A ta nhận thấy _f A P11 P L . E A tổng các phần tử của A. M M - k PM1 . PML 7 X hang cot Do Ẹ z A La A 1 M _ ML L M L i tqt M i i i i L P Y y H Y - p PQY y logP Y y log L Max M L L j j H Y đạt max là logL khi P Y yj 1 L hoặc P X xi 1 M Vậy C log L - H p 1 p 2 . p l hay C logL Pj logPj j 1 Chú ý trường hợp kênh 1 bit với nhiễu p Y p ì 1 - P Ma trận truyền tin A Dung lượng C 1 1-P log 1-P plogP 1- H P 1-P Biên soạn TS. L é Quy ết Thắng ThS. Phan Tấn Tài Ks. Dương Văn Hiếu. 51 Giáo trình Lý thuyết thông tin. 1 - H p 1-p Định lý về dung lượng kênh truyền Giả sử ma trạn A có dạng vuông và có ma trận nghịch đảo là A-1 Ký hiệu A pij với i 1 2 . M và j 1 2 . M A-1 qij với i 1 2 . M và j 1 2 . M Đặt tham số dk Xqjk exp2 - Xqj Y X Xi j 1 L i 1 Vk 1 M Nếu dk 0 thì dung lượng kênh truyền có dạng M C Log E exp 2 l j 1 M -X q H Y X X i 1 Giá trị cực đại đạt khi tín hiệu vào X X thỏa phân phối P X xk 2-Cdk Hay C max I X Y I X Y Chú ý - Điều kiện dk 0 cho phép hàm I X Y là hàm lồi Tồn tại Max tuyệt đối tại phân phối của X với p X xk 2-C dk pk với mọi k . - Nếu điều kiện ma trận vuông hoặc ma trận ngịch đảo không thỏa thì giá trị cực đại max sẽ nằm trên đường biên của miền xác định pk 0 và -Lpk 1 Bài tập 1. Cho một kênh truyền có ma trận truyền tin như sau X1 1 2 1 3 1 6 X2 1 3 1 6 1 2 x3 .1 6 1 2 1 3 y1 y 2 y3 Tính dung lượng kênh truyền. 2. Chứng minh các công thức tính dung lượng kênh truyền trên. Biên soạn TS. L ê Quy ết Thắng ThS. Phan Tấn Tài Ks. Dương Văn Hiếu. 52 Giáo trình Lý thuyết thông tin. BÀI LƯỢC ĐỒ .

• Kĩ thuật Viễn thông
• giáo trình Lý thuyết thông tin
• bài giảng Lý thuyết thông tin
• tài liệu Lý thuyết thông tin
• đề cương Lý thuyết thông tin
• bài tập Lý thuyết thông tin
• hệ thống thông tin
• lý thuyết thông tin
• Độ do lượng tin
• sinh mã tách được
• kênh thông tin rời rạc không nhớ
• sửa lỗi kênh truyền
• tài liệu học đại học
• bài giảng về lý thuyết thông tin
• kỹ thuật thông tin liên lạc
• bài giảng về công nghệ viễn thông
• Khoa học máy tính
• Giáo trình môn học Lý thuyết thông tin
• Độ đo thông tin
• Đồ họa máy tính
• Lý thuyết số
• Giáo trình lý thuyết
• bài giảng lý thuyết
• lý thuyết hệ thống
• thông tin liên lạc
• Mô hình lý thuyết thông tin
• Độ đo lượng tin
• Định lý cơ sở của kỹ thuật truyền tin
• Dung lượng kênh truyền
• Kênh truyền tin rời rạc
• Sửa lỗi trên kênh truyền
• Kênh truyền tin rời rạc không nhớ
• Cơ sở lý thuyết truyền tin
• Hệ thống truyền tin
• Mã hóa thông tin
• Điều chế thông tin
• Khái niệm mã hóa