Teorie informace a kódování

B232 - Letní 23/24

Teorie informace a kódování - B2M01TIK

Kredity 6
Semestry letní
Zakončení zápočet a zkouška
Jazyk výuky čeština
Rozsah výuky 3P+1C
Anotace
Předmět seznamuje studenty s matematickými základy zpracování digitální informace, efektivní kompresí dat a přenosen dat pomocí samoopravných kódů.
Cíle studia
Porozumění matematickému modelu kódování a přenosu digitální informace.
Osnovy přednášek
1) Algebraické struktury používané při detekci a opravě chyb - okruh Zn.
2) Lineární prostory nad tělesem Zp.
3) Lineární kódy - generující a kontrolní matice.
4) Opravování chyb, Hammingovy kódy.
5) Polynomy nad Zp a faktorové okruhy polynomů.
6) Cyklické kódy - generující a kontrolní polynom.
7) Galoisova tělesa, primitivní prvek.
8) Kořeny cyklických kódů v tělese.
9) BCH kódy.
10) Teorie informace - pravděpodobnost a entropie.
11) Entropie, informační divergence, vzájemná informace.
12) Komprese dat a zdrojové kódování.
13) Universální komprese (Lempel - Ziv).
14) Informační kanál, Shannonova věta o kapacitě kanálu.
Osnovy cvičení
1) Algebraické struktury používané při detekci a opravě chyb - okruh Zn.
2) Lineární prostory nad tělesem Zp.
3) Lineární kódy - generující a kontrolní matice.
4) Opravování chyb, Hammingovy kódy.
5) Polynomy nad Zp a faktorové okruhy polynomů.
6) Cyklické kódy - generující a kontrolní polynom.
7) Galoisova tělesa, primitivní prvek.
8) Kořeny cyklických kódů v tělese.
9) BCH kódy.
10) Teorie informace - pravděpodobnost a entropie.
11) Entropie, informační divergence, vzájemná informace.
12) Komprese dat a zdrojové kódování.
13) Universální komprese (Lempel - Ziv).
14) Informační kanál, Shannonova věta o kapacitě kanálu.
Literatura
[1] Cover, T.M., Thomas, J.A.: Elements of Information Theory. Wiley, 2006.
[2] Yeung, R.W.: Information Theory and Network Coding. Springer, 2008.
[3] Adámek, J.: Kódování. SNTL, Praha, 1989.
[4] Vajda, I.: Teorie informace. Vydavatelství ČVUT, 2004.
Požadavky
Pravděpodobnost a statistika
Diskrétní matematika