Θεωρία της Πληροφορίας

E-mail Εκτύπωση PDF

Εβδομαδιαίες ώρες διδασκαλίας:    2 θεωρία + 1 ασκήσεις πράξεις

Tυπικό εξάμηνο διδασκαλίας:         Γ

Διδασκαλία: Η διδασκαλία του μαθήματος έχει τη μορφή 15 διαλέξεων, στο πλαίσιο των οποίων υπάρχει η δυνατότητα ανάληψης εργασιών.

Ενδεικτικά προαπαιτούμενα: Θεωρία Πιθανοτήτων και Στατιστική 

Διδακτικές μονάδες: 5 

Σκοπός και στόχοι του μαθήματος:

Το μάθημα αποσκοπεί στο να παράσχει στο σπουδαστή βασικές γνώσεις  της θεωρίας πληροφοριών και κωδίκων. Οι γνώσεις αυτές θεωρούνται απαραίτητες για τη μελέτη και ανάλυση τηλεπικοινωνιακών συστημάτων καθώς και για την κατανόηση τεχνικών κωδικοποίησης δεδομένων που στοχεύουν είτε στην συμπίεση δεδομένων είτε στην αντιμετώπιση των συνεπειών του θορύβου.

Μετά την παρακολούθηση του μαθήματος οι σπουδαστές θα πρέπει να μπορούν:

  • Να εκτιμούν την πληροφορία που περιέχει έχει σύνολο δεδομένων.
  • Να υπολογίζουν την εντροπία μίας πηγής πληροφορίας.
  • Να υπολογίζουν τη χωρητικότητα ενός απλού δίαυλου πληροφορίας.
  • Να κατανοούν τους περιορισμούς τους οποίους υπόκειται κάθε τεχνική κωδικοποίησης δεδομένων.
  • Να αναγνωρίζουν τα πλεονεκτήματα και μειονεκτήματα διαφόρων απλών κωδίκων  ανίχνευσης και διόρθωσης σφάλματος.

Περίγραμμα μαθήματος:

  •  

Μέτρο της πληροφορίας. Μέση πληροφορία – Εντροπία.

  •  

Πηγή πληροφορίας. Σύνθετη πηγή πληροφορίας.

Συνδετική και υπό συνθήκη εντροπία. Διαπληροφορία.

Δίαυλος πληροφορίας και χωρητικότητα διαύλου.

Εντροπία θορύβου. Εντροπία διαύλου.

Χαρακτηριστικοί δίαυλοι πληροφορίας.

Υπολογισμός χωρητικότητας με την τεχνική Muroga.

Κωδικοποίηση και βασικές κατηγορίες κωδίκων.

Μέσο μήκος κώδικα. Βέλτιστος κώδικας

Αθόρυβη κωδικοποίηση – 1ο θεώρημα Shannon.

Απλοί κώδικες μεταβλητού μήκους

Ενθόρυβη κωδικοποίηση – 2ο θεώρημα Shannon.

Κώδικες ανίχνευσης και διόρθωσης σφαλμάτων.

Κυκλικοί κώδικες

Βασική Βιβλιογραφία:

  1. Θεωρία της Πληροφορίας, Σημειώσεις, Τ.Ε.Ι. Σερρών, Σέρρες.
  2. Δ. Χ. Βούκαλης, Θεωρία Πληροφοριών και Κωδίκων, Εκδόσεις Ίων, Περιστέρι, 1994.

Συμπληρωματική Βιβλιογραφία:

  1. Δ. Π. Χρυσουλίδης, Εισαγωγή στη Θεωρία Πληροφοριών, Αριστοτέλειο Πανεπιστήμιο Θεσσαλονίκης, Θεσσαλονίκη, 1991.
  2. R. G. Gallager, Information Theory and Reliable Communication, Wiley, New York, 1968.
  3. T. M. Cover and J. A. Thomas, Elements of Information Theory, Wiley, New York, 1991.
 

Ηλεκτρονικές Υπηρεσίες