30/04,2016 - ΑΛΛΟ   

Claude Shannon- ο «πατέρας της θεωρίας πληροφορίας»

O Κλοντ Σάνον ήταν Αμερικανός μαθηματικός και ηλεκτρολόγος μηχανικός, γνωστός ως «ο πατέρας της θεωρίας πληροφορίας» και της σύγχρονης κρυπτολογίας.

Ο Σάνον θεμελίωσε στη δεκαετία του ’40 τη θεωρία πληροφοριών με στόχο τη μελέτη των τηλεπικοινωνιών, αναδεικνύοντας την πληροφορία σε μετρήσιμο και αυστηρά ορισμένο μέγεθος. Έθεσε έτσι τα θεμέλια για τα σύγχρονα τηλεπικοινωνιακά δίκτυα και βοήθησε να αναπτυχθεί η σημερινή Κοινωνία της Πληροφορίας. Είχε επίσης εξαιρετική συνεισφορά στην ανάπτυξη των ηλεκτρονικών υπολογιστών, αφού πρώτος έδειξε ότι με βάση την άλγεβρα Boole είναι δυνατή η δημιουργία ψηφιακών ηλεκτρικών κυκλωμάτων για την επίλυση μαθηματικών εξισώσεων. Η εργασία του στη θεωρία πληροφορίας έχει βρει εφαρμογή και σε άλλους τομείς όπως η γλωσσολογία, η φωνητική, η θεωρία του Χάους, η τεχνητή νοημοσύνη και η κρυπτογραφία. Το έργο του υπήρξε εξαιρετικά επηρεαστικό για τις τότε αναδυόμενες επιστήμες της ηλεκτρονικής μηχανικής και της πληροφορικής.

Η βιογραφία του

Ο Σάνον αποφοίτησε το 1936 από το Πανεπιστήμιο του Μίσιγκαν με δύο πτυχία, μαθηματικού και ηλεκτρολόγου μηχανικού, ενώ στη συνέχεια έκανε τις μεταπτυχιακές του σπουδές στο MIT υπό την επίβλεψη του Νόρμπερτ Βίνερ, του «πατέρα της κυβερνητικής». Κατά την παραμονή του στο ΜΙΤ ορίστηκε υπεύθυνος για τη λειτουργία του Διαφορικού Αναλυτή (Differential Analyzer), ο οποίος ήταν ένας υπολογιστής αποτελούμενος από μηχανικά μέρη και χρησίμευε για την επίλυση σύνθετων εξισώσεων. Γρήγορα άρχισε να σκέφτεται τρόπους βελτίωσης του Διαφορικού Αναλυτή με τη χρήση ηλεκτρικών κυκλωμάτων στη θέση των δύσχρηστων μηχανικών μερών. Δεν άργησε να διαπιστώσει ότι η άλγεβρα Boole είχε πολλά κοινά στοιχεία με ένα ηλεκτρικό κύκλωμα. Το επόμενο βήμα ήταν να σχεδιάσει κυκλώματα σύμφωνα με τις αρχές που είχε διατυπώσει ο Μπουλ στα μέσα του 19ου αιώνα.

Στην εργασία με τίτλο «Α Symbolic Analysis of Relay and Switching Circuits», ο Σάνον περιέγραψε με ποιον τρόπο η θεωρία του Βοοle, σύμφωνα με την οποία πολλά μαθηματικά προβλήματα μπορούν να λυθούν με τη χρήση μόλις δύο συμβόλων (1 και 0), μπορούσε να εφαρμοστεί με ηλεκτρικά διακοπτόμενα κυκλώματα. Το σύμβολο 1 μπορούσε να είναι ένας διακόπτης που είχε ενεργοποιηθεί, ενώ το σύμβολο 0 ένας διακόπτης που είχε απενεργοποιηθεί. Υποστήριξε επίσης ότι οι διακόπτες θα μπορούσαν να συνδέονται με τρόπο που να τους επιτρέπει να εκτελούν πιο πολύπλοκες λογικές πράξεις, προτείνοντας πέρα από τις απλές δηλώσεις «ναι» και «όχι», τη χρήση του «και» (AND), του «ή» (OR) ή του «δεν» (NOT). Σε επέκταση αυτών, ο Σάνον οραματίστηκε όλες τις μορφές επικοινωνίας σε δυαδικό κώδικα και υποστήριξε ότι τα δυαδικά ψηφία μπορούν να συμβολίσουν ακόμα και λέξεις, ήχους, εικόνες, ίσως και ιδέες. Η παραπάνω διατριβή χαρακτηρίστηκε ως μία από τις σημαντικότερες του 20ού αιώνα.

Το 1941 προσλήφθηκε στα Bell Telephone Labοratοries, όπου έγινε μέλος μιας ομάδας επιστημόνων που ανέλαβε να αναπτύξει αποτελεσματικές μεθόδους μετάδοσης της πληροφορίας και να βελτιώσει την αξιοπιστία των υπεραστικών τηλεφωνικών και τηλεγραφικών γραμμών.

Ο Σάνον πίστευε ότι η πληροφορία δεν διέφερε από οποιοδήποτε άλλο φυσικό μέγεθος και συνεπώς ήταν δυνατή η μέτρηση και ο χειρισμός της από μηχανές. Εφάρμοσε τα αποτελέσματα των προηγούμενων ερευνών και την εμπειρία του στην κρυπτογραφία για να αναπτύξει ένα μοντέλο που θα απλοποιούσε την πληροφορία. Πρότεινε έτσι ένα σύστημα από δυνατότητες επιλογής “ναι/όχι” που μπορούσε να αντιπροσωπεύεται από ένα δυαδικό κώδικα 1/0. Εισήγαγε επίσης την προσθήκη στην πληροφορία μιας σειράς από ειδικούς Κώδικες Διόρθωσης Σφάλματος (Error Correction Codes), με στόχο τη μείωση του θορύβου.

Το 1948, ο Σάνον δημοσίευσε με τον Warren Weaνer την εργασία με τίτλο «A Mathematical Theory of Communication». Ήταν η πρώτη ολοκληρωμένη μαθηματική απόπειρα θεμελίωσης της θεωρίας πληροφοριών. Στην εργασία αυτή εισάγεται για πρώτη φορά μια μονάδα μέτρησης της πληροφορίας, το δυαδικό ψηφίο (binary digit), που συντμήθηκε αργότερα αρχικά σε binit και στη συνέχεια στο γνωστό bit. Επίσης, πρότεινε τις έννοιες της αβεβαιότητας και της πληροφοριακής εντροπίας.

Η σημαντικότερη συνεισφορά του έργου του Σάνον είναι ότι παρέχει στους μηχανικούς τα μαθηματικά εργαλεία που απαιτούνται για τη μέτρηση της απόδοσης ενός καναλιού επικοινωνίας, δηλαδή πόση πληροφορία μπορεί να ξεκινήσει από το σημείο Α και να φθάσει στο σημείο Β χωρίς σφάλματα. Η επιθυμητή πληροφορία είναι το σήμα, η ανεπιθύμητη είναι ο «θόρυβος». Ο Σάνον είδε πως όσο λιγότερο θόρυβο έχει ένα κανάλι μεταφοράς, τόση περισσότερη πληροφορία μεταδίδει. Αντιστρόφως, όσο αυξάνεται η αταξία (θόρυβος), τόσο λιγότερη είναι η πληροφορία που μεταδίδεται. Άρα, η πληροφορία αποτελεί μέτρο της εσωτερικής τάξης του συστήματος και είναι αντιστρόφως ανάλογη με την αταξία. Όμως, η εντροπία είναι το μέτρο της αταξίας ενός συστήματος, άρα η πληροφορία είναι αντιστρόφως ανάλογη της εντροπίας. Το εντυπωσιακό με την εξίσωση του Σάνον για την εντροπία της πληροφορίας είναι ότι διέπεται από μία σχέση που είναι παρόμοια με την αντίστοιχη θερμοδυναμική εξίσωση του Μπόλτσμαν.

Στη δεκαετία του ’50, ο Σάνον στράφηκε στην ανάπτυξη αυτών που κλήθηκαν αργότερα «ευφυείς μηχανές» – μηχανισμοί που μιμούνται τις διαδικασίες του ανθρώπινου μυαλού – διά της οδού της κυβερνητικής. Από τις ανακαλύψεις σε αυτόν τον τομέα η πιο γνωστή είναι ένα «ποντίκι», o Theseus, για την επίλυση προβλημάτων λαβύρινθου, το οποίο χρησιμοποιούσε μαγνητικούς ηλεκτρονόμους και μπορούσε να ελίσσεται σε ένα λαβύρινθο από μεταλλικά χωρίσματα. Έγραψε επίσης ένα άρθρο με τίτλο «Programming a Computer for Playing Chess» και ανέπτυξε έναν υπολογιστή που έπαιζε σκάκι.

Ο Σάνον προσβλήθηκε από τη νόσο του Αλτσχάιμερ και πέθανε στις 24 Φεβρουαρίου του 2001.

Σχόλια

σχόλια