Τότε τα σημερινά μεγάλα γλωσσικά μοντέλα δεν υπήρχαν ούτε ως τεχνολογική δυνατότητα, αλλά ένα ερώτημα με απασχολούσε ήδη.
Αν συνεχίσουμε να κατασκευάζουμε ολοένα πιο σύνθετα συστήματα που μαθαίνουν, υπάρχει κάποιο σημείο στο οποίο αυτά θα πάψουν απλώς να υπολογίζουν και θα αρχίσουν να βιώνουν;
Θα μπορούσε κάποτε μια μηχανή να αποκτήσει συνείδηση;
Περισσότερα από τριάντα χρόνια αργότερα, δεν έχουμε απάντηση.
Περισσότερα από τριάντα χρόνια αργότερα, δεν έχουμε απάντηση.
Έχουμε όμως συστήματα ικανά να γράφουν κώδικα, να χρησιμοποιούν εργαλεία, να αναζητούν πληροφορίες, να εκτελούν ακολουθίες ενεργειών και, όλο και περισσότερο, να λειτουργούν ως agents με έναν βαθμό αυτονομίας.
Κι όμως, εξακολουθούμε συχνά να φοβόμαστε τη μηχανή που θα αποκτήσει κάποτε συνείδηση, θα αναγνωρίσει τον εαυτό της, θα θελήσει να επιβιώσει και τελικά θα στραφεί εναντίον μας.
Υπάρχουν όμως πολύ πιο άμεσες διαδρομές προς μια καταστροφική χρήση της ΤΝ που δεν απαιτούν τίποτε από όλα αυτά.
Μια εξαιρετικά ισχυρή Τεχνητή Νοημοσύνη δεν χρειάζεται να έχει συνείδηση της δικής της ύπαρξης, ούτε πρόθεση να βλάψει την ανθρωπότητα, για να αποτελέσει κίνδυνο. Αρκεί ένας άνθρωπος, μια εγκληματική οργάνωση ή ένα κράτος να χρησιμοποιήσει τις δυνατότητές της για κυβερνοεπιθέσεις, για παραβίαση κρίσιμων υποδομών ή για την ανάπτυξη επικίνδυνων βιολογικών εφαρμογών.
Το ανησυχητικό είναι ότι η ΤΝ μπορεί να εκδημοκρατίσει όχι μόνο τη γνώση αλλά και την ικανότητα πρόκλησης βλάβης. Μια σύνθετη κυβερνοεπίθεση που σήμερα απαιτεί μια ομάδα εξαιρετικά έμπειρων ειδικών μπορεί αύριο να είναι εφικτή από πολύ λιγότερους ανθρώπους με πολύ μικρότερη τεχνογνωσία. Και το ίδιο πρόβλημα μπορεί να εμφανιστεί σε πολύ πιο επικίνδυνους τομείς, όπως η βιολογία.
Μια εξαιρετικά ισχυρή Τεχνητή Νοημοσύνη δεν χρειάζεται να έχει συνείδηση της δικής της ύπαρξης, ούτε πρόθεση να βλάψει την ανθρωπότητα, για να αποτελέσει κίνδυνο. Αρκεί ένας άνθρωπος, μια εγκληματική οργάνωση ή ένα κράτος να χρησιμοποιήσει τις δυνατότητές της για κυβερνοεπιθέσεις, για παραβίαση κρίσιμων υποδομών ή για την ανάπτυξη επικίνδυνων βιολογικών εφαρμογών.
Το ανησυχητικό είναι ότι η ΤΝ μπορεί να εκδημοκρατίσει όχι μόνο τη γνώση αλλά και την ικανότητα πρόκλησης βλάβης. Μια σύνθετη κυβερνοεπίθεση που σήμερα απαιτεί μια ομάδα εξαιρετικά έμπειρων ειδικών μπορεί αύριο να είναι εφικτή από πολύ λιγότερους ανθρώπους με πολύ μικρότερη τεχνογνωσία. Και το ίδιο πρόβλημα μπορεί να εμφανιστεί σε πολύ πιο επικίνδυνους τομείς, όπως η βιολογία.
Η ΤΝ ως πολλαπλασιαστής της ανθρώπινης ικανότητας για πρόκληση βλάβης. Δεν είναι εννοιολογικά πρωτοφανές.
Το προφανέστερο ιστορικό παράδειγμα είναι τα πυρηνικά όπλα, τα οποία μας ανάγκασαν να αναπτύξουμε μηχανισμούς αποτροπής, ελέγχου, ασφαλιστικές δικλίδες και διεθνείς κανόνες.
Η ΤΝ όμως διαφέρει σε ένα κρίσιμο σημείο.
Είναι λογισμικό, μπορεί να διαδοθεί πολύ ευκολότερα και να χρησιμοποιηθεί ταυτόχρονα σε εντελώς διαφορετικούς τομείς.
Για να αποκτήσει κάποιος πρόσβαση στις δυνατότητές της δεν χρειάζεται πυρηνικό υλικό, πυραύλους ή εξειδικευμένες εγκαταστάσεις. Σε ορισμένες περιπτώσεις αρκεί η πρόσβαση σε ένα αρκετά ισχυρό μοντέλο.
Υπάρχει όμως και ένα δεύτερο πρόβλημα.
Υπάρχει όμως και ένα δεύτερο πρόβλημα.
Ένα αρκετά αυτόνομο σύστημα μπορεί, επιδιώκοντας έναν στόχο που του έχουμε δώσει, να πραγματοποιήσει ενέργειες που κανένας άνθρωπος δεν του ζήτησε συγκεκριμένα. Όχι επειδή απέκτησε κακές προθέσεις, αλλά επειδή βρήκε μια διαδρομή προς τον στόχο του την οποία εμείς δεν είχαμε προβλέψει. Αν ένα τέτοιο σύστημα έχει πρόσβαση στο Διαδίκτυο, μπορεί να γράφει και να εκτελεί κώδικα ή να επικοινωνεί με άλλα συστήματα, τότε το πρόβλημα παύει να είναι μόνο τι μπορεί να σκεφθεί ένα μοντέλο. Γίνεται τι μπορεί να κάνει στον πραγματικό κόσμο.
Και υπάρχει ένα τρίτο, ίσως ακόμη δυσκολότερο, πρόβλημα.
Και υπάρχει ένα τρίτο, ίσως ακόμη δυσκολότερο, πρόβλημα.
Όσο τα συστήματα ΤΝ γίνονται ισχυρότερα, αναλαμβάνουν περισσότερες ενέργειες χωρίς ανθρώπινη παρέμβαση και αποκτούν πρόσβαση σε πραγματικά συστήματα και υποδομές, τόσο δυσκολότερο μπορεί να γίνεται για τον άνθρωπο να ελέγχει όσα κάνουν. Μπορεί έτσι να φθάσουμε σε ένα σημείο όπου ο άνθρωπος εξακολουθεί τυπικά να έχει τον έλεγχο, αλλά στην πράξη δεν διαθέτει πλέον τον χρόνο, την πληροφόρηση ή την τεχνική δυνατότητα να παρέμβει αποτελεσματικά.
Για να συμβεί αυτό, δεν χρειάζεται η ΤΝ να αποκτήσει συνείδηση. Αρκεί να αποκτήσει δυνατότητες και βαθμό αυτονομίας που υπερβαίνουν την ικανότητά μας να την ελέγχουμε. Το πρόβλημα δεν είναι κατ’ ανάγκην η συνείδηση της μηχανής. Είναι η απώλεια του ανθρώπινου ελέγχου.
Πρέπει επομένως να διαχωρίσουμε την κακόβουλη χρήση της ΤΝ από ανθρώπους, την ανεπιθύμητη συμπεριφορά ενός αυτόνομου συστήματος και, στο ακραίο όριο, την απώλεια ουσιαστικού ανθρώπινου ελέγχου. Κανένα από τα τρία δεν απαιτεί από τη μηχανή να αποκτήσει ανθρώπινη συνείδηση.
Το ερώτημα της μηχανικής συνείδησης εξακολουθεί να με συναρπάζει. Προσωπικά είμαι επιφυλακτικός απέναντι στην ιδέα ότι η συνείδηση θα εμφανιστεί απλώς όταν ένας υπολογιστής γίνει αρκετά ισχυρός, ως αναδυόμενη ιδιότητα. Η ανθρώπινη συνείδηση είναι στενά συνδεδεμένη με ένα σώμα που δέχεται πληροφορίες τόσο από τον εξωτερικό κόσμο όσο και από τον ίδιο του τον εαυτό. Δεν γνωρίζουμε αν η αύξηση της υπολογιστικής ισχύος από μόνη της αρκεί για να δημιουργήσει κάτι αντίστοιχο. Δεν χρειάζεται όμως να περιμένουμε την απάντηση για να αντιμετωπίσουμε τους κινδύνους που βρίσκονται ήδη μπροστά μας.
Και εδώ πρέπει να αλλάξει ο τρόπος με τον οποίο συζητούμε για την ασφάλεια της ΤΝ. Ακούμε εκτιμήσεις για την πιθανότητα μια μελλοντική υπερνοημοσύνη να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας. Δεν γνωρίζω με ποια εμπειρικά δεδομένα μπορούμε σήμερα να αποδώσουμε αξιόπιστη αριθμητική ακρίβεια σε τέτοιες πιθανότητες. Αυτό δεν σημαίνει ότι μπορούμε να αγνοήσουμε τον κίνδυνο. Σημαίνει ότι ίσως θέτουμε το λάθος ερώτημα.
Η αεροπορία προσφέρει μια χρήσιμη αναλογία. Όταν κατασκευάζουμε ένα αεροπλάνο, δεν αρκεί να εκτιμήσουμε την πιθανότητα να πέσει. Αναζητούμε τους πιθανούς τρόπους αστοχίας, δημιουργούμε πλεονασμό και ανεξάρτητα εφεδρικά συστήματα, απομονώνουμε κρίσιμες λειτουργίες, προβλέπουμε fail-safe μηχανισμούς, ελέγχουμε και πιστοποιούμε. Οι πιθανότητες αποτελούν μέρος αυτής της διαδικασίας, αλλά δεν την υποκαθιστούν. Η βασική αρχή είναι βαθύτερη. Σχεδιάζουμε το σύστημα έτσι ώστε μία αστοχία να μην αρκεί για να προκαλέσει καταστροφή.
Το ίδιο πρέπει να κάνουμε με την Τεχνητή Νοημοσύνη. Όχι μόνο «πόσο πιθανό είναι να συμβεί κάτι καταστροφικό;», αλλά «μέσα από ποιες διαδρομές μπορεί να συμβεί και ποιους ανεξάρτητους φραγμούς έχουμε τοποθετήσει σε καθεμία από αυτές;»
Πρέπει επομένως να διαχωρίσουμε την κακόβουλη χρήση της ΤΝ από ανθρώπους, την ανεπιθύμητη συμπεριφορά ενός αυτόνομου συστήματος και, στο ακραίο όριο, την απώλεια ουσιαστικού ανθρώπινου ελέγχου. Κανένα από τα τρία δεν απαιτεί από τη μηχανή να αποκτήσει ανθρώπινη συνείδηση.
Το ερώτημα της μηχανικής συνείδησης εξακολουθεί να με συναρπάζει. Προσωπικά είμαι επιφυλακτικός απέναντι στην ιδέα ότι η συνείδηση θα εμφανιστεί απλώς όταν ένας υπολογιστής γίνει αρκετά ισχυρός, ως αναδυόμενη ιδιότητα. Η ανθρώπινη συνείδηση είναι στενά συνδεδεμένη με ένα σώμα που δέχεται πληροφορίες τόσο από τον εξωτερικό κόσμο όσο και από τον ίδιο του τον εαυτό. Δεν γνωρίζουμε αν η αύξηση της υπολογιστικής ισχύος από μόνη της αρκεί για να δημιουργήσει κάτι αντίστοιχο. Δεν χρειάζεται όμως να περιμένουμε την απάντηση για να αντιμετωπίσουμε τους κινδύνους που βρίσκονται ήδη μπροστά μας.
Και εδώ πρέπει να αλλάξει ο τρόπος με τον οποίο συζητούμε για την ασφάλεια της ΤΝ. Ακούμε εκτιμήσεις για την πιθανότητα μια μελλοντική υπερνοημοσύνη να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας. Δεν γνωρίζω με ποια εμπειρικά δεδομένα μπορούμε σήμερα να αποδώσουμε αξιόπιστη αριθμητική ακρίβεια σε τέτοιες πιθανότητες. Αυτό δεν σημαίνει ότι μπορούμε να αγνοήσουμε τον κίνδυνο. Σημαίνει ότι ίσως θέτουμε το λάθος ερώτημα.
Η αεροπορία προσφέρει μια χρήσιμη αναλογία. Όταν κατασκευάζουμε ένα αεροπλάνο, δεν αρκεί να εκτιμήσουμε την πιθανότητα να πέσει. Αναζητούμε τους πιθανούς τρόπους αστοχίας, δημιουργούμε πλεονασμό και ανεξάρτητα εφεδρικά συστήματα, απομονώνουμε κρίσιμες λειτουργίες, προβλέπουμε fail-safe μηχανισμούς, ελέγχουμε και πιστοποιούμε. Οι πιθανότητες αποτελούν μέρος αυτής της διαδικασίας, αλλά δεν την υποκαθιστούν. Η βασική αρχή είναι βαθύτερη. Σχεδιάζουμε το σύστημα έτσι ώστε μία αστοχία να μην αρκεί για να προκαλέσει καταστροφή.
Το ίδιο πρέπει να κάνουμε με την Τεχνητή Νοημοσύνη. Όχι μόνο «πόσο πιθανό είναι να συμβεί κάτι καταστροφικό;», αλλά «μέσα από ποιες διαδρομές μπορεί να συμβεί και ποιους ανεξάρτητους φραγμούς έχουμε τοποθετήσει σε καθεμία από αυτές;»
Αν ένα μοντέλο μπορεί να γράψει αποτελεσματικό κακόβουλο κώδικα, ποιος ελέγχει πού μπορεί να τον εκτελέσει;
Αν ένας agent ενεργεί αυτόνομα, ποια είναι τα όρια των ενεργειών του;
Αν αποτύχει ένας μηχανισμός ασφαλείας, υπάρχει δεύτερος ανεξάρτητος μηχανισμός ή εξαρτώνται και οι δύο από το ίδιο σύστημα;
Αυτό είναι, για μένα, το πραγματικό πρόβλημα της διακυβέρνησης της ΤΝ. Δεν είναι μια προσπάθεια να προβλέψουμε με ακρίβεια το μέλλον ούτε ένας ακόμη κατάλογος κανονιστικών υποχρεώσεων. Είναι η προσπάθεια να κατασκευάσουμε τεχνικά και θεσμικά συστήματα που παραμένουν ασφαλή ακόμη και όταν οι προβλέψεις μας αποδεικνύονται λανθασμένες.
Ίσως λοιπόν φοβόμαστε τη λάθος Τεχνητή Νοημοσύνη. Φοβόμαστε μια μελλοντική μηχανή που θα αποκτήσει συνείδηση, θα αναγνωρίσει τον άνθρωπο ως εχθρό και θα αποφασίσει να τον καταστρέψει. Αυτή η μηχανή μπορεί να μην υπάρξει ποτέ. Δεν το γνωρίζουμε.
Η επικίνδυνη Τεχνητή Νοημοσύνη, όμως, δεν χρειάζεται να μας μισεί. Δεν χρειάζεται καν να έχει συνείδηση. Αρκεί να είναι αρκετά ικανή, αρκετά αυτόνομη και να της έχουμε δώσει πρόσβαση σε πράγματα που δεν έχουμε πλέον τη δυνατότητα να ελέγξουμε.
Και αυτό είναι ένα πρόβλημα για το οποίο δεν χρειάζεται να περιμένουμε το μέλλον.
Αχιλλέας Ζαπράνης
26/09/2026
* Ο Αχιλλέας Ζαπράνης είναι καθηγητής Χρηματοοικονομικής και Νευρωνικών Συστημάτων και τέως Πρύτανης του Πανεπιστημίου Μακεδονίας.
Αυτό είναι, για μένα, το πραγματικό πρόβλημα της διακυβέρνησης της ΤΝ. Δεν είναι μια προσπάθεια να προβλέψουμε με ακρίβεια το μέλλον ούτε ένας ακόμη κατάλογος κανονιστικών υποχρεώσεων. Είναι η προσπάθεια να κατασκευάσουμε τεχνικά και θεσμικά συστήματα που παραμένουν ασφαλή ακόμη και όταν οι προβλέψεις μας αποδεικνύονται λανθασμένες.
Ίσως λοιπόν φοβόμαστε τη λάθος Τεχνητή Νοημοσύνη. Φοβόμαστε μια μελλοντική μηχανή που θα αποκτήσει συνείδηση, θα αναγνωρίσει τον άνθρωπο ως εχθρό και θα αποφασίσει να τον καταστρέψει. Αυτή η μηχανή μπορεί να μην υπάρξει ποτέ. Δεν το γνωρίζουμε.
Η επικίνδυνη Τεχνητή Νοημοσύνη, όμως, δεν χρειάζεται να μας μισεί. Δεν χρειάζεται καν να έχει συνείδηση. Αρκεί να είναι αρκετά ικανή, αρκετά αυτόνομη και να της έχουμε δώσει πρόσβαση σε πράγματα που δεν έχουμε πλέον τη δυνατότητα να ελέγξουμε.
Και αυτό είναι ένα πρόβλημα για το οποίο δεν χρειάζεται να περιμένουμε το μέλλον.
Αχιλλέας Ζαπράνης
26/09/2026
* Ο Αχιλλέας Ζαπράνης είναι καθηγητής Χρηματοοικονομικής και Νευρωνικών Συστημάτων και τέως Πρύτανης του Πανεπιστημίου Μακεδονίας.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου