Τότε τα σημερινά μεγάλα γλωσσικά μοντέλα δεν υπήρχαν ούτε ως τεχνολογική δυνατότητα, αλλά ένα ερώτημα με απασχολούσε ήδη.
Αν συνεχίσουμε να κατασκευάζουμε ολοένα πιο σύνθετα συστήματα που μαθαίνουν, υπάρχει κάποιο σημείο στο οποίο αυτά θα πάψουν απλώς να υπολογίζουν και θα αρχίσουν να βιώνουν;
Θα μπορούσε κάποτε μια μηχανή να αποκτήσει συνείδηση;
Περισσότερα από τριάντα χρόνια αργότερα, δεν έχουμε απάντηση.
Περισσότερα από τριάντα χρόνια αργότερα, δεν έχουμε απάντηση.
Έχουμε όμως συστήματα ικανά να γράφουν κώδικα, να χρησιμοποιούν εργαλεία, να αναζητούν πληροφορίες, να εκτελούν ακολουθίες ενεργειών και, όλο και περισσότερο, να λειτουργούν ως agents με έναν βαθμό αυτονομίας.
Κι όμως, εξακολουθούμε συχνά να φοβόμαστε τη μηχανή που θα αποκτήσει κάποτε συνείδηση, θα αναγνωρίσει τον εαυτό της, θα θελήσει να επιβιώσει και τελικά θα στραφεί εναντίον μας.
Υπάρχουν όμως πολύ πιο άμεσες διαδρομές προς μια καταστροφική χρήση της ΤΝ που δεν απαιτούν τίποτε από όλα αυτά.
Μια εξαιρετικά ισχυρή Τεχνητή Νοημοσύνη δεν χρειάζεται να έχει συνείδηση της δικής της ύπαρξης, ούτε πρόθεση να βλάψει την ανθρωπότητα, για να αποτελέσει κίνδυνο. Αρκεί ένας άνθρωπος, μια εγκληματική οργάνωση ή ένα κράτος να χρησιμοποιήσει τις δυνατότητές της για κυβερνοεπιθέσεις, για παραβίαση κρίσιμων υποδομών ή για την ανάπτυξη επικίνδυνων βιολογικών εφαρμογών.
Το ανησυχητικό είναι ότι η ΤΝ μπορεί να εκδημοκρατίσει όχι μόνο τη γνώση αλλά και την ικανότητα πρόκλησης βλάβης. Μια σύνθετη κυβερνοεπίθεση που σήμερα απαιτεί μια ομάδα εξαιρετικά έμπειρων ειδικών μπορεί αύριο να είναι εφικτή από πολύ λιγότερους ανθρώπους με πολύ μικρότερη τεχνογνωσία. Και το ίδιο πρόβλημα μπορεί να εμφανιστεί σε πολύ πιο επικίνδυνους τομείς, όπως η βιολογία.
Μια εξαιρετικά ισχυρή Τεχνητή Νοημοσύνη δεν χρειάζεται να έχει συνείδηση της δικής της ύπαρξης, ούτε πρόθεση να βλάψει την ανθρωπότητα, για να αποτελέσει κίνδυνο. Αρκεί ένας άνθρωπος, μια εγκληματική οργάνωση ή ένα κράτος να χρησιμοποιήσει τις δυνατότητές της για κυβερνοεπιθέσεις, για παραβίαση κρίσιμων υποδομών ή για την ανάπτυξη επικίνδυνων βιολογικών εφαρμογών.
Το ανησυχητικό είναι ότι η ΤΝ μπορεί να εκδημοκρατίσει όχι μόνο τη γνώση αλλά και την ικανότητα πρόκλησης βλάβης. Μια σύνθετη κυβερνοεπίθεση που σήμερα απαιτεί μια ομάδα εξαιρετικά έμπειρων ειδικών μπορεί αύριο να είναι εφικτή από πολύ λιγότερους ανθρώπους με πολύ μικρότερη τεχνογνωσία. Και το ίδιο πρόβλημα μπορεί να εμφανιστεί σε πολύ πιο επικίνδυνους τομείς, όπως η βιολογία.
Αυτό είναι το πρώτο πρόβλημα...





























