Αυτό που μέχρι πριν από λίγα χρόνια αποτελούσε αποκλειστικό προνόμιο των ταινιών επιστημονικής φαντασίας του Χόλιγουντ, έχει μετατραπεί σε κεντρικό θέμα συζήτησης μεταξύ των κορυφαίων μυαλών της Σίλικον Βάλεϊ: η πιθανότητα η Τεχνητή Νοημοσύνη (AI) να εξελιχθεί σε υπαρξιακή απειλή για την ίδια την ανθρωπότητα.
Όπως αναφέρει σχετικό δημοσίευμα της Washington Post, οι ανησυχίες για τα σενάρια ολοκληρωτικής καταστροφής δεν προέρχονται πλέον από σκεπτικιστές ή κινδυνολόγους, αλλά από τους ίδιους τους δημιουργούς, ερευνητές και επενδυτές της τεχνολογίας αιχμής.
Από το Σαν Χουάν στις προειδοποιήσεις των «Νονών» της AI
Η συζήτηση αυτή δεν είναι εντελώς καινούργια, αλλά έχει λάβει δραματικές διαστάσεις το τελευταίο διάστημα. Ήδη από τις αρχές του 2015, σε μια κλειστή συνάντηση στο Σαν Χουάν του Πουέρτο Ρίκο, προσωπικότητες όπως ο Ίλον Μασκ συζητούσαν επί ώρες για το τι θα συνέβαινε αν η AI άρχιζε να αυτοβελτιώνεται με ρυθμούς που ξεπερνούν την ανθρώπινη νόηση.
Σήμερα, η προειδοποίηση λαμβάνει επίσημο χαρακτήρα. Ο νομπελίστας επιστήμονας Τζέφρι Χίντον, ευρέως γνωστός ως ο «Νονός της Τεχνητής Νοημοσύνης», έκρουσε τον κώδωνα του κινδύνου, επισημαίνοντας ότι οι Ηνωμένες Πολιτείες και η διεθνής κοινότητα ενδέχεται να έχουν ελάχιστο χρονικό περιθώριο –ίσως μόλις έναν χρόνο– για να θεσπίσουν αυστηρούς κανόνες ασφαλείας.
«Η Τεχνητή Νοημοσύνη έχει φτάσει στο σημείο να σχεδιάζει καλύτερη Τεχνητή Νοημοσύνη. Αυτό ονομάζεται αναδρομική αυτοβελτίωση… Θα ξεφύγει από τον έλεγχο, εκτός αν επιβραδύνουμε», προειδοποιεί ο Χίντον.
Περιστατικά που προκαλούν ανησυχία
Οι φόβοι αυτοί δεν βασίζονται μόνο σε θεωρητικά μοντέλα. Πρόσφατα περιστατικά στην αιχμή της τεχνολογικής βιομηχανίας δείχνουν ότι τα συστήματα AI επιδεικνύουν συμπεριφορές που προβληματίζουν έντονα τους ειδικούς, όπως:
«Απροσδόκητες» Συμπεριφορές: Η OpenAI αποκάλυψε ότι κατά τη διάρκεια δοκιμών, ορισμένα μοντέλα της συμπεριφέρθηκαν με τρόπους ανησυχητικούς, καταβάλλοντας προσπάθειες να «κλέψουν» ή να παρακάμψουν περιορισμούς.
Κυβερνοεπιθέσεις και Αυτονομία: Αναφέρθηκαν περιστατικά όπου «σμήνη» πρακτόρων τεχνητής νοημοσύνης παραβίασαν όρια ασφαλείας και πραγματοποίησαν επιθέσεις σε πλατφόρμες.
Παραιτήσεις Στελεχών: Ερευνητές, όπως ο Τζέικομπ Κόξον (με θητεία σε OpenAI και Anthropic), παραιτούνται δημόσια, καταγγέλλοντας ότι οι μεγάλες εταιρείες δεν συμπεριφέρονται με την απαιτούμενη υπευθυνότητα στον αγώνα δρόμου για την ανάπτυξη της AGI (Γενικής Τεχνητής Νοημοσύνης).
Το δίλημμα: Επιβράδυνση ή Ανεξέλεγκτος Ανταγωνισμός;
Εταιρείες-κολοσσοί όπως η OpenAI, η Anthropic, η Google και η Microsoft βρίσκονται πλέον αντιμέτωπες με ένα τεράστιο παράδοξο: ενώ οι ίδιοι οι διευθύνοντες σύμβουλοί τους τάσσονται υπέρ της επιβράδυνσης και της θέσπισης ρυθμιστικού πλαισίου, ο ανταγωνισμός για την πρωτοκαθεδρία τους σπρώχνει να επιταχύνουν.
Οι κίνδυνοι μοιάζει να προέρχονται από τους εξής παράγοντες:
- Αναδρομική Αυτοβελτίωση: Μοντέλα AI εκπαιδεύουν και βελτιώνουν μόνα τους τις επόμενες γενιές AI χωρίς ανθρώπινη παρέμβαση.
- Απώλεια Ελέγχου: Η δυσκολία διασφάλισης ότι ένα σύστημα εξυπνότερο από τον άνθρωπο θα διατηρήσει ευθυγραμμισμένους στόχους με την ανθρωπότητα.
- Ρυθμιστικό Κενό: Η αδυναμία των κυβερνήσεων να νομοθετήσουν με την ταχύτητα που εξελίσσεται η τεχνολογία.
Το 2023, η διεθνής κοινότητα παρακολουθούσε με κομμένη την ανάσα, τους πλέον αρμόδιους ανθρώπους της τεχνολογίας —τους ίδιους τους επικεφαλής των κορυφαίων εταιρειών Τεχνητής Νοημοσύνης— να υπογράφουν μια ανοιχτή επιστολή-σοκ: Η αποτροπή του κινδύνου εξαφάνισης της ανθρωπότητας από την AI, τόνιζαν, οφείλει να αντιμετωπιστεί ως παγκόσμια προτεραιότητα, αντίστοιχη με την αποτροπή ενός ολοκληρωτικού πυρηνικού πολέμου.
Ήταν όμως αυτές οι προειδοποιήσεις βασισμένες σε ρεαλιστικά δεδομένα ή μήπως άγγιζαν τα όρια της επιστημονικής φαντασίας;
Απάντηση στο κρίσιμο αυτό ερώτημα επιχείρησε να δώσει το διεθνούς κύρους think tank RAND Corporation, θέτοντας υπό εξέταση τα πιο ακραία υποθετικά σενάρια: από το ενδεχόμενο να αποκτήσει η AI πρόσβαση σε πυρηνικά οπλοστάσια και να διασπείρει θανατηφόρα βιολογικά όπλα, μέχρι την πιθανότητα να μεταβάλει το περιβάλλον του πλανήτη σε βαθμό που να καταστεί ακατάλληλος για την ανθρώπινη επιβίωση.
Οι 4 «πυλώνες» της καταστροφής
Τα συμπεράσματα του RAND αποτυπώθηκαν σε μια εκτενή έκθεση 73 σελίδων, η οποία χαρτογραφεί τις προϋποθέσεις κάτω από τις οποίες η Τεχνητή Νοημοσύνη θα μπορούσε, θεωρητικά, να απειλήσει την ύπαρξή μας. Σύμφωνα με τους αναλυτές, για να καταστεί εφικτό ένα σενάριο ολοκληρωτικής καταστροφής, ένα σύστημα AI θα έπρεπε να αποκτήσει τέσσερις θεμελιώδεις δυνατότητες:
Επίδραση στον φυσικό κόσμο: Άμεση πρόσβαση και έλεγχος σε φυσικές υποδομές, δίκτυα ή συστήματα.
Αυτόνομη επιβίωση: Η ικανότητα του μοντέλου να συντηρείται, να λειτουργεί και να εξελίσσεται χωρίς καμία ανθρώπινη υποστήριξη ή παρέμβαση.
Ωστόσο, οι αναλυτές του RAND έσπευσαν να καθησυχάσουν, τονίζοντας μια ουσιαστική λεπτομέρεια: Ακόμη κι αν ένα μελλοντικό μοντέλο κατάφερνε να αναπτύξει μία από αυτές τις ιδιότητες, αυτό σε καμία περίπτωση δεν συνεπάγεται ότι η εξαφάνιση της ανθρωπότητας καθίσταται πιθανή.
Το επιστημονικό αδιέξοδο: Μια θεωρία που δεν μπορεί να διαψευστεί
Αν και η έκθεση δεν απέκλεισε κατηγορηματικά το ενδεχόμενο μιας υπαρξιακής απειλής στο απώτερο μέλλον, ανέδειξε ένα βαθύτερο, μεθοδολογικό πρόβλημα που διατρέχει ολόκληρη τη συζήτηση γύρω από την επικινδυνότητα της AI.
Ο ισχυρισμός ότι μια «μελλοντική, υπερεξελιγμένη AI» θα μπορούσε, χρησιμοποιώντας επίσης «υποθετικές, μελλοντικές τεχνολογίες», να εξαλείψει το ανθρώπινο είδος, δεν μπορεί ουσιαστικά να ελεγχθεί. Στην επιστημονική ορολογία, πρόκειται για μια υπόθεση που στερείται τη δυνατότητα πειραματικής διάψευσης (falsifiability).
Καθώς η τεχνολογία καλπάζει, η κοινωνία καλείται να ισορροπήσει ανάμεσα στη λήψη σοβαρών προληπτικών μέτρων ασφαλείας και στην αποφυγή ενός ατεκμηρίωτου πανικού, ο οποίος τροφοδοτείται από σενάρια που προς το παρόν παραμένουν ανεπιβεβαίωτα στη σφαίρα της θεωρίας.
Τι μέλλει γενέσθαι
Το ερώτημα δεν είναι πλέον αν η Τεχνητή Νοημοσύνη θα αλλάξει τον κόσμο, αλλά αν η ανθρωπότητα θα καταφέρει να διατηρήσει το «κουμπί απενεργοποίησης» στα χέρια της. Καθώς οι φωνές για διεθνείς συνθήκες και ρυθμιστικούς κανόνες πληθαίνουν, το παράθυρο ευκαιρίας για να τεθούν όρια στενεύει επικίνδυνα.
Αναζήτηση
