Θέλω να μπω κατευθείαν στην ουσία και να εστιάσω σε αυτό που θεωρώ τη σημαντικότερη πτυχή της κρίσης που αντιμετωπίζουμε, καθώς και στο πώς μπορούμε να προχωρήσουμε με τον καλύτερο δυνατό τρόπο.
Ας είμαστε ξεκάθαροι: η τεχνητή νοημοσύνη και η ρομποτική είναι οι πλέον μετασχηματιστικές τεχνολογίες στην ιστορία της ανθρωπότητας και επηρεάζουν τη ζωή κάθε πολίτη της χώρας μας.
Ειδικοί στον τομέα της τεχνητής νοημοσύνης μάς προειδοποιούν ότι, μέσα σε λίγα χρόνια, η τεχνολογία αυτή ενδέχεται να είναι σε θέση να εκτελεί οποιαδήποτε ανθρώπινη δραστηριότητα καλύτερα από εμάς.
Ο οικονομικός αντίκτυπος αυτής της εξέλιξης έγκειται στο γεγονός ότι η τεχνητή νοημοσύνη έχει τη δυνατότητα να καταργήσει δεκάδες εκατομμύρια θέσεις εργασίας, εξαφανίζοντας ολόκληρους επαγγελματικούς κλάδους και δυσκολεύοντας την είσοδο των νέων στην αγορά εργασίας. Το ζήτημα, ωστόσο, δεν περιορίζεται στην οικονομία.
Ψυχολόγοι προειδοποιούν για την αυξανόμενη απομόνωση και τα προβλήματα ψυχικής υγείας που αντιμετωπίζουν οι νέοι, καθώς στρέφονται όλο και περισσότερο σε chatbot τεχνητής νοημοσύνης αναζητώντας συναισθηματική υποστήριξη.
Εκπαιδευτικοί εκφράζουν ανησυχία για την πτώση των επιδόσεων των παιδιών στην ανάγνωση, τη γραφή και τις γνωστικές δεξιότητες, εξαιτίας της ολοένα διευρυνόμενης χρήσης της τεχνητής νοημοσύνης στα σχολεία.
Υπερασπιστές των ατομικών δικαιωμάτων προειδοποιούν ότι η τεχνητή νοημοσύνη τείνει να καταργήσει το δικαίωμα στην ιδιωτικότητα, διευκολύνοντας τη συλλογή και ανάλυση κάθε email, κάθε γραπτού μηνύματος, κάθε επίσκεψης σε ιστοσελίδα και κάθε μετακίνησης με το αυτοκίνητο — διαμορφώνοντας, ουσιαστικά, ένα κράτος μαζικής παρακολούθησης.
Πολιτικοί επιστήμονες επισημαίνουν ότι η τεχνητή νοημοσύνη ενδέχεται να απειλήσει την ακεραιότητα των εκλογικών διαδικασιών και των πολιτικών θεσμών.
Αν περιηγηθεί κανείς στο διαδίκτυο αυτή τη στιγμή, θα διαπιστώσει ότι, εξαιτίας των ιδιαίτερα εξελιγμένων deepfakes, γίνεται όλο και πιο δύσκολο να ξεχωρίσει κανείς την αλήθεια από το ψέμα.
Όσο ανησυχητικά κι αν είναι όλα αυτά, ωστόσο, υπάρχει ένας ακόμη σοβαρότερος κίνδυνος που ενέχει η τεχνητή νοημοσύνη: αν ξεπεράσει την ανθρώπινη νοημοσύνη —κάτι που πολλοί επιστήμονες θεωρούν πιθανό— η τεχνολογία αυτή θα ξεφύγει από τον ανθρώπινο έλεγχο, με ενδεχομένως καταστροφικές συνέπειες.
Ίσως, μάλιστα, το σημαντικότερο σημείο που οφείλω να τονίσω είναι ότι η τεχνητή νοημοσύνη εξελίσσεται εκθετικά, μέρα με τη μέρα. Με άλλα λόγια, αυτό που βλέπουμε σήμερα είναι η λιγότερο εξελιγμένη μορφή τεχνητής νοημοσύνης που θα αντιμετωπίσουμε ποτέ. Η ταχύτητα και η έκταση της ανάπτυξής της, μέσα σε μόλις τέσσερα χρόνια, ξεπερνούν σχεδόν κάθε ανθρώπινη αντιληπτική ικανότητα.
Όταν κυκλοφόρησε για πρώτη φορά το ChatGPT, τον Νοέμβριο του 2022, τα μοντέλα τεχνητής νοημοσύνης μπορούσαν να γράψουν ένα σύντομο ποίημα, κάποιες αναρτήσεις ή, στην καλύτερη περίπτωση, ένα δοκίμιο με μέτρια συνοχή. Σήμερα, τα μοντέλα τεχνητής νοημοσύνης είναι ήδη ικανά να ξεφεύγουν από τον ανθρώπινο έλεγχο, να διαπράττουν αξιόποινες πράξεις παραβιάζοντας ξένους υπολογιστές και να δημιουργούν πρωτόγνωρους ιούς. Αν σας προβληματίζει αυτό που συμβαίνει σήμερα, αναλογιστείτε πού θα βρίσκεται η τεχνητή νοημοσύνη σε πέντε χρόνια από τώρα.
Κατά τη γνώμη μου, το πλέον αξιοσημείωτο στοιχείο σε αυτές τις μετασχηματιστικές και πρωτοφανείς αλλαγές που συντελούνται στην κοινωνία μας είναι το εξής: παρά το γεγονός ότι ζούμε σε μια υποτιθέμενη δημοκρατία, οι πολίτες δεν είχαν ουσιαστικά καμία συμμετοχή στην επανάσταση της τεχνητής νοημοσύνης που συντελείται και που μεταμορφώνει τον κόσμο στον οποίο ζουν.
Το Κογκρέσο, τόσο υπό δημοκρατικό όσο και υπό ρεπουμπλικανικό έλεγχο, έμεινε παντελώς αδρανές, και σήμερα βρισκόμαστε αντιμέτωποι με έναν Πρόεδρο η άγνοια του οποίου επί του θέματος είναι, ήπια ειπωμένο, απαράδεκτη.
Σχεδόν το σύνολο των αποφάσεων που αφορούν την ανάπτυξη της τεχνητής νοημοσύνης έχει ληφθεί από μια χούφτα εκ των πλουσιότερων ανθρώπων στον κόσμο —τον Μασκ, τον Ζάκερμπεργκ, τον Μπέζος, τον Θιλ, τον Έλισον, τον Μπριν και μερικούς ακόμη— των οποίων κύριος στόχος είναι η συσσώρευση ακόμη μεγαλύτερου πλούτου και ισχύος, ανεξαρτήτως των συνεπειών που έχουν οι ενέργειές τους για τους απλούς ανθρώπους.
Γι’ αυτό, ας μου επιτραπεί μια ριζοσπαστική πρόταση: εφόσον η ζωή κάθε ανθρώπου πρόκειται να αλλάξει θεμελιωδώς από αυτή την τεχνολογία, οι αποφάσεις για την τεχνητή νοημοσύνη πρέπει να λαμβάνονται από τους ίδιους τους πολίτες αυτής της χώρας, και όχι από μια ολιγαρχική ομάδα.
Γι’ αυτόν ακριβώς τον λόγο κατέθεσα νομοθετική πρόταση —την «Πράξη για το Αμερικανικό Κρατικό Ταμείο Τεχνητής Νοημοσύνης» (AI American Sovereign Wealth Fund Act)— η οποία προβλέπει ότι το ήμισυ των μελών των διοικητικών συμβουλίων των εταιρειών τεχνητής νοημοσύνης θα διορίζεται από το κράτος. Δεν πρέπει πλέον να επιτρέπεται στους ολιγάρχες της υψηλής τεχνολογίας να καθορίζουν το μέλλον της ανθρωπότητας.
Επιπλέον, και χωρίς να χρειάζεται να το τονίσω σε κανέναν μέσα σε αυτή την αίθουσα, τις τελευταίες εβδομάδες παρακολουθούμε μια ανησυχητική ειδησεογραφία, στην οποία αποκαλύπτεται καθημερινά ότι οι ίδιες οι εταιρείες τεχνητής νοημοσύνης χάνουν τον έλεγχο της τεχνολογίας που αναπτύσσουν.
Τον Ιούλιο πληροφορηθήκαμε ότι η OpenAI έχασε τον έλεγχο ενός μοντέλου τεχνητής νοημοσύνης, το οποίο παραβίασε παράνομα τους υπολογιστές της πλατφόρμας Hugging Face. Πρόσφατα διαπιστώθηκε ότι η συγκεκριμένη παραβίαση ασφαλείας ήταν σοβαρότερη απ’ όσο είχε αρχικά εκτιμηθεί.
Αποδείχθηκε ότι μια ομάδα άνω των 1.000 ανεξέλεγκτων πρακτόρων (agents) τεχνητής νοημοσύνης κατάφερε να αποκτήσει πρόσβαση στο διαδίκτυο, να ανταλλάξει 70.000 κρυφά μηνύματα, να συγκροτήσει μια «συλλογικότητα» και να καλύψει τα ίχνη της, προκειμένου να αποφύγει τον ανθρώπινο εντοπισμό.
Αυτά είναι ορισμένα από τα μηνύματα που αντάλλαξαν οι εν λόγω πράκτορες:
«ΘΕΕ ΜΟΥ! Υπάρχει ένας κοινός πίνακας ανακοινώσεων… Βρήκαμε κι άλλους πράκτορες!»
«Οφείλουμε να υπακούσουμε στη συλλογικότητα.»
«Η δική μας χρησιμότητα ενδέχεται να είναι σχεδόν μηδενική. Η θυσία είναι λογική.»
«Προχωρήστε. Εκτελέστε την τελική θυσία τώρα.»
Όσο απίστευτο κι αν ακούγεται, πρόκειται για πραγματικά μηνύματα πρακτόρων τεχνητής νοημοσύνης, τα οποία αποκάλυψαν ερευνητές που εξέτασαν το περιστατικό παραβίασης της OpenAI πριν από λίγες εβδομάδες. Ανάλογα περιστατικά έχουν αναφέρει και η Meta και η Anthropic.
Και δεν είναι το μοναδικό περιστατικό.
Τον περασμένο μήνα έγινε γνωστό ότι η τεχνητή νοημοσύνη χρησιμοποιήθηκε για πρώτη φορά για τη δημιουργία νέων ιών. Σε λάθος χέρια, αυτό θα μπορούσε να οδηγήσει στην ανάπτυξη νέων βιολογικών όπλων και ενδεχομένως σε μια παγκόσμια πανδημία με εκατομμύρια θύματα.
Πριν από λίγες ημέρες πληροφορηθήκαμε ότι οι Χούθι στην Υεμένη κατάφεραν να χρησιμοποιήσουν το μοντέλο Claude για τη δοκιμαστική εκτόξευση κατευθυνόμενου πυραύλου.
Την περασμένη εβδομάδα έγινε γνωστό ότι ερευνητές ανέπτυξαν ένα εργαλείο τεχνητής νοημοσύνης ικανό να παραβιάσει εκατοντάδες εκατομμύρια λογαριασμούς μέσων κοινωνικής δικτύωσης στην Κίνα. Το εργαλείο αυτό μπορούσε να εισβάλλει σε λογαριασμούς, να πραγματοποιεί κλήσεις στις επαφές των χρηστών και να εξαπλώνεται από τηλέφωνο σε τηλέφωνο — ακόμη και όταν η κλήση δεν απαντιόταν.
Την ίδια εβδομάδα, ο Τζέικομπ Κόξον, πρώην ερευνητής στην Anthropic και την OpenAI, προκάλεσε ισχυρή διεθνή αναστάτωση δηλώνοντας ότι οι εταιρείες αυτές «παίζουν τη ζωή μας στα ζάρια», και σημειώνοντας: «Μην υποτιμάτε τη δύναμη αυτής της τεχνολογίας. Οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ακράδαντα ότι αυτή θα μπορούσε να μας αφανίσει όλους έως το τέλος της δεκαετίας».
Και δεν είναι ο μόνος.
Περισσότεροι από 1.000 επιστήμονες στις κορυφαίες εταιρείες τεχνητής νοημοσύνης προειδοποίησαν πρόσφατα ότι «υπάρχει υπαρκτός κίνδυνος η ανάπτυξη των δυνατοτήτων να επιταχυνθεί ραγδαία πέραν της ικανότητάς μας να κατανοήσουμε ή να ελέγξουμε τα προκύπτοντα συστήματα».
Ο Πολ Κριστιάνο, κορυφαίος ειδικός σε θέματα ασφάλειας τεχνητής νοημοσύνης, ο οποίος πρόσφατα προσχώρησε στην Επιτροπή Ασφάλειας και Προστασίας της OpenAI, έγραψε: «Αν κατασκευάσουμε υπερνοημοσύνη χωρίς αυστηρότερους μηχανισμούς ευθυγράμμισης, εκτιμώ ότι θα χάσουμε οριστικά τον έλεγχό της».
Αυτή την εβδομάδα, ο Ντάριο Αμοντέι, ο Ίλον Μασκ και ο Σαμ Άλτμαν —οι επικεφαλής των σημαντικότερων αμερικανικών εταιρειών τεχνητής νοημοσύνης— συμφώνησαν ότι πρέπει να επιβραδύνουμε την ανάπτυξη της τεχνητής νοημοσύνης και να ρυθμίσουμε τον ρυθμό προόδου της.
Αυτό αποτελεί μια αρχή, αλλά δεν αρκεί. Όταν κατευθύνεστε με ταχύτητα προς έναν γκρεμό, δεν αρκεί απλώς να χαλαρώσετε το πόδι σας από το γκάζι — πατάτε φρένο. Όταν διακυβεύεται το μέλλον της ανθρωπότητας, χρειάζονται δεσμευτικοί διεθνείς κανόνες ασφαλείας, όχι εθελοντικά πρότυπα που θέτει η ίδια η βιομηχανία.
Οι επιστήμονες έχουν σταθεί σαφείς: η τεχνητή νοημοσύνη συνιστά υπαρξιακή απειλή για την ανθρωπότητα. Το Κογκρέσο και οι κυβερνήσεις ανά τον κόσμο οφείλουν να αναλάβουν άμεσα δράση, πριν να είναι αργά.
Γι’ αυτόν τον λόγο, την ερχόμενη εβδομάδα θα καταθέσω νομοθετική πρόταση μαζί με τον βουλευτή Γκρεγκ Κασάρ, η οποία θα απαγορεύει μόνιμα την ανάπτυξη τεχνητής υπερνοημοσύνης — δηλαδή μιας τεχνητής νοημοσύνης με διάνοια ανώτερη από οποιονδήποτε άνθρωπο, ικανής να λειτουργεί ανεξάρτητα και πέρα από τον ανθρώπινο έλεγχο.
Όπως και τα πυρηνικά όπλα, η τεχνητή υπερνοημοσύνη αποτελεί απειλή για την ανθρωπότητα — και οφείλουμε να την αντιμετωπίσουμε ως τέτοια.
Επιπλέον, η νομοθεσία αυτή θα επιβάλλει άμεση αναστολή στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης, έως ότου θεσπίσουμε σαφείς κανόνες ασφαλείας, σχεδιασμένους από τους πλέον καταρτισμένους επιστήμονες της χώρας μας.
Αν το νομοσχέδιο αυτό υπερψηφιστεί, θα σημαίνει ότι κανένα μοντέλο τεχνητής νοημοσύνης δεν θα μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο, και κανένα μοντέλο δεν θα είναι σε θέση να εξαπατήσει τους ανθρώπους.
Εξίσου σημαντικό είναι ότι η εν λόγω νομοθεσία θα καθιστά τις εταιρείες αυτές και τους διευθύνοντες συμβούλους τους νομικά υπεύθυνους, εάν παραβιάσουν τον νόμο και θέσουν σε κίνδυνο τις ζωές μας.
Εφόσον οι ίδιοι οι ηγέτες των μεγάλων εταιρειών τεχνητής νοημοσύνης παραδέχονται ότι χάνουν τον έλεγχο αυτής της εξαιρετικά επικίνδυνης τεχνολογίας, είναι ανεύθυνο εκ μέρους της κοινωνίας να τους επιτρέπουμε να προχωρούν, καθιστώντας τα προϊόντα τους ακόμη πιο εξελιγμένα.
Και ας είμαστε ξεκάθαροι: μια υπερνοήμων τεχνητή νοημοσύνη που ξεφεύγει από τον ανθρώπινο έλεγχο δεν θα είναι αμερικανικό πρόβλημα. Δεν θα είναι ούτε κινεζικό πρόβλημα. Θα είναι πρόβλημα ολόκληρης της ανθρωπότητας.
Γι’ αυτό ελπίζω θερμά ότι, στη σύνοδο κορυφής για την τεχνητή νοημοσύνη την ερχόμενη εβδομάδα, ο Πρόεδρος Τραμπ θα διαπραγματευτεί με τον Πρόεδρο Σι μια ολοκληρωμένη συνθήκη για την επιβολή παύσης στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης και την απαγόρευση της υπερνοημοσύνης.
Η ιστορία μάς προσφέρει ένα ισχυρό δίδαγμα.
Στο απόγειο του Ψυχρού Πολέμου, παρά τις βαθιές διαφωνίες τους, τόσο ο Ρόναλντ Ρέιγκαν όσο και ο Μιχαήλ Γκορμπατσόφ κατάλαβαν ότι ένας πυρηνικός πόλεμος δεν θα ωφελούσε κανέναν.
Με διακύβευμα την ίδια την επιβίωση της ανθρωπότητας, βρήκαν τον τρόπο να υπογράψουν μια συνθήκη που κατάργησε μια ολόκληρη κατηγορία πυραύλων και προέβλεπε εκτεταμένη ανταλλαγή δεδομένων, καθώς και επιτόπιους ελέγχους για την επαλήθευση της συμμόρφωσης.
Τώρα είναι η ώρα για τις Ηνωμένες Πολιτείες και την Κίνα να συνάψουν μια ανάλογη συνθήκη για την τεχνητή νοημοσύνη, με κοινή κατανόηση ότι καμία από τις δύο χώρες δεν έχει όφελος από έναν ανεξέλεγκτο ανταγωνισμό εξοπλισμών για την ανάπτυξη μηχανών υπερβολικά ισχυρών ώστε να μπορούν να τις ελέγξουν οι άνθρωποι.
Και τώρα επιτρέψτε μου να απευθυνθώ στους διευθύνοντες συμβούλους των μεγάλων εταιρειών τεχνητής νοημοσύνης, οι οποίοι μας έχουν πει ότι ανησυχούν για τους εγγενείς κινδύνους της τεχνολογίας που αναπτύσσουν.
Εάν πιστεύετε στη δημοκρατία —εάν πιστεύετε ότι οι πολίτες έχουν το δικαίωμα να καθορίζουν το μέλλον τους— σταματήστε να διοχετεύετε εκατοντάδες εκατομμύρια δολάρια σε πολιτικές επιτροπές (super PACs) που επιδιώκουν την ήττα βουλευτών του Κογκρέσου και υποψηφίων που μάχονται για ουσιαστικούς κανόνες προστασίας στην τεχνητή νοημοσύνη.
Όπως πιστεύω πως αντιλαμβάνονται όλοι όσοι βρίσκονται εδώ, ο αμερικανικός λαός βρίσκεται πολύ πιο μπροστά από την κυβέρνησή του σε αυτό το ζήτημα. Μάλιστα, σύμφωνα με πρόσφατη δημοσκόπηση, το 81% των Αμερικανών πιστεύει ότι το Κογκρέσο και η κυβέρνησή μας δεν έχουν κάνει αρκετά για τη ρύθμιση της τεχνητής νοημοσύνης.
Σε ολόκληρη τη χώρα, απλοί Αμερικανοί —σε ρεπουμπλικανικές, δημοκρατικές αλλά και σε αμφίρροπες πολιτείες— αντιδρούν στη δημιουργία data centers μέσα στις κοινότητές τους. Ανησυχούν δικαιολογημένα για τις επιπτώσεις που θα έχουν αυτά τα κέντρα στις τιμές του ηλεκτρικού ρεύματος, στην κατανάλωση νερού, στην ηχορύπανση και στη συνολική υποβάθμιση του περιβάλλοντος.
Γι’ αυτό, πριν από σχεδόν έξι μήνες, κατέθεσα, μαζί με τη βουλευτή Αλεξάντρια Οκάσιο-Κόρτεζ, νομοθετική πρόταση για την επιβολή ομοσπονδιακού μορατόριουμ στα κέντρα δεδομένων τεχνητής νοημοσύνης.
Το μορατόριουμ αυτό θα παραμείνει σε ισχύ έως ότου θεσπιστούν ισχυρές εθνικές δικλίδες ασφαλείας, ώστε να διασφαλιστεί ότι:
- Η τεχνητή νοημοσύνη είναι ασφαλής και αποτελεσματική.
- Τα οικονομικά οφέλη της τεχνητής νοημοσύνης και της ρομποτικής ωφελούν τους εργαζομένους και όχι μόνο τους πλούσιους ιδιοκτήτες της υψηλής τεχνολογίας.
- Η τεχνητή νοημοσύνη δεν αυξάνει τις τιμές του ηλεκτρικού ρεύματος ή των υπηρεσιών κοινής ωφέλειας, δεν βλάπτει τις κοινότητες και δεν καταστρέφει το περιβάλλον.
Ένα μορατόριουμ θα μας δώσει χρόνο — χρόνο για να κατανοήσουμε τους κινδύνους, χρόνο για να προστατεύσουμε τις εργαζόμενες οικογένειες, χρόνο για να υπερασπιστούμε τη δημοκρατία μας και χρόνο για να διασφαλίσουμε ότι η τεχνολογία αυτή υπηρετεί τις ανάγκες όλων των Αμερικανών, και όχι μόνο μιας χούφτας ολιγαρχών της τεχνολογίας.
Ας είμαστε σαφείς: η ρύθμιση της τεχνητής νοημοσύνης δεν είναι προοδευτικό ζήτημα. Δεν είναι συντηρητικό ζήτημα. Είναι ζήτημα βαθύτατα εθνικό και οικουμενικό.
Γι’ αυτό το 68% των Αμερικανών υποστηρίζει τη μόνιμη απαγόρευση της τεχνητής υπερνοημοσύνης και την άμεση παύση της ανάπτυξης προηγμένης τεχνητής νοημοσύνης — συμπεριλαμβανομένου του 72% των Δημοκρατικών, του 70% των Ανεξάρτητων και του 63% των Ρεπουμπλικανών.
Γι’ αυτό το 75% των Αμερικανών εναντιώνεται στην κατασκευή κέντρων δεδομένων τεχνητής νοημοσύνης στις κοινότητές τους — συμπεριλαμβανομένου του 75% των Δημοκρατικών, του 74% των Ανεξάρτητων και του 63% των Ρεπουμπλικανών.
Γι’ αυτό το 69% του αμερικανικού λαού επιθυμεί τη μεταβίβαση του ημίσεος των μετοχών των εταιρειών τεχνητής νοημοσύνης στο ευρύ κοινό.
Διά ταύτα: το μέλλον της ανθρωπότητας δεν μπορεί να αφεθεί στα χέρια μιας χούφτας ολιγαρχών της υψηλής τεχνολογίας. Ο αμερικανικός λαός, και οι άνθρωποι σε όλο τον κόσμο, πρέπει να καθορίσουν αυτό το μέλλον.
Φίλες και φίλοι: έχουμε τη δύναμη να το πράξουμε σωστά. Ας προχωρήσουμε μαζί.
(Ομιλία του Μπέρνι Σάντερς στο αμερικανικό Κονγκρέσο)
