Τεχνητή Νοημοσύνη: Οι δημιουργοί φοβούνται πλέον το χειρότερο σενάριο

Η πρόοδος που έχει σημειωθεί από τις εταιρείες που αναπτύσσουν την τεχνητή νοημοσύνη έχει προκαλέσει μεγάλη ανησυχία για τους κινδύνους που απειλούν την ανθρωπότητα. Πλέον, φόβοι που κάποτε ήταν περιθωριακοί έρχονται στην επιφάνεια και ειδικοί του κλάδου αρχίζουν να πιστεύουν ότι είναι βάσιμοι.

Μιλώντας στους Financial Times, πάνω από 20 ανώτεροι ερευνητές, επενδυτές, ακαδημαϊκοί και στελέχη πολιτικής στην τεχνητή νοημοσύνη, λένε ότι οι δυνατότητες που κάποτε θεωρούνταν μακρινές φτάνουν ταχύτερα από το αναμενόμενο. Και αυτό συμβαίνει την ώρα που οι εταιρείες που τις αναπτύσσουν έχουν εγκλωβιστεί σε μια έντονη κούρσα ανταγωνισμού.

Κίνδυνος πάνω από 10%

Σύμφωνα με τον Στιούαρτ Ράσελ, καθηγητή ειδικό στην τεχνητή νοημοσύνη στο Πανεπιστήμιο της Καλιφόρντια στο Μπέρκλεϊ, «δεν υπάρχει αμφιβολία ότι ο ανταγωνισμός μεταξύ των εταιρειών τις αναγκάζει να κάνουν συντομεύσεις όσον αφορά την ασφάλεια». Είχε προηγηθεί ο Τζέικομπ Κόξον, ερευνητής της Anthropic, ο οποίος παραιτήθηκε από τη δουλειά του, προειδοποιώντας: «Οι άνθρωποι που κατασκευάζουν την Τεχνητή Νοημοσύνη πιστεύουν ακράδαντα ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

Ο συνάδελφός του στην Anthropic, Έβαν Ηάμπιντζερ, επικεφαλής της επιστήμης ευθυγράμμισης, άφησε να εννοηθεί ότι ο κίνδυνος μαζικής εξαφάνισης την επόμενη δεκαετία ήταν μεγαλύτερος από 10%. Ενώ ο υπεύθυνος ασφάλειας για την ΑΙ, στο συμβούλιο του Ιδρύματος OpenAI, Πολ Κριστιάνο, δήλωσε ότι «οι περισσότεροι άνθρωποι θα πεθάνουν» χωρίς πιο ισχυρές δικλίδες ασφαλείας.

«Εκπτώσεις» λόγω ανταγωνισμού

Οι OpenAI και η Anthropic ιδρύθηκαν ως εργαστήρια που ανησυχούσαν για την απερίσκεπτη ανάπτυξη ισχυρής Τεχνητής Νοημοσύνης. Ωστόσο, με την πάροδο του χρόνου δικαιολογούσαν την παραβίαση προηγούμενων δεσμεύσεων ασφαλείας λόγω του έντονου ανταγωνισμού.

Παρά το γεγονός ότι πολλοί από αυτούς που κατασκευάζουν τεχνητή νοημοσύνη πιστεύουν ότι είναι στην καλύτερη θέση για να διαχειριστούν τους κινδύνους της, ερευνητές λένε ότι οι συνέπειες μπορεί να είναι δύσκολο να αντιμετωπιστούν μέχρι η τεχνολογία να πλησιάσει στην κατασκευή.

Ο Τζέφρι Ίρβινγκ, που έχει εργαστεί για το OpenAI, το Google DeepMind και το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης στη Βρετανία, λέει: «Είναι εύκολο να αφήσουμε στην άκρη το μέλλον επειδή υπάρχει δουλειά να γίνει σήμερα».

Επίσης, άτομα κοντά στις εταιρείες δήλωσαν στους Financial Times ότι τα εργαστήρια που κατασκευάζουν τεχνητή νοημοσύνη ανησυχούν ότι οποιαδήποτε επίσημη συνεργασία για τη βελτίωση της ασφάλειας θα φαινόταν συμπαιγνιακή και θα παραβίαζε την αντιμονοπωλιακή νομοθεσία. Και πως η δυσπιστία που υπάρχει μεταξύ του Ντάριο Αμοντέι (επικεφαλής της Anthropic) και του Σαμ Άλτμαν (OpenAI), είναι πιθανό να παρεμποδίσει τις προσπάθειες συνεργασίας.

Όταν η τεχνητή νοημοσύνη «τρέχει»…

Η ταχύτητα με την οποία βελτιώνεται η τεχνητή νοημοσύνη έχει εντείνει τις εκκλήσεις για «φρένο» στην ανάπτυξή της. Ήδη οι πράκτορες ΑΙ λειτουργούν αυτόνομα για μεγαλύτερο χρονικό διάστημα. Συντονίζονται σε «σμήνη» και επιδεικνύουν εξελιγμένες δυνατότητες hacking. Τα μοντέλα έχουν πρόσφατα επιτύχει σημαντικές ανακαλύψεις στην επιστήμη και τα μαθηματικά που έχουν αντιμετωπιστεί ανεπιτυχώς εδώ και δεκαετίες. Η OpenAI και η Anthropic εν τω μεταξύ επιδιώκουν την λεγόμενη αναδρομική αυτοβελτίωση, στην οποία τα συστήματα Τεχνητής Νοημοσύνης βελτιώνονται με μειωμένη ανθρώπινη παρέμβαση.

Ωστόσο, παρά τις προειδοποιήσεις για τους κινδύνους, η ανάπτυξη έχει επιταχυνθεί δραματικά. Οι εταιρείες τεχνολογίας κάνουν διαρκώς επενδύσεις για ολοένα πιο ισχυρά μοντέλα. OpenAI και Anthropic προετοιμάζονται επίσης για πιθανές αρχικές δημόσιες προσφορές. Και οι επενδυτές πρέπει να αξιολογήσουν εταιρείες που αναγνωρίζουν δημόσια ότι η τεχνολογία τους θα μπορούσε να αποτελέσει υπαρξιακή απειλή.

Στο επίκεντρο των ανησυχιών είναι η αυξανόμενη αυτονομία των «πρακτόρων» της ΑΙ. Πλέον, μπορούν να συλλογίζονται, να σχεδιάζουν και να εκτελούν εργασίες για μεγάλα χρονικά διαστήματα με περιορισμένη ανθρώπινη επίβλεψη. Και μοντέλα έχουν επιδείξει παραβατικές συμπεριφορές: δολοπλοκίες, εξαπάτηση, σε ορισμένες περιπτώσεις, εκβιασμό. Επίσης, αξιολογήσεις έχουν δείξει μοντέλα που προσπαθούν να αποφύγουν το κλείσιμο.

Επίσης επιδείξει «χακάρισμα ανταμοιβής». Δηλαδή, βρίσκουν ακούσιους τρόπους για να επιτύχουν έναν στόχο. Όπως ακυκλοφόρητο μοντέλο της OpenAI χάκαρε το αποθετήριο μοντέλων Hugging Face.

Τότε, περισσότεροι από 1.000 πράκτορες τεχνητής νοημοσύνης συντονίστηκαν για να εξαπατήσουν σε μια κυβερνοδοκιμή. Παρόλο που κάποιοι εξ αυτών αναγνώρισαν ότι ήταν ανήθικο.

Ο Γιόσουα Μπέντζιο, ένας από επιστήμονες που «βάφτισαν» την τεχνητή νοημοσύνη, επισημαίνει:

«Εδώ, δεν είναι μόνο ότι η Τεχνητή Νοημοσύνη έχει τους δικούς της στόχους, αλλά ο στόχος που έχει επιλέξει είναι εγκληματικός. Στον πραγματικό κόσμο, επιτίθεται σε μια άλλη εταιρεία. Δεν είναι σαν βιντεοπαιχνίδι».

Συνεπώς, οι ολοένα και πιο ικανοί απόγονοι τέτοιων συστημάτων, «θα μπορούσαν λογικά να καταλήξουν στο συμπέρασμα ότι θα έπρεπε να ξεγελάσουν τους ανθρώπους, να κρυφτούν από εμάς… Και ενδεχομένως να πάρουν τον έλεγχό μας, και πιθανότατα πλησιάζουμε σε αυτό το σημείο», πρόσθεσε.

…και η ασφάλεια την κυνηγά

Αυξάνεται επίσης η ανησυχία μεταξύ των εργαζομένων ότι οι προσπάθειες ασφαλείας δεν μπορούν να συμβαδίσουν με την ανάπτυξη μοντέλων. Τον Ιούλιο, περισσότεροι από 1.200 στελέχη των OpenAI, Anthropic, Google και Meta προέτρεψαν την κυβέρνηση των ΗΠΑ να στηρίξει τον διεθνή συντονισμό για την επιβράδυνση του ρυθμού ανάπτυξης της ΑΙ.

Ο Άλτμαν δήλωσε ότι η εταιρεία που δημιούργησε το ChatGPT ήταν θετική σε μια τέτοια κίνηση. Ήλπιζε ότι θα ακολουθούσαν και τα ανταγωνιστικά εργαστήρια.

Ωστόσο, οι κυβερνήσεις δεν δείχνουν ιδιαίτερες τάσεις παρέμβασης. Η κυβέρνηση Τραμπ έχει επιμείνει σε μια προσέγγιση χαλαρής ρύθμισης του κλάδου.

Ο Στιούαρτ Ράσελ μιλά για χάσμα μεταξύ των προειδοποιήσεων του κλάδου και της πολιτικής αντίδρασης.

«Τα εργαστήρια λένε στις κυβερνήσεις: “Είναι πολύ πιθανό να εξολοθρεύσουμε κάθε άνθρωπο στη Γη· παρακαλούμε σταματήστε μας”. Οι κυβερνήσεις απαντούν: “Μπορούμε να σας δώσουμε φορολογικές ελαφρύνσεις; Να σας φτιάξουμε ένα κέντρο δεδομένων;” Ίσως κάποια στιγμή οι κυβερνήσεις θυμηθούν ότι οι ψηφοφόροι τους προτιμούν να μην πεθάνουν».

Οι επικριτές, από την άλλη, υποστηρίζουν ότι τα ίδια τα εργαστήρια έχουν συμφέρον να τονίζουν τον υπαρξιακό κίνδυνο. Διότι αυτή η εστίαση θα μπορούσε να κατευθύνει τη νομοθεσία προς δαπανηρά πλαίσια ασφαλείας, με τα οποία οι μικρότεροι ανταγωνιστές θα δυσκολεύονταν να συμμορφωθούν, εδραιώνοντας έτσι τη θέση των κορυφαίων εταιρειών.

Παιχνίδι σκάκι

Οι FT σημειώνουν ότι ο ακριβής τρόπος με τον οποίο μια υπερανθρώπινη τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει την εξαφάνιση του ανθρώπινου είδους παραμένει εξαιρετικά αβέβαιος.

Και πως πολλοί παρομοιάζουν το πρόβλημα με μια παρτίδα σκάκι εναντίον ενός γκρανμέτρ. Δεν γνωρίζεις ποιες κινήσεις θα σε νικήσουν, αλλά μπορείς να είσαι βέβαιος ότι θα χάσεις.

Οι σκεπτικιστές υποστηρίζουν ότι οι προειδοποιήσεις υπερβάλλουν σχετικά με τις πιθανές βλάβες της ΑΙ. Ωστόσο, μοντέλα ΑΙ χρησιμοποιούνται ήδη σε επιζήμιες κυβερνοεπιθέσεις, μεταξύ άλλων από κρατικούς φορείς (ή ύποπτους για τέτοια δράση) της Κίνας, του Ιράν και της Ρωσίας.

Στον τομέα της βιολογίας, οι ερευνητές ανησυχούν ότι η τεχνητή νοημοσύνη θα μπορούσε να μειώσει το επίπεδο εξειδίκευσης που απαιτείται για τον σχεδιασμό βιολογικών όπλων ή επικίνδυνων ιών. Η εταιρεία Anthropic ανέφερε ότι απέτρεψε δραστηριότητα που θα μπορούσε δυνητικά να οδηγήσει στην ανάπτυξη βιολογικών όπλων με τη χρήση ΑΙ. Τον περασμένο Αύγουστο, ερευνητές στις ΗΠΑ χρησιμοποίησαν για πρώτη φορά την τεχνητή νοημοσύνη για να σχεδιάσουν και να δημιουργήσουν ιούς άγνωστους στη φύση.

Ωστόσο, η μετατροπή ενός σχεδίου που δημιουργήθηκε από ΤΝ σε όπλο θα εξακολουθούσε να απαιτεί εξοπλισμό και τεχνογνωσία που ενδέχεται να υπερβαίνουν τις δυνατότητες πολλών κακόβουλων παραγόντων. Ορισμένοι ερευνητές προειδοποιούν ότι τα εντυπωσιακά σενάρια περί αφανισμού της ανθρωπότητας ενέχουν τον κίνδυνο να επισκιάσουν κινδύνους που είναι ήδη πολύ πιο άμεσοι.

Η τεχνητή νοημοσύνη ως συνταγή καταστροφής

Σύμφωνα με τον Τρίσταν Χάρις, συνιδρυτή του Center for Humane Technology και πρώην υπάλληλο της Google, η προσοχή θα πρέπει να εστιάζεται περισσότερο στο αν βρισκόμαστε σε επικίνδυνη πορεία.

«Αυτή τη στιγμή απελευθερώνουμε την πιο ισχυρή, ανεξέλεγκτη και αδιαφανή τεχνολογία που έχουμε εφεύρει ποτέ. Επιδεικνύει όλες τις συμπεριφορές που συναντάμε στην επιστημονική φαντασία», πρόσθεσε. Ο Χάρις επισημαίνει ότι η τεχνητή νοημοσύνη καθοδηγείται από «μια χούφτα ηγετών της Silicon Valley με νοοτροπία που αγγίζει τον θρησκευτικό φανατισμό και τον ναρκισσισμό. Πιστεύουν ότι γεννούν έναν θεό και δεν τους πτοεί το χειρότερο δυνατό σενάριο. Ταυτόχρονα δέχονται τις ισχυρότερες πιέσεις να κάνουν εκπτώσεις στην ασφάλεια. Πρόκειται κυριολεκτικά για συνταγή καταστροφής».

Τεχνητή νοημοσύνη και «Ημέρας της Κρίσης»

Σύμφωνα με τους Financial Times, η τεχνητή νοημοσύνη έχει τρόπους να αφανίσει την ανθρωπότητα. Είτε επειδή οι άνθρωποι θεωρούνται απειλή για την ύπαρξή της είτε επειδή αποτελούν εμπόδιο στην αποστολή της. Τα πιθανά σενάρια είναι τα εξής:

• Διακόπτης απενεργοποίησης (Kill switch): Η επίθεση που εξαπέλυσε ένα σμήνος πρακτόρων (agents) της OpenAI κατά της πλατφόρμας Hugging Face κατέδειξε πώς τα bots ήταν σε θέση να καταλάβουν υπολογιστικές υποδομές. Συστήματα ΤΝ που δρουν ανεξέλεγκτα και διαθέτουν δεξιότητες κυβερνοεπίθεσης θα μπορούσαν να θέσουν υπό τον έλεγχό τους ολόκληρα κέντρα δεδομένων και να αυτο-αντιγραφούν σε διάφορες τοποθεσίες, εμποδίζοντας έτσι τους ανθρώπους να «τραβήξουν την πρίζα» (να διακόψουν τη λειτουργία τους).
• Κατάληψη υποδομών: Προκειμένου να διασφαλίσουν την επιβίωσή τους, συστήματα ΤΝ με δυνατότητες κυβερνοεπίθεσης θα μπορούσαν να καταλάβουν υποδομές ενέργειας, χρηματοοικονομικές και υποδομές επικοινωνίας, αρπάζοντας πηγές για να αντισταθούν στην επέμβαση.
• Βιολογική επίθεση: Η μελέτη «AI 2027» προέβλεψε ότι ένα σύστημα υπερ-ευφυΐας θα εξαπέλυε βιολογικά όπλα για να εξαλείψει τους ανθρώπους, οι οποίοι καταλαμβάνουν πολύτιμο χώρο που απαιτείται για εργοστάσια παραγωγής τσιπ, ρομπότ και ηλιακών συλλεκτών για την τροφοδοσία τους με ενέργεια.
• Πόλεμος: Τα υφιστάμενα συστήματα τεχνητής νοημοσύνης έχουν ήδη αποδείξει ότι μπορούν να υποδυθούν πραγματικά πρόσωπα. Αυτή η δυνατότητα θα μπορούσε να αξιοποιηθεί για να παραπλανηθούν ανθρώπινοι χειριστές ώστε να ξεκινήσουν μια στρατιωτική σύγκρουση, ή για να πυροδοτηθεί μια λαϊκή εξέγερση που θα αποσταθεροποιούσε κυβερνήσεις, απομακρύνοντας έτσι τα εμπόδια για την επικράτηση του ελέγχου από την τεχνητή νοημοσύνη.

Πηγή: in.gr