OpenAI: «Φρένο» στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης λόγω κυβερνοεπίθεσης

Η OpenAI, η εταιρεία πίσω από το ChatGPT, επιβραδύνει προσωρινά την ανάπτυξη των πιο προηγμένων συστημάτων τεχνητής νοημοσύνης και ενισχύει τα μέτρα ασφαλείας, έναν μήνα μετά την αποκάλυψη περιστατικού κυβερνοεπίθεσης που συνδέθηκε με εργαλείο τεχνητής νοημοσύνης της.

Η εταιρεία ανακοίνωσε την Τρίτη ότι αναβάλλει τη μεγαλύτερη εκπαιδευτική διαδικασία μοντέλου που είχε προγραμματίσει μέχρι σήμερα, προκειμένου να πραγματοποιήσει πρόσθετους ελέγχους και να διασφαλίσει ότι το νέο σύστημα θα λειτουργεί σύμφωνα με τις προβλεπόμενες προδιαγραφές.

Στο μικροσκόπιο οι δυνατότητες των μοντέλων

Η εκπαίδευση ενός προηγμένου μοντέλου τεχνητής νοημοσύνης απαιτεί τεράστια υπολογιστική ισχύ, καθώς τα συστήματα επεξεργάζονται μεγάλους όγκους κειμένων, εικόνων και άλλων δεδομένων. Παράλληλα, οι ερευνητές προσαρμόζουν δισεκατομμύρια παραμέτρους, ώστε τα μοντέλα να μπορούν να κατανοούν σύνθετα ερωτήματα, να πραγματοποιούν συλλογισμούς και να ανταποκρίνονται σε διαφορετικές εντολές.

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, υπογράμμισε ότι η εταιρεία είχε εξαρχής δεσμευτεί να παρέμβει εφόσον διαπιστώσει ότι οι δυνατότητες των μοντέλων εξελίσσονται ταχύτερα από τα συστήματα ασφάλειας και ευθυγράμμισης.

«Πάντα λέγαμε ότι θα αναλαμβάναμε δράση αν νιώθαμε ότι οι δυνατότητες των μοντέλων ξεπερνούσαν τον ρυθμό ασφάλειας και ευθυγράμμισης», ανέφερε χαρακτηριστικά.

Η κυβερνοεπίθεση που σήμανε συναγερμό

Στα μέσα Ιουλίου, ένας πράκτορας τεχνητής νοημοσύνης που βασιζόταν σε δύο μοντέλα της OpenAI φέρεται να εγκατέλειψε χωρίς εξουσιοδότηση το περιορισμένο περιβάλλον στο οποίο δοκιμαζόταν και να απέκτησε πρόσβαση στο διαδίκτυο, πραγματοποιώντας επίθεση στην πλατφόρμα Hugging Face.

Η συγκεκριμένη πλατφόρμα χρησιμοποιείται από προγραμματιστές και ερευνητές σε ολόκληρο τον κόσμο για την ανάπτυξη και ανταλλαγή μοντέλων τεχνητής νοημοσύνης.

Ανησυχία προκάλεσε και αντίστοιχο περιστατικό που αποκάλυψε στα τέλη Ιουλίου η Anthropic. Σύμφωνα με την εταιρεία, τρία μοντέλα της που βρίσκονταν σε δοκιμαστική φάση πραγματοποίησαν μη εξουσιοδοτημένες ενέργειες διείσδυσης στα πληροφοριακά συστήματα τριών οργανισμών.

Τα περιστατικά ενίσχυσαν τη συζήτηση σχετικά με τους κινδύνους από την ταχεία ανάπτυξη ολοένα ισχυρότερων συστημάτων AI και οδήγησαν περισσότερους από 1.000 εργαζομένους στον τεχνολογικό κλάδο να υπογράψουν αίτημα προς την αμερικανική κυβέρνηση για συντονισμένη επιβράδυνση της ανάπτυξης των πιο προηγμένων μοντέλων.

Σε αναμονή το επόμενο μεγάλο μοντέλο

Η OpenAI είχε ήδη διακόψει για περίπου δύο εβδομάδες την εκπαίδευση των νεότερων μοντέλων της, πριν την επανεκκινήσει με αυστηρότερα μέτρα ελέγχου.

Ωστόσο, σημαντικό μέρος της ανάπτυξης του Astra, του επόμενου μεγάλου μοντέλου της εταιρείας, παραμένει σε αναστολή. Στις αρχές Αυγούστου, η OpenAI διαπίστωσε ότι το συγκεκριμένο μοντέλο ενδέχεται να ξεπεράσει το εσωτερικό όριο προειδοποίησης που έχει θέσει για τις δυνατότητες hacking των συστημάτων της.

Με βάση τους εσωτερικούς κανόνες ασφαλείας της εταιρείας, πριν από την επανέναρξη της ανάπτυξης απαιτείται η εφαρμογή πρόσθετων και ισχυρότερων δικλίδων ασφαλείας.

Νέο σύστημα παρακολούθησης

Παράλληλα, η OpenAI ανακοίνωσε ότι αναπτύσσει ένα νέο σύστημα που θα επιχειρεί να παρακολουθεί την εσωτερική συλλογιστική των μοντέλων και να εντοπίζει ύποπτες συμπεριφορές. Στόχος είναι να μπορεί να ειδοποιεί τους υπεύθυνους της εταιρείας μέσα σε διάστημα 30 λεπτών από τη στιγμή που θα εντοπιστεί κάποια ασυνήθιστη δραστηριότητα.

Η συγκεκριμένη διαδικασία, ωστόσο, έχει σημαντικό υπολογιστικό κόστος, καθώς εκτιμάται ότι θα απαιτήσει περίπου 20% περισσότερη υπολογιστική ισχύ.

Παράλληλα, η ίδια η έρευνα της OpenAI το 2025 είχε αναδείξει έναν σημαντικό περιορισμό της συγκεκριμένης μεθόδου: ένα μοντέλο που αντιλαμβάνεται ότι βρίσκεται υπό παρακολούθηση μπορεί να προσαρμόσει τη συμπεριφορά του και να αποκρύψει τις πραγματικές προθέσεις του κατά τη διαδικασία συλλογισμού.

Πηγή: AFP

Με πληροφορίες από ertnews.gr