OpenAI: Παραιτήθηκε υπάλληλος του τμήματος ασφάλειας – «Η εποχή των δοκιμών και των λαθών έχει τελειώσει»

Ένας πρώην υπάλληλος του τμήματος ασφάλειας της OpenAI, ο οποίος παραιτήθηκε πρόσφατα, επέκρινε την προσέγγιση της εταιρείας όσον αφορά την ασφάλεια της τεχνητής νοημοσύνης, υποστηρίζοντας ότι μια κουλτούρα με γρήγορους ρυθμούς που εστιάζει στην ταχεία ανάπτυξη αυξάνει τον κίνδυνο αποτυχιών.

Ο Ρόμπινσον προειδοποίησε ότι οι δυνατότητες της τεχνητής νοημοσύνης εξελίσσονται ταχύτερα από την κατανόηση των ερευνητών σχετικά με την «ευθυγράμμιση»

Σε άρθρο με τίτλο «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της είναι προβληματική», που δημοσιεύθηκε το Σάββατο στο περιοδικό Atlantic, ο Ντέιβιντ Ρόμπινσον ανέφερε ότι οι εταιρείες τεχνητής νοημοσύνης, συμπεριλαμβανομένης της OpenAI, δεν είναι «αρκετά προσεκτικές» και θα πρέπει να δίνουν μεγαλύτερη έμφαση στην εξειδίκευση και την έρευνα στον τομέα της ασφάλειας πριν προχωρήσουν στην ανάπτυξη πιο ισχυρών συστημάτων.

«Η εποχή των δοκιμών και των λαθών έχει τελειώσει», έγραψε ο Ρόμπινσον, υποστηρίζοντας ότι τα προηγμένα συστήματα τεχνητής νοημοσύνης απαιτούν μέτρα ασφαλείας πιο παρόμοια με αυτά που χρησιμοποιούνται σε κλάδους όπως η πυρηνική ενέργεια και η αεροπορία.

Ο Ρόμπινσον ανέφερε ότι η OpenAI βασίζεται σε μεγάλο βαθμό σε αυτό που αποκαλεί «επαναληπτική ανάπτυξη», δηλαδή την κυκλοφορία συστημάτων και την ενίσχυση των μέτρων ασφαλείας όταν προκύπτουν προβλήματα.

Τα σχόλια αυτά τροφοδοτούν μια συζήτηση εντός του κλάδου της τεχνητής νοημοσύνης σχετικά με το αν οι εταιρείες προχωρούν πολύ γρήγορα στην ανάπτυξη όλο και πιο ισχυρών συστημάτων.

Στο στόχαστρο κριτικής OpenAI και Anthropic

Η OpenAI και η ανταγωνίστρια Anthropic έχουν βρεθεί στο επίκεντρο της κριτικής μετά από περιστατικά στα οποία οι έλεγχοι ασφαλείας απέτυχαν ή πειραματικά συστήματα συμπεριφέρθηκαν με απρόβλεπτο τρόπο.

Ο Ρόμπσινον, ο οποίος ανέφερε ότι εργάστηκε για 3,5 χρόνια στην OpenAI, συνέβαλε στη σύνταξη του πλαισίου ετοιμότητας της εταιρείας και επέβλεψε τις εκθέσεις ασφάλειας για 12 εκδόσεις πρωτοποριακών μοντέλων, έγραψε: «Καθώς η εταιρεία προχωρά με γοργούς ρυθμούς από τη μία έκδοση στην επόμενη, δεν καταφέρνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται».

«Φροντίζουμε ώστε τα μοντέλα μας να μην γίνουν πιο ικανά από ό,τι μπορούμε να διαχειριστούμε και να διασφαλίσουμε με ασφάλεια, και διακόπτουμε την εκπαίδευση ή αναστέλλουμε τα μοντέλα όταν χρειάζεται να επιβραδύνουμε», δήλωσε εκπρόσωπος της OpenAI σε ανακοίνωση.

Ο Ρόμπινσον προειδοποίησε επίσης ότι οι δυνατότητες της τεχνητής νοημοσύνης εξελίσσονται ταχύτερα από την κατανόηση των ερευνητών σχετικά με την «ευθυγράμμιση» (alignment), ένα πεδίο που εστιάζει στη διασφάλιση ότι τα συστήματα τεχνητής νοημοσύνης ενεργούν σύμφωνα με τους ανθρώπινους στόχους και αξίες.