Anthropic: Κυκλοφορεί το νέο μοντέλο «τύπου Mythos» στο ευρύ κοινό με δικλείδες ασφαλείας Guardrails

Μοντέλο επόμενης γενιάς «κλάσης Mythos» με δικλείδες ασφαλείας κυκλοφορεί στο ευρύ κοινό η Anthropic. Οι δικλείδες της εταιρείας αφαιρούν επικίνδυνες δυνατότητες που σχετίζονται με τομείς όπως η κυβερνοασφάλεια και η βιολογική έρευνα.

Με την ονομασία Claude Fable 5, το μεγάλο γλωσσικό μοντέλο θα επιτρέπει στους χρήστες να υποβάλλουν ερωτήματα στο Mythos, το οποίο η εταιρεία θεωρούσε προηγουμένως πολύ επικίνδυνο για γενική κυκλοφορία. Ωστόσο, εάν οι χρήστες ρωτήσουν το Fable για ευαίσθητα ζητήματα, όπως ένα βιολογικό όπλο ή η εκμετάλλευση ενός σφάλματος λογισμικού, θα τους επαναφέρει στην παλαιότερη έκδοση Opus 4.8 του chatbot Claude, αναφέρει η Wall Street Journal.

Το Fable 5 θα κοστίζει περισσότερο από το Opus 4.8, αλλά θα θυμάται επίσης καλύτερα πράγματα. Αυτό θα το κάνει καλύτερο στην ολοκλήρωση μεγάλων, πολύπλοκων εργασιών με λιγότερες οδηγίες, δήλωσε στην Journal η Νταϊάν Πέιν, επικεφαλής διαχείρισης προϊόντων, έρευνας και εργαστηρίων της Anthropic.

«Θέλαμε να μπορούμε να παρέχουμε αυτό το επίπεδο πληροφοριών στους γενικούς χρήστες με ασφαλή τρόπο», είπε.

Η Anthropic θεωρεί ασφαλές το νέο Mythos

Οι χάκερ είναι πιθανό να προσπαθήσουν να ξεγελάσουν την Mythos ώστε να απαντήσει σε αυτά τα ερωτήματα, παρά τους ελέγχους της Anthropic – μια διαδικασία γνωστή ως jailbreaking – αλλά η εταιρεία λέει ότι έχει κάνει εκτεταμένες δοκιμές για να δυσκολέψει την υλοποίησή της.

Από την ανακοίνωσή της τον Απρίλιο, η Mythos έχει αναγκάσει την κυβέρνηση Τραμπ να επανεκτιμήσει την πολιτική της για την τεχνητή νοημοσύνη και έχει τρομάξει τους ειδικούς στον κυβερνοχώρο, πολλοί από τους οποίους λένε ότι η Mythos και άλλα προηγμένα μοντέλα τεχνητής νοημοσύνης παράγουν τώρα μια χιονοστιβάδα αναφορών σφαλμάτων.

Η Anthropic έχει καθυστερήσει να μοιραστεί το πλήρες μοντέλο Mythos με τον κόσμο. Προς το παρόν, περίπου 200 οργανισμοί έχουν πρόσβαση σε αυτήν την τεχνολογία, συμπεριλαμβανομένων εταιρειών τεχνολογίας όπως η Verizon και η Microsoft. Σπεύδουν να ελέγξουν την ασφάλεια των συστημάτων και των προϊόντων τους πριν οι χάκερ αποκτήσουν πρόσβαση σε παρόμοιες τεχνολογίες.

Η Anthropic αναβαθμίζει επίσης το μοντέλο που είναι διαθέσιμο σε αυτούς τους συνεργάτες πρώιμης πρόσβασης, από το Mythos Preview στο Mythos 5. Η εταιρεία σχεδιάζει να διευρύνει την πρόσβαση σε αυτό το μοντέλο με την πάροδο του χρόνου μέσω «ενός πιο συστηματικού προγράμματος αξιόπιστης πρόσβασης», ανέφερε η εταιρεία.

Όταν κοστίζει ανά token, το Fable 5 θα κοστίζει διπλάσια από το Opus 4.8, αλλά επειδή θα χρησιμοποιεί λιγότερα tokens για ορισμένους τύπους εργασιών, μπορεί να είναι πιο οικονομικά αποδοτικό για ορισμένους τύπους εργασιών, δήλωσε η Πεν.