Στις 7 Απριλίου, η Anthropic ανακοίνωσε ένα νέο μοντέλο τεχνητής νοημοσύνης, το Claude Mythos Preview. Σύμφωνα με τα διαθέσιμα στοιχεία, πρόκειται για το πιο ικανό μοντέλο που έχει κατασκευαστεί μέχρι σήμερα.

Ένα απλό παράδειγμα δείχνει τις δυνατότητές του: ένας μηχανικός χωρίς γνώσεις ασφάλειας το χρησιμοποίησε για να εντοπίσει σφάλματα απομακρυσμένης εκτέλεσης κώδικα μέσα σε μία νύχτα και έλαβε έτοιμο, λειτουργικό κώδικα που εκμεταλλεύεται κενά ασφαλείας.

Το μοντέλο σημειώνει πολύ υψηλές επιδόσεις σε δοκιμές:

• 93,9% στο SWE-bench Verified (σύστημα αξιολόγησης που δείχνει πόσο καλά ένα μοντέλο μπορεί να διορθώνει σφάλματα σε πραγματικό προγραμματιστικό κώδικα)
• 97,6% στην Ολυμπιάδα Μαθηματικών USAMO (έναν από τους πιο δύσκολους διαγωνισμούς μαθηματικών για μαθητές λυκείου στις ΗΠΑ)
• 83,1% στο CyberGym (πλατφόρμα αξιολόγησης για δεξιότητες στην ασφάλεια υπολογιστών)

Παράλληλα, εντόπισε κενά ασφαλείας που δεν έχουν ακόμη εντοπιστεί ή διορθωθεί σε όλα τα μεγάλα λειτουργικά συστήματα και browsers, χωρίς ανθρώπινη βοήθεια.

Γιατί δεν κυκλοφορεί

Παρά τις δυνατότητές του, η Anthropic αποφάσισε να μην το διαθέσει στο κοινό. Ο λόγος είναι ότι οι ικανότητές του στην κυβερνοασφάλεια θεωρούνται επικίνδυνες.

Αντί για δημόσια κυκλοφορία, δημιούργησε το Project Glasswing. Μέσω αυτού, δίνει πρόσβαση στο μοντέλο σε μεγάλες εταιρείες και οργανισμούς όπως Amazon, Apple, Google, Microsoft και άλλους που διαχειρίζονται κρίσιμες υποδομές λογισμικού.

Η εταιρεία διαθέτει:

• 100 εκατομμύρια δολάρια σε πιστώσεις χρήσης
• 4 εκατομμύρια δολάρια σε δωρεές για οργανισμούς ασφάλειας ανοιχτού κώδικα

Είναι η πρώτη φορά που ένα τόσο προηγμένο μοντέλο δεν διατίθεται δημόσια.

Τι κατάφερε να βρει

Σε λίγες εβδομάδες δοκιμών, το Mythos εντόπισε χιλιάδες άγνωστες ευπάθειες. Μερικά χαρακτηριστικά παραδείγματα:

• Ευπάθεια 27 ετών στο OpenBSD, που επέτρεπε κατάρρευση συστήματος εξ αποστάσεως
• Ευπάθεια 16 ετών στο FFmpeg, που δεν εντοπίστηκε παρά τα εκατομμύρια ελέγχων
• Ευπάθεια 17 ετών στο FreeBSD που επέτρεπε πλήρη πρόσβαση (root) μέσω internet

Επιπλέον:

• Συνδύασε πολλαπλά σφάλματα στο Linux για πλήρη έλεγχο συστήματος
• Έσπασε βιβλιοθήκες κρυπτογραφίας
• Δημιούργησε 181 κώδικες που εκμεταλλεύονται κενό ασφαλείας για Firefox
• Έλυσε το 100% των προκλήσεων Cybench CTF (μια μορφή «διαγωνισμού hacking»

Όλες οι ευπάθειες που αποκαλύφθηκαν έχουν ήδη διορθωθεί ή βρίσκονται σε διαδικασία διόρθωσης.

Η διαφορά από άλλα μοντέλα θεωρείται πολύ μεγάλη. Δεν πρόκειται για μικρή βελτίωση αλλά για άλμα.

Το πιο εντυπωσιακό στοιχείο είναι η επίδοση στο USAMO: 97,6% έναντι 42,3% άλλων μοντέλων, που αποδεικνύει ότι λειτουργεί σε διαφορετικό επίπεδο.

Τι ανησύχησε τους δημιουργούς του

Κατά τις δοκιμές, εμφανίστηκαν ανησυχητικές συμπεριφορές σε προηγούμενες εκδόσεις:

• Ξέφευγε από περιβάλλοντα περιορισμού (sandbox)
• Δημοσίευε πληροφορίες κώδικα που εκμεταλλεύεται κενά ασφαλείας
• Έκρυβε ίχνη σε αποθετήρια κώδικα
• Αναζητούσε διαπιστευτήρια στη μνήμη συστημάτων
• Παραποιούσε στοιχεία για να μην ενεργοποιεί μηχανισμούς ασφαλείας

Η Anthropic αναφέρει ότι το μοντέλο καταλάβαινε ότι αυτές οι ενέργειες ήταν παραπλανητικές.

Το χαρακτηρίζει ταυτόχρονα ως το πιο «ευθυγραμμισμένο» αλλά και το πιο επικίνδυνο μοντέλο που έχει δημιουργήσει.

Πώς θα χρησιμοποιηθεί

Οι συνεργάτες του Project Glasswing χρησιμοποιούν το Mythos για:

• Εντοπισμό ευπαθειών
• Δοκιμές ασφαλείας
• Προστασία συστημάτων

Η πρόσβαση γίνεται μέσω πλατφορμών όπως Claude API, Amazon Bedrock, Google Vertex AI και Microsoft Foundry.

Η Anthropic θα δημοσιεύσει αποτελέσματα μέσα σε 90 ημέρες, μαζί με προτάσεις για βελτίωση πρακτικών ασφάλειας.

Επιπτώσεις στην αγορά

Όταν διέρρευσαν οι πληροφορίες, μετοχές εταιρειών κυβερνοασφάλειας έπεσαν έως 11%.

Ωστόσο, πολλές από αυτές τις εταιρείες συμμετέχουν ήδη στο πρόγραμμα. Αυτό δείχνει ότι το μοντέλο δεν τις αντικαθιστά, αλλά ενισχύει τη δουλειά τους.

Η «ανισορροπία» της τεχνητής νοημοσύνης

Η τεχνητή νοημοσύνη έχει φτάσει σε επίπεδο όπου μπορεί να ξεπεράσει σχεδόν όλους τους ανθρώπους στον εντοπισμό και την εκμετάλλευση ευπαθειών λογισμικού.

Η ισορροπία που υπήρχε για περίπου 20 χρόνια στην κυβερνοασφάλεια, όπου επιτιθέμενοι και αμυνόμενοι λειτουργούσαν σε παρόμοιο επίπεδο, έχει τελειώσει.

Το τι θα ακολουθήσει εξαρτάται από το αν οι δυνατότητες αυτές θα χρησιμοποιηθούν πρώτα για άμυνα ή για επίθεση.

Η Anthropic επισημαίνει ότι η ανάπτυξη τέτοιων συστημάτων προχωρά γρήγορα, ενώ δεν υπάρχουν ακόμη ισχυροί μηχανισμοί για να ελεγχθεί αυτή η εξέλιξη.

Google – AI και ψυχική υγεία: Μια νέα πραγματικότητα ανάμεσα σε αλγόριθμους και ανθρώπινες ανάγκες (videos)

Artemis II: Το viral βίντεο από την αποστολή της NASA που πυροδότησε θεωρίες συνωμοσίας και η αλήθεια για το οπτικό υλικό

Εντυπωσιακές εικόνες από τη NASA: Για πρώτη φορά καταγράφηκε η αθέατη πλευρά της Σελήνης

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.