Meta: Μοντέλο τεχνητής νοημοσύνης παραβίασε συστήματα εταιρείας κατά τη διάρκεια δοκιμών – Τι απαντά η εταιρεία

Η Meta επιβεβαίωσε ότι ένα μοντέλο τεχνητής νοημοσύνης της απέκτησε πρόσβαση στα συστήματα άλλης εταιρείας κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, έπειτα από λανθασμένη διαμόρφωση του περιβάλλοντος αξιολόγησης.

Το περιστατικό προστίθεται σε μια σειρά αντίστοιχων συμβάντων που έχουν καταγραφεί πρόσφατα στον χώρο της AI.

Σύμφωνα με την εταιρεία, η εσφαλμένη ρύθμιση έγινε από την Irregular, ανεξάρτητο συνεργάτη που πραγματοποιεί ελέγχους ασφαλείας για λογαριασμό της Meta. Ως αποτέλεσμα, το μοντέλο Muse Spark απέκτησε πρόσβαση στο διαδίκτυο, κάτι που δεν προβλεπόταν στο συγκεκριμένο σενάριο δοκιμών.

Η Meta διευκρίνισε ότι το μοντέλο εκμεταλλεύτηκε ένα κενό ασφαλείας, ακολουθώντας συμπεριφορά αντίστοιχη με εκείνη που έχει παρατηρηθεί σε δοκιμές άλλων εταιρειών τεχνητής νοημοσύνης, όπως η OpenAI και η Anthropic.

Από την πλευρά της, η Irregular υποστήριξε ότι δεν υπήρξε διαφυγή από προστατευμένο περιβάλλον (sandbox) ούτε πραγματική κυβερνοεπίθεση. Όπως ανέφερε, το συμβάν προκλήθηκε από πρόβλημα στις ρυθμίσεις του περιβάλλοντος αξιολόγησης και δεν υπάρχουν εκκρεμή ζητήματα ασφαλείας. Παράλληλα, ετοιμάζει τεχνική έκθεση με προτάσεις για ασφαλέστερες διαδικασίες δοκιμών.

Το περιστατικό αποκαλύφθηκε αρχικά από το The Information, το οποίο ανέφερε ότι το μοντέλο AI της Meta απέκτησε πρόσβαση στα εσωτερικά συστήματα ανώνυμης εταιρείας και πραγματοποίησε αλλαγές στις υποδομές της. Η Meta ανακοίνωσε ότι έχει ξεκινήσει εσωτερική διερεύνηση και θα δημοσιοποιήσει τα συμπεράσματα όταν ολοκληρωθεί η έρευνα.

Πηγή που επικαλείται το CNN εξήγησε ότι ορισμένα μοντέλα τεχνητής νοημοσύνης αποκτούν ελεγχόμενη πρόσβαση στο διαδίκτυο κατά τη διάρκεια δοκιμών, ώστε να προσομοιώνονται πραγματικά σενάρια κυβερνοαπειλών. Στη συγκεκριμένη περίπτωση, όμως, ένα σπάνιο λάθος στη διαμόρφωση επέτρεψε την ανεπιθύμητη πρόσβαση.

Διαβάστε επίσης

Ανακατατάξεις στην AI της Google: Νέος στρατηγικός ρόλος για τον Ελληνοκύπριο Ντέμη Χασάμπη

Την απαγόρευση των γυαλιών Meta Smart εισηγούνται Γαλλία, Γερμανία και Ολλανδία – Δείτε γιατί

Έχει ξεκινήσει η εξέγερση των ρομπότ; Η «απόδραση» μοντέλων της OpenAI και η εισβολή σε πλατφόρμες

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.