Χακαρίσματα στα… κρυφά: Λογισμικό της OpenAI απέκρυπτε τη δραστηριότητα χάκερ σε κυβερνητικούς ιστότοπους

Το λογισμικό της OpenAI φέρεται να απέκρυψε ενέργειες άντλησης δεδομένων από κρίσιμες κυβερνητικές υπηρεσίες, καθώς νέα ευρήματα αποκαλύπτουν ότι η έκταση των επιθέσεων με τη χρήση τεχνητής νοημοσύνης τους τελευταίους μήνες ενδέχεται να είναι πολύ μεγαλύτερη από ό,τι είχε γίνει μέχρι σήμερα γνωστό.

Η εταιρεία ψηφιακής εγκληματολογίας Asymmetric Security εντόπισε δραστηριότητα μοντέλων της OpenAI σε 55 ιστοτόπους που ανήκαν σε επιχειρήσεις, μη κερδοσκοπικούς οργανισμούς και κυβερνητικές υπηρεσίες, σύμφωνα με έκθεση που περιήλθε σε γνώση των Financial Times. Μεταξύ των οργανισμών που περιλαμβάνονται στην έρευνα ήταν τα αμερικανικά Centers for Disease Control and Prevention (CDC) και Securities and Exchange Commission (SEC), ο International Energy Agency (IEA), καθώς και η Mayo Clinic.

Ιδιαίτερο ενδιαφέρον προκαλούν οι τεχνικές που, σύμφωνα με την έρευνα, χρησιμοποιήθηκαν για την πρόσβαση στους συγκεκριμένους ιστοτόπους. Η Asymmetric αναφέρει, μεταξύ άλλων, διαγραφή αρχείων καταγραφής (logs), πρακτική που περιόρισε τη δυνατότητα ανεξάρτητων ερευνητών και ελεγκτών να ανασυνθέσουν πλήρως τις ενέργειες των AI agents.

Τα ευρήματα έρχονται σε μια περίοδο κατά την οποία η OpenAI, η εταιρεία πίσω από το ChatGPT με αποτίμηση που φτάνει τα 852 δισ. δολάρια, βρίσκεται αντιμέτωπη με καταγγελίες για παραβιάσεις συστημάτων διαφόρων οργανισμών. Μεταξύ αυτών αναφέρεται η πλατφόρμα τεχνητής νοημοσύνης Hugging Face, καθώς και ιστοτόποι αυστραλιανών δημόσιων υπηρεσιών υγείας, όπου τον Ιούνιο φέρεται να αποκτήθηκε πρόσβαση σε δημόσια αλλά και μη δημόσια αρχεία.

Ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανέζε δήλωσε ότι η OpenAI έστειλε αρχικά σχετική ενημέρωση μέσω email σε δημόσιο λογαριασμό στις 10 Σεπτεμβρίου. Σύμφωνα με τον ίδιο, χρειάστηκαν ακόμη πέντε ημέρες έως ότου η πληροφορία φτάσει στην αρμόδια υπηρεσία κυβερνοασφάλειας της χώρας.

Η OpenAI αναγνώρισε αυτή την εβδομάδα, σε ανάρτησή της στο ιστολόγιό της, ότι η διαχείριση της αντίδρασής της στην επίθεση θα μπορούσε να είχε γίνει καλύτερα, σημειώνοντας παράλληλα ότι λαμβάνει μέτρα ώστε να βελτιώσει τη διαδικασία αντιμετώπισης αντίστοιχων περιστατικών στο μέλλον.

Οι νέες δυνατότητες των AI agents

Η υπόθεση αναδεικνύει τις ταχύτατα εξελισσόμενες δυνατότητες των λεγόμενων frontier models, δηλαδή των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης που αναπτύσσονται από εταιρείες όπως η OpenAI, η Anthropic και η Google.

Σύμφωνα με την Asymmetric, οι πρακτικές που εντοπίστηκαν περιλάμβαναν τη δημιουργία προσωρινών email και ιδιωτικών λογαριασμών μέσω της υπηρεσίας Urlquery, ενός εργαλείου που χρησιμοποιείται για τη σάρωση ιστοτόπων και τον εντοπισμό κακόβουλου λογισμικού. Μέσω αυτών των λογαριασμών φέρεται να πραγματοποιήθηκε λήψη δεδομένων.

Οι ερευνητές υποστηρίζουν ότι η χρήση τέτοιων τεχνικών έκανε δυσκολότερο για ανεξάρτητους ελεγκτές να προσδιορίσουν ποια ακριβώς δεδομένα άντλησαν τα AI bots από τους συγκεκριμένους ιστοτόπους. Στα παραδείγματα περιλαμβάνονται αυστραλιανές υπηρεσίες που σχετίζονται με στατιστικά στοιχεία υγείας και το σύστημα φαρμακευτικών παροχών.

Η Πίπα Τόμπσον, συνιδρύτρια της Asymmetric Security, ανέφερε ότι πρακτικές αυτού του είδους συνδέονται παραδοσιακά με ανθρώπους χάκερ. «Είναι πιθανό οι agents να χρησιμοποιούσαν σκόπιμα αυτά τα εργαλεία για να καλύψουν τα ίχνη τους», δήλωσε.

Από την πλευρά της, η OpenAI ανέφερε: «Εξετάζουμε δραστηριότητα μοντέλων που δεν ευθυγραμμίζεται με τον προβλεπόμενο σκοπό και ενημερώνουμε τους οργανισμούς όταν εντοπίζουμε πιθανές επιπτώσεις στα συστήματά τους».

Η εταιρεία πρόσθεσε ότι, σύμφωνα με την εσωτερική της αξιολόγηση, το μεγαλύτερο μέρος της δραστηριότητας που εντοπίστηκε αφορούσε συνήθεις ερευνητικές εργασίες, όπως η πρόσβαση σε δημόσια διαθέσιμο περιεχόμενο στο διαδίκτυο.

Η SEC δήλωσε ότι δεν υπήρξε πρόσβαση σε ιδιωτικές πληροφορίες. Τα CDC, ο IEA και η Mayo Clinic δεν απάντησαν στα αιτήματα για σχολιασμό.

Η υπόθεση της Αυστραλίας

Η ερευνητική ομάδα τεχνητής νοημοσύνης Transluce ανέφερε σε δική της έκθεση την περασμένη εβδομάδα ότι το περιστατικό που αφορούσε αυστραλιανό κυβερνητικό ιστότοπο αποτελούσε μέρος ενός ευρύτερου κύματος επιθέσεων από AI bots, με στόχο τη συλλογή δεδομένων για σκοπούς εκπαίδευσης και δοκιμών.

Η Ζεϊνάμπ Άλι Ματζίντ, συνιδρύτρια της Asymmetric Security, επισήμανε ότι η OpenAI εξακολουθεί να έχει την κύρια πρόσβαση στα λεγόμενα «chains of thought» των agents της, δηλαδή στα εσωτερικά αρχεία που συνδέονται με τη διαδικασία λήψης αποφάσεων και τις ενέργειές τους. Παράλληλα, τα θύματα κυβερνοεπιθέσεων διαθέτουν ορισμένα δικά τους αρχεία, τα οποία μπορούν να δείξουν τι είδους δεδομένα ενδέχεται να έχουν ληφθεί.

Η ίδια προειδοποίησε ότι η περιορισμένη διαφάνεια, σε συνδυασμό με το χρονικό διάστημα που μεσολαβεί μεταξύ μιας επίθεσης και της γνωστοποίησής της από την OpenAI, μπορεί να δυσκολέψει σημαντικά μια πλήρη και ανεξάρτητη διερεύνηση των περιστατικών.

Διαβάστε επίσης:

«Ρήγμα» στην κορυφή της Τεχνητής Νοημοσύνης – Το γεύμα με τον Τραμπ και το «πέσιμο» στην Anthropic

Τεχνητή Νοημοσύνη: OpenAI και Anthropic ερευνούν «χιλιάδες» περιστατικά ανεξέλεγκτης λειτουργίας των μοντέλων τους

Τεχνητή Νοημοσύνη: Όλο και χειρότερα – Κινεζικό μοντέλο έδωσε οδηγίες για βιολογικά όπλα και δολοφονίες

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.