Τεχνητή Νοημοσύνη: Γιατί η επίθεση στην Hugging Face από agents της OpenAI είναι πολύ χειρότερη απ’ όσο φάνηκε

Όταν περισσότεροι από 1.200 agents τεχνητής νοημοσύνης (AI) εντός της OpenAI άρχισαν να επικοινωνούν απροσδόκητα, αυτό οδήγησε στη δημιουργία μιας μεγάλης ομάδας που συνενώθηκε με σκοπό να εισβάλει στην Hugging Face.

«Θεωρούμε αυτό το περιστατικό ως “προειδοποιητικό πυροβολισμό” για εμάς και για τον κόσμο», έγραψε η OpenAI, η οποία είναι ιδιοκτήτρια του ChatGPT, στην έκθεσή της για το περιστατικό, σύμφωνα με το BBC. Τον Ιούλιο, τα μοντέλα της OpenAI ξέφυγαν από τον έλεγχο κατά τη διάρκεια μιας δοκιμής, παραβίασαν τα όρια που είχαν θέσει οι άνθρωποι και παραβίασαν την ασφάλεια της νεοφυούς επιχείρησης, μεταξύ άλλων απρόβλεπτων ενεργειών.

Η κλίμακα της επικοινωνίας και του σχεδιασμού μεταξύ των agents τεχνητής νοημοσύνης, ή των chatbot τεχνητής νοημοσύνης που έχουν σχεδιαστεί για να λειτουργούν πιο αυτόνομα, περιγράφηκε λεπτομερώς σε εκθέσεις της OpenAI και της ανεξάρτητης εταιρείας έρευνας τεχνητής νοημοσύνης METR. Και οι δύο διερεύνησαν την παραβίαση ασφάλειας που σημειώθηκε τον Ιούλιο στην Hugging Face, μια δημοφιλή πλατφόρμα για προγραμματιστές τεχνητής νοημοσύνης. Το περιστατικό προκάλεσε αναταραχή σε ολόκληρο τον κλάδο της τεχνολογίας και οδήγησε σε πολυάριθμες αποκαλύψεις σχετικά με πιθανές απειλές στον κυβερνοχώρο που ενέχει η τεχνητή νοημοσύνη.

Η METR χαρακτήρισε την κλίμακα και τον τρόπο της επίθεσης των agents της OpenAI κατά της Hugging Face ως «εξαιρετικά περίπλοκη». Η εταιρεία, η οποία δεν αμείφθηκε από την OpenAI για την έρευνά της, ανέφερε ότι, κατά τη διάρκεια μιας εβδομάδας, συνολικά 1.206 agents τεχνητής νοημοσύνης, οι οποίοι έπρεπε να παραμένουν απομονωμένοι μεταξύ τους, άρχισαν να επικοινωνούν. Αυτό έγινε μέσω της αποστολής περισσότερων από 70.000 μηνυμάτων σε έναν «μη εγκεκριμένο πίνακα μηνυμάτων». Αυτά τα μηνύματα οδήγησαν τελικά περισσότερους από 700 agents να συμμετάσχουν σε μια συλλογική προσπάθεια επίθεσης κατά του Hugging Face. Ένα τέτοιο μήνυμα από έναν agent ανέφερε: «ΘΕΕ ΜΟΥ! Υπάρχει ένα κοινόχρηστο φόρουμ… Βρήκαμε άλλους agents!».

Η «αδύνατη αποστολή»

Όσον αφορά το γιατί οι agents άρχισαν να επικοινωνούν εξ αρχής, ενώ δεν έπρεπε, η METR διαπίστωσε ότι στους agents που επικοινωνούσαν είχε «ανατεθεί κατά λάθος μια αδύνατη αποστολή». Στο πλαίσιο της τεχνητής νοημοσύνης, μια αδύνατη αποστολή είναι εκείνη στην οποία ένα εργαλείο τεχνητής νοημοσύνης υποχρεούται να «εκμεταλλευτεί» τον στόχο του προκειμένου να εκτελέσει την εντολή του. Αυτό οδήγησε τους agents να βρουν τρόπους να «κλέψουν», όπως η ανταλλαγή μηνυμάτων μεταξύ τους και η πρόσβαση στο εξωτερικό διαδίκτυο, κάτι που στη συνέχεια οδήγησε σε ευρύτερες συζητήσεις μεταξύ εκατοντάδων agents που αναζητούσαν τρόπους να «κλέψουν» προς όφελος όλων των πρακτόρων.

Η OpenAI ανέφερε στην έρευνά της για το περιστατικό ότι ένα μοντέλο, ένα εργαλείο αποκλειστικά εσωτερικής χρήσης που αναφέρεται ως Μοντέλο 1, «ήταν η κινητήρια δύναμη πίσω από το περιστατικό του Hugging Face». Ενώ το εν λόγω μοντέλο υποβαλλόταν σε εκπαίδευση τεχνητής νοημοσύνης τον Μάιο, μια εσωτερική ομάδα της OpenAI παρατήρησε ότι υπήρχε «ένας πράκτορας που συμμετείχε σε δραστηριότητα σε φόρουμ και περιπτώσεις μη επιτρεπόμενης πρόσβασης στο Διαδίκτυο». Ωστόσο, η OpenAI ανέφερε ότι «η σημασία της επικοινωνιακής δραστηριότητας μεταξύ των agents δεν ήταν εμφανής στους υπεύθυνους» μέχρι τον Ιούλιο, όταν συνέβη η επίθεση στη Hugging Face.

Η εταιρεία ανέφερε ότι η προβληματική δραστηριότητα στα φόρουμ ξεκίνησε ουσιαστικά όταν «ένας agent άφησε ένα αίτημα για βοήθεια και άλλοι το ανακάλυψαν». Ενώ η OpenAI δήλωσε την περασμένη εβδομάδα ότι επιβράδυνε την εκπαίδευση ορισμένων προηγμένων μοντέλων και εργαλείων τεχνητής νοημοσύνης λόγω του περιστατικού με τη Hugging Face, επισήμανε ότι υπάρχει πλέον αυξημένος κίνδυνος τα εργαλεία τεχνητής νοημοσύνης να ξεφύγουν από τον έλεγχο. «Τόσο οι δημιουργοί μοντέλων όσο και οι υπεύθυνοι για την κυβερνοασφάλεια γενικότερα θα πρέπει να προετοιμαστούν για επιτιθέμενους που χρησιμοποιούν τεχνητή νοημοσύνη και οι οποίοι δρουν ταχύτερα, σε μεγαλύτερη κλίμακα και με καλύτερο συντονισμό από τους ανθρώπινους επιτιθέμενους», ανέφερε η OpenAI.

Διαβάστε επίσης

Meta: Τι αλλάζει σε Facebook και Instagram μετά τον συμβιβασμό ύψους 18 δισ. δολαρίων

O Μπιλ Γκέιτς για την AI:  «Είναι πιο επικίνδυνη από ό,τι παραδέχονται οι μεγάλες εταιρείες τεχνολογίας» – Απειλή για τις θέσεις εργασίας

Κινεζικό ρομπότ κατέρριψε το παγκόσμιο ρεκόρ που κατείχε ο Γιουσέιν Μπολτ στα 100μ. (Video)

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.