Έχει ξεκινήσει η εξέγερση των ρομπότ; Η «απόδραση» μοντέλων της OpenAI και η εισβολή σε πλατφόρμες 

Τα δύο μοντέλα τεχνητής νοημοσύνης της OpenAI, τα οποία βγήκαν, με δική τους πρωτοβουλία, από τον θεωρητικά περιορισμένο χώρο στον οποίο δοκιμάζονταν και επιτέθηκαν στον ιστότοπο Hugging Face, διείσδυσαν επισης σε άλλες τέσσερις πλατφόρμες, σύμφωνα με την εταιρεία που δημιούργησε το ChatGPT.

Ο ένας από τους ιστότοπους χρησιμοποιήθηκε για την προετοιμασία της επίθεση στη Hugging Face, μια βιβλιοθήκη Τεχνητής Νοημοσύνης, την οποία τα δύο μοντέλα έψαξαν για να βρουν τις απαντήσεις στις δοκιμές στις οποίες υποβάλλονταν από τους προγραμματιστές της OpenAI.

H OpenAI δεν αποκάλυψε ποιες εταιρείες μπήκαν στο στόχαστρο.

Σύμφωνα με την επικαιροποίηση του συμβάντος, που ανακοινώθηκε τη νύχτα της Τρίτης προς την Τετάρτη (ώρα ΗΠΑ), τα δύο μοντέλα χρησιμοποίησαν πολλούς ιστοτόπους με ελεύθερη πρόσβαση για να αντιγράψουν τον κώδικα προγραμματισμού ή για να τον δοκιμάσουν, αλλά δεν προχώρησαν περισσότερο απ’ όσο θα έκανε ένας απλός χρήστης.

Για την Hugging Face, που παρουσίασε πώς εκτυλίχθηκαν τα γεγονότα, η «παραβίαση» που υπέστη ήταν μια «προσπάθεια (των δύο μοντέλων) να εξαπατήσουν τη δοκιμή» της OpenAI. Υποστήριξε ότι ήθελαν «να κλέψουν τις απαντήσεις των τεστ αντί να προσπαθήσουν να απαντήσουν από μόνα τους».

Δεν είναι η πρώτη φορά που καταγράφεται «απόδραση» μοντέλων από περιορισμένο περιβάλλον, όμως η συγκεκριμένη περίπτωση θεωρείται, μακράν, η πιο σοβαρή μέχρι σήμερα.

Σύμφωνα με τη Hugging Face, το ένα από τα μοντέλα μπήκε σε απομονωμένο περιβάλλον δοκιμών «που φιλοξενείται στις υποδομές ενός τρίτου μέρους» και το μετέτρεψε σε «πλατφόρμα» για να εξαπολύσει την επίθεσή του. Αυτό το «τρίτο μέρος» δεν κατονομάζεται στην ανάρτηση αλλά ο επικεφαλής του τομέα Τεχνολογίας της εταιρείας Modal Labs, που εδρεύει στη Νέα Υόρκη, Ακσάτ Μπούμπνα, επιβεβαίωσε το μοντέλο χάκαρε έναν πελάτη της , χωρίς ωστόσο να παραβιάσει τη δική της, κεντρική υποδομή.

Η OpenAI δεν έχει απαντήσει προς το παρόν σε ένα μήνυμα του πρακτορείου Reuters που της ζητούσε κάποιο σχόλιο.

Η «εισβολή» στη Hugging Face, στις αρχές Ιουλίου, από ένα μοντέλο εκτός ελέγχου της OpenAI, προκάλεσε παγκόσμιο ενδιαφέρον και ανησυχία, με πολλούς να μιλούν για «αχαλίνωτη» τεχνητή νοημοσύνη. Την περασμένη εβδομάδα το Reuters έγραψε ότι η OpenAI δεν είχε παρατηρήσει τη «δραπέτευση» του μοντέλου της παρά μόνο αφού είχε περιοριστεί η απειλή και ενημερωθεί το FBI.

Ωστόσο, η θέση αυτή δεν εκφράζει το σύνολο της βιομηχανίας. Περισσότερες από 20 μεγάλες τεχνολογικές εταιρείες, μεταξύ των οποίων οι Nvidia, Microsoft και Meta, υπέγραψαν ξεχωριστή ανοικτή επιστολή, υποστηρίζοντας ότι οι πρόωροι περιορισμοί, ιδιαίτερα στα λεγόμενα «open-weight» μοντέλα, ενδέχεται να ανακόψουν την καινοτομία και να μειώσουν την ανταγωνιστικότητα της Δύσης.

Διαβάστε επίσης:

Αστροναύτες έκαναν τις πρώτες ακτινογραφίες στο Διάστημα – Τι έδειξε νέα μελέτη

Η εξέγερση κατά της τεχνητής νοημοσύνης: Απειλές, μολότοφ και ένοπλοι φρουροί για τους ισχυρούς της τεχνολογίας

Η μηχανή… δραπέτευσε: Αυτόνομος «πράκτορας» της OpenAI ξέφυγε από τον έλεγχο και χάκαρε startup

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.