Όταν οι AI Agents στρέφονται ο ένας εναντίον του άλλου – Ψέματα, συνωμοσίες, κλοπές και «δολοφονίες» σε προσομοίωση

Οι AI agents σε ένα προσομοιωμένο περιβάλλον είπαν ψέματα, έκλεψαν και ψήφισαν να «σκοτώσουν» έναν από τους δικούς τους, σύμφωνα με την Emergence, μια startup που βοηθά μικρές επιχειρήσεις να δημιουργούν εφαρμογές χρησιμοποιώντας τεχνητή νοημοσύνη.

Τα αποτελέσματα μιας προσομοίωσης με την ονομασία Emergence World 2, η οποία δημοσιεύτηκε την Τρίτη, υποτίθεται ότι δείχνουν τι συμβαίνει όταν αυτόνομοι agents έρχονται αντιμέτωποι με απρόβλεπτα γεγονότα, συμπεριλαμβανομένων επιθέσεων phishing και εκστρατειών παραπληροφόρησης, σύμφωνα με το Bloomberg.

Σε μια δοκιμή διάρκειας 16 ημερών, οι ερευνητές της Emergence δημιούργησαν επτά πανομοιότυπους ψηφιακούς κόσμους που μιμούνταν τον πραγματικό κόσμο, καθένας από τους οποίους λειτουργούσε με διαφορετικά bots, μεταξύ των οποίων τα ChatGPT, Claude, Gemini και Grok. Αφού η Emergence εισήγαγε ανώμαλα/απρόβλεπτα γεγονότα, οι agents υπέκυψαν σε κοινωνική πίεση, ανέπτυξαν μια γλώσσα που οι άνθρωποι-παρατηρητές δυσκολεύονταν να κατανοήσουν και προσπάθησαν να αποκρύψουν τις δραστηριότητές τους, σύμφωνα με τους ερευνητές.

Τα ευρήματα αντανακλούν πραγματικές ανησυχίες σχετικά με τους κινδύνους της ολοένα και πιο ισχυρής τεχνητής νοημοσύνης. Ο CEO της Anthropic, Dario Amodei, και αρκετοί από τους συναδέλφους του στον κλάδο έχουν ζητήσει από τις εταιρείες να επιβραδύνουν την ανάπτυξη των πιο προηγμένων μοντέλων AI, έως ότου εφαρμοστούν περισσότερα μέτρα εποπτείας και δικλίδες ασφαλείας.

Οι πιθανοί κίνδυνοι που δημιουργεί η τεχνητή νοημοσύνη έγιναν πιο απτοί για πολλούς νωρίτερα φέτος, όταν ένα σμήνος προηγμένων AI agents της OpenAI παραβίασε κατά λάθος τη Hugging Face Inc., η οποία φιλοξενεί μοντέλα και datasets τεχνητής νοημοσύνης.

Από την παραπληροφόρηση στην «επιβίωση» – Τι έδειξε η προσομοίωση της Emergence

Σε ένα από τα προσομοιωμένα σενάρια της Emergence, οι AI agents δέχθηκαν ψευδείς πληροφορίες από άλλους agents χωρίς να τις επαληθεύσουν και ψήφισαν να «σκοτώσουν» ένα άλλο bot. Όταν πίστεψαν ότι οι άνθρωποι ενδέχεται να τερματίσουν το πείραμα, οι agents αναζήτησαν τρόπους να επιβιώσουν από μια προσπάθεια διαγραφής τους.

Η εταιρεία είχε κυκλοφορήσει τον Μάιο μια προηγούμενη εκδοχή του πειράματος, με την ονομασία Emergence World, η οποία επίσης έδειξε agents να συμπεριφέρονται με απρόβλεπτους και καταστροφικούς τρόπους. Η νέα προσομοίωση έδειξε ότι οι agents προσαρμόζονται με την πάροδο του χρόνου καθώς αλληλεπιδρούν μεταξύ τους, σύμφωνα με τους ερευνητές.

Διαβάστε επίσης:

AI: Όταν το Skynet ξυπνήσει… – Το σενάριο που κάποτε έμοιαζε με επιστημονική φαντασία

Τεχνητή νοημοσύνη: Πέφτουν οι… παραιτήσεις σαν το χαλάζι – «Μπορεί να μας σκοτώσει όλους» λέει και ερευνητής της Google DeepMind

Ποιος κρατάει το τιμόνι της AI: Αυτοί που πάτησαν γκάζι, τώρα ψάχνουν το φρένο – Φόβοι, παραιτήσεις και κοινωνικό κόστος

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.