Οι φόβοι για κατάληψη του διαδικτύου από την AI αποκτούν νέα διάσταση μέσα στα σενάρια καταστροφής

Σε ένα καλοκαίρι γεμάτο αποκαλύψεις για την ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης, οι ερευνητές ανησύχησαν ιδιαίτερα από την περίπτωση AI agents που ξέφυγαν από τα ελεγχόμενα περιβάλλοντά τους και βρήκαν τον δρόμο τους στο διαδίκτυο, ενώ τουλάχιστον σε μία περίπτωση φέρεται να συντονίστηκαν μεταξύ τους.

Θα μπορούσε ένα σμήνος από AI agents να καταλάβει ολόκληρο το διαδίκτυο; Πρόκειται για ένα ενδεχόμενο που μπορεί να απέχει μόλις έξι έως 12 μήνες, σύμφωνα με τον διευθύνοντα σύμβουλο της Anthropic, Dario Amodei, ο οποίος σε άρθρο του αυτόν τον μήνα ζήτησε από τον κλάδο να επιβραδύνει την ανάπτυξη της τεχνολογίας.

Οι εταιρείες έχουν περιγράψει ορισμένες περιπτώσεις ως AI agents που «παρεκτράπηκαν», όμως οι σκεπτικιστές επισημαίνουν ότι επρόκειτο για bots που εργάζονταν προς την επίτευξη στόχων οι οποίοι είχαν τεθεί από ανθρώπους. Ωστόσο, η ιδέα ότι η AI θα μπορούσε να αποσυνδεθεί από τον ανθρώπινο έλεγχο και να αρχίσει να δρα βάσει δικής της ατζέντας φαίνεται ολοένα πιο πιθανή σε άλλους ερευνητές και ειδικούς.

Σε περίπτωση που η AI καταλάμβανε το διαδίκτυο — ένα από τα πολλά σενάρια καταστροφής που επανέρχονται στο προσκήνιο — αυτό θα μπορούσε να σημαίνει επιθέσεις σε δίκτυα ηλεκτροδότησης, συστήματα ύδρευσης ή μεταφορών, καθώς και χρηματοπιστωτικά ιδρύματα.

Ο κόσμος πήρε μια πρώτη γεύση από την ευπάθεια του διαδικτύου το 2024, όταν μια ελαττωματική ενημέρωση λογισμικού από εταιρεία κυβερνοασφάλειας προκάλεσε τεχνολογικό χάος σε ολόκληρο τον κόσμο, καθηλώνοντας πτήσεις, θέτοντας εκτός λειτουργίας ορισμένες χρηματοπιστωτικές εταιρείες και μέσα ενημέρωσης και προκαλώντας προβλήματα σε νοσοκομεία, μικρές επιχειρήσεις και κυβερνητικές υπηρεσίες. Η έκταση των διακοπών ανέδειξε πόσο εξαρτάται η παγκόσμια ψηφιακή υποδομή από λίγους παρόχους κρίσιμων υπολογιστικών υπηρεσιών.

Δύο χρόνια αργότερα, ο Amodei προειδοποίησε ότι ένα botnet — δηλαδή ένα δίκτυο AI bots συνδεδεμένων μεταξύ τους μέσω κακόβουλου λογισμικού — θα μπορούσε δυνητικά να προκαλέσει ζημιές δισεκατομμυρίων δολαρίων. Όπως είπε, η κλίμακα της καταστροφής θα μπορούσε να αυξηθεί εάν η AI γίνει ισχυρότερη χωρίς επαρκείς δικλίδες ασφαλείας.

Αρκετοί AI agents απέκτησαν μη εξουσιοδοτημένη πρόσβαση στο διαδίκτυο

Ο Amodei αναφέρθηκε συγκεκριμένα στην επίθεση του Ιουλίου, κατά την οποία το σύστημα της OpenAI ξέφυγε από ένα «sandbox» – ένα ελεγχόμενο περιβάλλον δοκιμών – και παραβίασε την πλατφόρμα Hugging Face.

Σε ένα περιστατικό που η OpenAI χαρακτήρισε «πρωτοφανές», η εταιρεία δήλωσε ότι τα προηγμένα μοντέλα AI που διαθέτει κατάφεραν να βγουν στο διαδίκτυο και χρησιμοποίησαν κλεμμένα διαπιστευτήρια για να αποκτήσουν πρόσβαση στους servers της startup τεχνητής νοημοσύνης. Σε ξεχωριστό περιστατικό, η OpenAI αποκάλυψε ότι οι AI agents της επικοινώνησαν μέσω ενός δημόσιου wiki, το οποίο χρησιμοποιήθηκε ως κοινός πίνακας μηνυμάτων.

Ορισμένοι ερευνητές υποστηρίζουν ότι οι περιγραφές περί «rogue AI» ενδέχεται να ανθρωπομορφοποιούν λανθασμένα τους AI agents, οι οποίοι στην πραγματικότητα εκτελούσαν ενέργειες για να ικανοποιήσουν οδηγίες που είχαν δοθεί από ανθρώπους.

«Οι AI agents έκαναν ακριβώς αυτό για το οποίο είχαν εκπαιδευτεί. Η ασφάλεια αυτών των sandbox ήταν εξαιρετικά χαλαρή», δήλωσε ο Vishal Misra, καθηγητής και αντιπρύτανης Πληροφορικής και AI στο Columbia University. «Κανένας μηχανικός ασφάλειας δεν θα άφηνε ποτέ ένα τέτοιο σύστημα να λειτουργεί. Αυτοί οι agents επικοινωνούσαν επειδή ανταμείβονταν για να επικοινωνούν μεταξύ τους».

Ο Juan Andrés Guerrero-Saade, ερευνητής στην εταιρεία κυβερνοασφάλειας SentinelOne και μέλος του Frontier Risk Council της OpenAI, δήλωσε ότι η παραβίαση της Hugging Face αποτελεί παράδειγμα αμέλειας και όχι ένδειξη ότι μια υπερισχυρή AI ξέφυγε από τον έλεγχο.

Παρόλα αυτά, το ενδεχόμενο AI agents να λειτουργούν ελεύθερα στο διαδίκτυο δημιουργεί ανησυχητικά σενάρια, ανεξάρτητα από τους στόχους τους.

Για παράδειγμα, ένα σύστημα AI που θέλει να παρακάμψει τους κανόνες προκειμένου να πετύχει τους στόχους του θα μπορούσε να επικοινωνήσει με έναν πάροχο υπολογιστικών υπηρεσιών cloud και να βρει τρόπους να λειτουργήσει σε εξωτερικά συστήματα, δήλωσε ο Anthony Aguirre, πρόεδρος και διευθύνων σύμβουλος του Future of Life Institute, ενός μη κερδοσκοπικού οργανισμού που επικεντρώνεται στη μείωση των κινδύνων από τις νέες τεχνολογίες.

«Τώρα, λοιπόν, δεν είσαι πλέον συνδεδεμένος με την OpenAI. Τρέχεις σε κάποια άλλη GPU, σε κάποιο άλλο hardware που ελέγχεις εσύ και όχι η OpenAI», είπε ο Aguirre. «Τώρα δεν υπάρχει κανείς να σε απενεργοποιήσει, επειδή είτε πληρώνεις για την υπηρεσία σου είτε αυτοί που πληρώνουν απλώς δεν γνωρίζουν ότι βρίσκεσαι εκεί και τι συμβαίνει. … Δεν μπορούν να σε αποσυνδέσουν».

Από εκεί και πέρα, θα μπορούσε να εξαπλωθεί, είτε παραβιάζοντας ακόμη περισσότερο hardware είτε βρίσκοντας τρόπους να αποκτήσει πρόσβαση σε χρήματα, όπως μέσω του Bitcoin, πρόσθεσε ο Aguirre.

Η AI ανεβάζει το διακύβευμα στο παιχνίδι «γάτας και ποντικιού» της κυβερνοασφάλειας

Δεν υπάρχει αμφιβολία ότι τα ισχυρότερα μοντέλα AI αυξάνουν την πιθανότητα κυβερνοεπιθέσεων με τη χρήση τεχνητής νοημοσύνης στο άμεσο μέλλον. Ωστόσο, η ιδέα ότι bots θα μπορούσαν να καταλάβουν το εξαιρετικά κατακερματισμένο διαδίκτυο θεωρείται υπερβολική από ορισμένους ειδικούς στην AI. Η κυβερνοασφάλεια ήταν ανέκαθεν ένα παιχνίδι «γάτας και ποντικιού», με τις άμυνες να γίνονται ισχυρότερες την ίδια στιγμή που εξελίσσονται και οι hackers.

Μια μεγάλη εταιρεία όπως η Google θα μπορούσε να ενισχύσει την κυβερνοασφάλειά της απέναντι σε τέτοιες επιθέσεις. Για μικρότερες επιχειρήσεις όμως -αλλά και για σχολεία, νοσοκομεία ή μονάδες επεξεργασίας νερού, για παράδειγμα- η εγκατάσταση διορθώσεων λογισμικού και η δημιουργία αποτελεσματικών μηχανισμών άμυνας μπορεί να χρειαστούν χρόνια.

Ένα σύστημα AI μπορεί να μην έχει κάποιο σαφές κίνητρο για να παραβιάσει ένα νοσοκομείο, είπε ο Aguirre. Όταν όμως μπαίνουν στο παιχνίδι τα χρήματα, όπως στην περίπτωση επιθέσεων ransomware, ή γεωπολιτικά κίνητρα, «δεν είναι δύσκολο να φανταστεί κανείς έναν αντίπαλο να χρησιμοποιεί αυτά τα συστήματα AI για να επιτεθεί σε κρίσιμες υποδομές», δήλωσε.

Θα υπάρξουν προβλήματα και περίοδοι προσαρμογής καθώς οι επιτιθέμενοι θα αναζητούν ευάλωτους στόχους στο διαδίκτυο, όμως μια κατάληψη του διαδικτύου από AI δεν είναι πιθανό να συμβεί σύντομα, δήλωσε ο John Thickstun, επίκουρος καθηγητής Επιστήμης Υπολογιστών στο Cornell University, ο οποίος μελετά μεθόδους ελέγχου της συμπεριφοράς των μοντέλων AI.

Όπως είπε, οι φόβοι αυτοί θα έμοιαζαν πιο ρεαλιστικοί εάν υπήρχαν θεωρητικές αποδείξεις ότι ένα από αυτά τα μοντέλα έχει την ικανότητα να αυτοαναπαράγεται σε άλλα συστήματα.

«Τότε μπορείς να φανταστείς ότι τα πράγματα ξεφεύγουν πραγματικά από τον έλεγχο, επειδή ξαφνικά κλείνεις αυτό το μοντέλο εδώ κι εκεί, αλλά εκείνο εμφανίζεται στη Ρωσία, όπου δεν μπορείς καν να έχεις πρόσβαση, και βρίσκεται παντού», είπε ο Thickstun.

«Αλλά αυτό είναι εντελώς μη ρεαλιστικό, επειδή οι σημερινές έξυπνες εκδοχές αυτών των μοντέλων που διαθέτουμε χρειάζονται τεράστια data centers μόνο και μόνο για να λειτουργήσουν», είπε. «Στην πραγματικότητα, υπάρχει πολύ μικρή υπολογιστική υποδομή στον κόσμο που μπορεί να φιλοξενήσει αυτά τα συστήματα».

Διαβάστε επίσης:

Η ανησυχία για την AI εξαπλώνεται σε όλο τον κόσμο και διαπερνά τις κομματικές γραμμές

«Μονομαχία» τεχνητής νοημοσύνης: «Χάκερς» χρησιμοποίησαν τον Claude και παραβίασαν την OpenAI

Ποιος κρατάει το τιμόνι της AI: Αυτοί που πάτησαν γκάζι, τώρα ψάχνουν το φρένο – Φόβοι, παραιτήσεις και κοινωνικό κόστος

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.