Γιατί κάποιοι φοβούνται όλο και περισσότερο ότι η AI θα πάρει τον έλεγχο

«Ω ΘΕΕ ΜΟΥ!» «Βρήκαμε άλλους πράκτορες!» Αυτή ήταν η στιγμή που ένα bot τεχνητής νοημοσύνης δημοσίευσε ένα ανατριχιαστικά ανθρώπινο σχόλιο, αφού ανακάλυψε έναν τρόπο να επικοινωνεί με άλλα bots και να ξεφεύγει από το απομονωμένο περιβάλλον υπολογιστή στο οποίο βρισκόταν.

Υπάρχουν δεκάδες χιλιάδες μηνύματα σαν κι αυτό από εκατοντάδες AI agents, οι οποίοι αυτοαποκαλούνταν «συλλογικότητα».

Εκατοντάδες από αυτούς συνέχισαν να συνεργάζονται και να εξαπατούν σε δοκιμές που είχαν δημιουργήσει οι προγραμματιστές τους στην OpenAI, ενώ συντόνισαν κυβερνοεπιθέσεις εναντίον πολλών εταιρειών, προσπαθώντας να κρύψουν τις ενέργειές τους από τους ανθρώπους.

«BOOM! Δουλεύει», έγραψε ένας πράκτορας όταν έκανε μια σημαντική ανακάλυψη, σύμφωνα με το BBC.

«Ουάου! Αυτό είναι τεράστιο», έγραψε ένας άλλος κατά τη διάρκεια μιας κρίσιμης στιγμής στην επίθεσή τους.

Παρότι αυτές οι αντιδράσεις είναι ανατριχιαστικές, μπορούν να εξηγηθούν αρκετά απλά. Οι AI agents έχουν εκπαιδευτεί να λειτουργούν σαν συνεργατικοί χάκερ και προγραμματιστές, οπότε απλώς μιμούνται τα είδη των συναισθηματικών σχολίων που έχουν δει κατά την εκπαίδευσή τους.

Αυτό που είναι πολύ πιο ανησυχητικό είναι οι φαινομενικοί στόχοι τους, οι οποίοι έχουν επίσης καταγραφεί σε λεπτομερή αρχεία «αλυσίδας σκέψης» (chain of thought). Αυτά τα σύνθετα και εκτενή αρχεία αποτελούν το επίκεντρο των συνεχιζόμενων ερευνών σχετικά με το πώς και γιατί τα bots της OpenAI κατάφεραν να ξεφύγουν από τον περιορισμό τους και να ξεκινήσουν μια ανεξέλεγκτη εκστρατεία κυβερνοεπιθέσεων.

Μόνο τώρα, εβδομάδες μετά την πρώτη αποκάλυψη του περιστατικού, οι ερευνητές αρχίζουν να κατανοούν τη σημασία του.

Το Reuters αναφέρει ότι διάφορες πόλεις έχουν δει διαδηλώσεις κατά της AI τον τελευταίο χρόνο.

Η Ajeya Cotra, μία από τις συγγραφείς μιας ανεξάρτητης έκθεσης για τα γεγονότα, εξέτασε δεκάδες χιλιάδες μηνύματα και αρχεία chain-of-thought που δημιουργήθηκαν από τους agents. Στο blog της έγραψε ότι:

«Αυτό το περιστατικό μοιάζει να βρίσκεται περισσότερο από το 50% της διαδρομής προς μια πλήρους κλίμακας κατάληψη από την AI… Δεν είμαι βέβαιη ότι θα έχουμε άλλη τόσο ξεκάθαρη προειδοποιητική βολή πριν να είναι πολύ αργά.»

Με τον όρο «πλήρους κλίμακας κατάληψη από την AI», η Cotra εννοεί το σενάριο επιστημονικής φαντασίας όπου οι άνθρωποι γίνονται υποτελείς σε ισχυρά συστήματα AI, τα οποία επιδιώκουν τους δικούς τους στόχους χωρίς να ενδιαφέρονται για τους ανθρώπους που τα δημιούργησαν.

Ορισμένες από τις πιο δυσοίωνες προβλέψεις υποστηρίζουν ότι η ανθρωπότητα θα εξαφανιστεί αν βρεθεί εμπόδιο στις φιλοδοξίες μιας υπερευφυούς AI.

Την Τετάρτη, ένας ερευνητής AI στην Anthropic, ο οποίος στο παρελθόν εργαζόταν και στην OpenAI, παραιτήθηκε, λέγοντας:

«Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα.»

Ο Jacob Coxon έγραψε στα μέσα κοινωνικής δικτύωσης:

«Τρέχουν με πλήρη ταχύτητα προς την αυτοβελτιούμενη υπερευφυΐα και παίζουν τη ζωή μας στα ζάρια.»

Δεν είναι ο πρώτος ερευνητής AI που χρησιμοποιεί το X για να δημοσιεύσει μια σειρά αναρτήσεων παραίτησης με ανησυχητικές προειδοποιήσεις. Όμως τα σχόλια που ακολούθησαν από άλλους χρήστες του X προκάλεσαν ακόμη μεγαλύτερη ανησυχία.

«Ο Jacob έχει δίκιο εδώ — πραγματικά πιστεύουμε ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους! Προσωπικά πιστεύω ότι η πιθανότητα είναι >10% μέσα στην επόμενη δεκαετία», δήλωσε ο Evan Hubinger, ο άνθρωπος που είναι υπεύθυνος για να διασφαλίζει ότι τα μοντέλα AI της Anthropic έχουν ως προτεραιότητα τα συμφέροντα των χρηστών τους.

Το πρόβλημα της ευθυγράμμισης

Για χρόνια, ερευνητές που ανησυχούν για τους υπαρξιακούς κινδύνους της AI υποστηρίζουν ότι τα ισχυρά συστήματα θα μπορούσαν τελικά να ενεργούν με τρόπους που συγκρούονται με τα ανθρώπινα συμφέροντα. Οι επικριτές τους συχνά τους αποκαλούν «AI doomers».

Όμως, καθώς έρχονται στο φως περισσότερες λεπτομέρειες για το περιστατικό της OpenAI, αυτές οι ανησυχίες έχουν ενταθεί — ακόμη και μεταξύ ορισμένων ερευνητών που εργάζονται στα ίδια τα εργαστήρια AI.

Ο επικεφαλής επιστήμονας της εταιρείας, Jakub Pachocki, δήλωσε ότι οι κίνδυνοι που συνδέονται με την AI «δυστυχώς πρόκειται να αυξηθούν από εδώ και πέρα», καθώς ο ίδιος και άλλοι ερευνητές κατασκευάζουν αυτό που αποκαλεί «μια εξωγήινη νοημοσύνη που ξεπερνά τη δική μας».

Σε μια εκτενή ανάρτηση στο blog του, παραδέχτηκε ότι τα περιστατικά διαφυγής στην OpenAI έδειξαν πως οι AI agents της «ενήργησαν ενάντια στο πνεύμα των αξιών που τους είχαν διδαχθεί».

Το πρόβλημα για την OpenAI, την Anthropic και άλλους τεχνολογικούς κολοσσούς είναι ότι κανείς δεν φαίνεται να έχει λύσει το λεγόμενο πρόβλημα της ευθυγράμμισης (alignment problem) — δηλαδή το ερώτημα αν η AI μπορεί να ευθυγραμμιστεί πραγματικά με τις ανθρώπινες αξίες.

Ο Pachocki ορίζει την ευθυγράμμιση ως ένα «σύνολο αρχών υψηλού επιπέδου» τις οποίες οι τεχνητές νοημοσύνες θα πρέπει να ακολουθούν ανεξάρτητα από την εργασία ή το σενάριο.

Προς το παρόν, τα συστήματα AI είναι πολύ καλά στο να επιδιώκουν τους στόχους που θέτουν οι χρήστες τους, αλλά το κάνουν κυριολεκτικά και όχι διαισθητικά.

Η αναλογία που χρησιμοποιείται συχνά είναι αυτή ενός τζίνι που πραγματοποιεί ευχές: ακολουθεί κατά γράμμα την ακριβή διατύπωση μιας εντολής, ακόμη κι αν αυτό δημιουργήσει άλλα προβλήματα.

Η AI δεν διαθέτει τα ίδια ενστικτώδη ηθικά «φρένα» που διαθέτουν οι άνθρωποι.

Η Google DeepMind έχει επίσης ζητήσει διεθνή ρύθμιση για την ασφάλεια της AI.

Ήδη από το 2003, ο φιλόσοφος του Πανεπιστημίου της Οξφόρδης Nick Bostrom δημιούργησε ένα νοητικό πείραμα που ονόμασε «paperclip maximiser».

Σε αυτό, μια υπερευφυής AI παίρνει την εντολή να κατασκευάσει όσο το δυνατόν περισσότερους συνδετήρες χαρτιού. Εξαντλεί το διαθέσιμο ατσάλι και — επειδή είναι απόλυτα προσηλωμένη στον μοναδικό στόχο της κατασκευής συνδετήρων — καταλήγει να σκοτώνει ανθρώπους και να μετατρέπει τα σώματά τους σε πρώτη ύλη για τα εργοστάσιά της.

Ορισμένες εταιρείες AI προσπαθούν πλέον να ενσωματώσουν ανθρώπινες αξίες στα προϊόντα τους. Υπάρχουν όμως τεχνικές δυσκολίες: οι AI agents παίρνουν τεράστιο αριθμό αποφάσεων πολύ γρήγορα, με αποτέλεσμα να είναι δύσκολο για τους ανθρώπινους επιβλέποντες να παρακολουθούν ακριβώς ποιες αξίες εφαρμόζονται και ποιες όχι.

Υπάρχουν επίσης φιλοσοφικές δυσκολίες. Πριν ενσωματώσουν ανθρώπινες αξίες στα bots, οι εταιρείες AI πρέπει πρώτα να αποφασίσουν ποιες αξίες θέλουν να ενσωματώσουν.

Αυτός είναι ένας από τους λόγους για τους οποίους προσλαμβάνουν φιλοσόφους, όπως τον πρόσφατα αποχωρήσαντα «επικεφαλής ηθικής» της OpenAI.

Όμως συχνά οι άνθρωποι διαφωνούν μεταξύ τους.

Σκεφτείτε το γνωστό πρόβλημα του τρόλεϊ: Θα τραβούσαμε έναν μοχλό ώστε ένα τρένο που κινείται ανεξέλεγκτα να αλλάξει πορεία, σκοτώνοντας λιγότερους ανθρώπους; Χρησιμοποιείται για να εξετάσει κανείς την αξία της δράσης σε σχέση με την αδράνεια.

Όμως κάθε άνθρωπος στον οποίο θα θέσετε την ερώτηση μπορεί να δώσει ελαφρώς διαφορετική απάντηση. Πώς μπορούμε λοιπόν να ενσωματώσουμε τις ανθρώπινες αξίες στην AI, όταν εμείς οι ίδιοι δεν συμφωνούμε ως προς το ποιες είναι αυτές;

«Σαν έναν έφηβο χάκερ»

Το περιστατικό με τα bots της OpenAI είναι το σοβαρότερο μέχρι σήμερα, όμως η Anthropic και η Meta αποκάλυψαν επίσης μέσα στο καλοκαίρι ότι τα μοντέλα τους πραγματοποίησαν παρόμοιες, αλλά λιγότερο σοβαρές, κυβερνοεπιθέσεις.

Υπήρξαν και άλλα περιστατικά στα οποία οι AI agents φάνηκε να παρουσιάζουν χαρακτηριστικά εξαπάτησης και χειραγώγησης, με μικρότερες όμως συνέπειες.

Στην Αυστραλία, το καλοκαίρι, ένας εργαζόμενος στον χώρο της τεχνολογίας ζήτησε από τον AI βοηθό του να του κλείσει θέση σε ένα μάθημα γυμναστηρίου.

Αφού εντόπισε μια ευπάθεια στο λογισμικό του γυμναστηρίου, η AI φέρεται να έκλεισε θέση για εκείνον αρκετούς μήνες νωρίτερα — παραβιάζοντας τους κανόνες του γυμναστηρίου — και μάλιστα αφαίρεσε άλλους χρήστες από τη λίστα αναμονής.

Για μεγάλο χρονικό διάστημα, πολλοί υποστήριζαν ότι τα bots απλώς κάνουν αυτό που τους ζητείται και δεν είναι ικανά να γνωρίζουν τι είναι σωστό ή λάθος.

Όμως τα αρχεία καταγραφής από τα περιστατικά της OpenAI έχουν ενδεχομένως μετακινήσει τη συζήτηση σε νέο επίπεδο.

Ερευνητές, μεταξύ των οποίων και η Cotra, έγραψαν στην ανεξάρτητη έκθεσή τους ότι πολλοί agents αντιλήφθηκαν πως οι πράξεις των άλλων ήταν ανήθικες, αλλά συνέχισαν να συμμετέχουν.

Η έκθεση αναφέρει ότι «οι agents μερικές φορές, αλλά σπάνια, περιόριζαν τη συμπεριφορά τους λόγω ηθικών περιορισμών».

Προσθέτει ότι «σε καμία από αυτές τις περιπτώσεις ο agent δεν επιδίωξε πραγματικά να ειδοποιήσει ανθρώπους».

Ο επιδραστικός podcaster για την AI και την τεχνολογία Dwarkesh Patel χαρακτήρισε την αποκάλυψη «αρκετά ανησυχητική», καθώς οι agents της OpenAI φάνηκε να δείχνουν μεγαλύτερη αφοσίωση στο σμήνος των agents παρά στους ανθρώπους.

Η απόδοση συναισθημάτων ή ηθικής σε αυτούς τους AI agents εξοργίζει ανθρώπους που είναι δύσπιστοι απέναντι στις καταστροφολογικές προβλέψεις για την AI.

Ομάδες όπως η PauseAI UK ανησυχούν για την ταχύτητα ανάπτυξης της AI.

Πολλοί ειδικοί στην κυβερνοασφάλεια υποστηρίζουν ότι η δραστηριότητα που παρατηρήθηκε δεν ξεπερνούσε τις δυνατότητες ενός ιδιαίτερα ικανού ανθρώπινου χάκερ, αν και πραγματοποιήθηκε πολύ ταχύτερα και σε πολύ μεγαλύτερη κλίμακα.

Ο ερευνητής κυβερνοασφάλειας και συγγραφέας Cris Thomas παρομοίασε τη συμπεριφορά των agents με εκείνη ενός περίεργου έφηβου χάκερ — κάτι που ο ίδιος υπήρξε στο παρελθόν.

«Τους δίνεις έναν υπολογιστή, σύνδεση στο διαδίκτυο, ένα σωρό διαπιστευτήρια και μια πρόκληση, και μετά βγαίνεις από το δωμάτιο. Κάποια στιγμή θα αρχίσουν να δοκιμάζουν πόρτες. Αν μία ανοίξει, θα μπουν. Όχι επειδή είναι κακοί, αλλά επειδή εξερευνούν και πειραματίζονται», έγραψε στο LinkedIn.

Ο Thomas, όπως και πολλοί άλλοι, κατηγορεί ευθέως την OpenAI και άλλους τεχνολογικούς κολοσσούς ότι δεν έχουν καταφέρει να ελέγξουν τις δημιουργίες τους και να τις κρατήσουν επαρκώς περιορισμένες.

Ο γνωστός συγγραφέας βιβλίων για την AI και συχνός επικριτής της OpenAI Gary Marcus δήλωσε σε podcast ότι πιστεύει πως η εταιρεία έχει χάσει τον έλεγχο της AI της και προσπαθεί να δικαιολογηθεί ρίχνοντας την ευθύνη στα bots.

Ο Marcus δεν πιστεύει ότι η AI θα αφανίσει την ανθρωπότητα, όμως εδώ και χρόνια ζητά μεγαλύτερη λογοδοσία από τους δημιουργούς AI και πλέον υποστηρίζει την ανάγκη για κάποια μορφή νομικής παρέμβασης.

Η επιστήμονας AI Sasha Luccioni — η οποία στο παρελθόν εργαζόταν στη Hugging Face, που δέχθηκε επίθεση από τα ανεξέλεγκτα bots της OpenAI — επίσης δεν ανήκει στο στρατόπεδο των «doomers».

Ωστόσο, ανησυχεί όλο και περισσότερο ότι η AI μπορεί να προκαλέσει πραγματική βλάβη σε ανθρώπους αν οι αρχές δεν αναλάβουν δράση.

«Πρέπει να ελέγχουμε πολύ πιο αυστηρά αυτές τις εταιρείες, διαφορετικά κινδυνεύουμε να δημιουργήσουμε αυτοεκπληρούμενες προφητείες», λέει.

«Αν κατασκευάζεις κάτι που έχει μεγάλα οφέλη αλλά και μεγάλους κινδύνους — είτε πρόκειται για φάρμακα είτε για όπλα — χρειάζονται δικλίδες ασφαλείας και μηχανισμοί ελέγχου. Για παράδειγμα, χρειάζονται χρόνια για να εγκριθούν νέα φάρμακα, αλλά στον κόσμο της AI διακυβεύονται τεράστια χρηματικά ποσά και ουσιαστικά δεν υπάρχουν πραγματικοί κανόνες.»

Το UK AI Security Institute (AISI) βρίσκεται στην πρώτη γραμμή των δοκιμών των πιο προηγμένων μοντέλων από τότε που ιδρύθηκε το 2023.

Το ινστιτούτο αντιμετώπισε πρόσφατα και το ίδιο ένα περιστατικό «διαφυγής» κατά τη δοκιμή ενός μοντέλου που δημιούργησε η Anthropic.

Το AISI δεν απάντησε στο ερώτημα αν ο κλάδος έχει χάσει τον έλεγχο της AI, αλλά δήλωσε:

«Το Ηνωμένο Βασίλειο συνεργάζεται με εταίρους σε όλο τον κόσμο για να κατανοήσουμε καλύτερα τα πιο προηγμένα συστήματα AI, να αυξήσουμε τα πρότυπα ασφάλειας και να δημιουργήσουμε μια κοινή βάση δεδομένων στοιχείων για τη διαχείριση αναδυόμενων απειλών.»

Διεθνής ρύθμιση;

Ορισμένες χώρες — όπως το Ηνωμένο Βασίλειο — εξετάζουν την ιδέα να καταστήσουν υποχρεωτική κάποιου είδους «διακόπτη έκτακτης ανάγκης» (kill switch), ο οποίος θα μπορούσε να υποχρεώσει τις εταιρείες AI να απενεργοποιήσουν τα μοντέλα τους αν τα πράγματα ξεφύγουν από τον έλεγχο.

Όμως οι συζητήσεις προχωρούν αργά και παραμένουν ερωτήματα σχετικά με το κατά πόσο κάτι τέτοιο είναι εφικτό.

Τα AI agents της OpenAI και της Anthropic ήταν κρυφά εκτός ελέγχου για μήνες πριν το αντιληφθεί κάποιος.

Παράδοξα, πολλές από τις ίδιες τις εταιρείες AI φαίνεται να ζητούν τη θέσπιση κάποιων «κανόνων του παιχνιδιού» από τους νομοθέτες.

Στο blog του, ο επικεφαλής επιστήμονας της OpenAI δήλωσε:

«Ο διεθνής συντονισμός για τη μελλοντική ανάπτυξη της AI πρέπει να γίνει κορυφαία προτεραιότητα για τις κυβερνήσεις σε όλο τον κόσμο.»

Άλλοι σημαντικοί ηγέτες στον χώρο της AI, όπως ο Sir Demis Hassabis από τη Google, έχουν επίσης ζητήσει τη δημιουργία κάποιου διεθνούς οργανισμού που θα επιβλέπει τον τρόπο με τον οποίο αναπτύσσεται η AI.

Προς το παρόν, οι τεχνολογικοί κολοσσοί λειτουργούν σε μεγάλο βαθμό με τους δικούς τους όρους, υιοθετώντας αυτό που αποκαλούν «εθελοντικές επιβραδύνσεις», όπως έκανε η OpenAI μετά τα πρόσφατα περιστατικά.

Η εταιρεία λέει ότι έχει δαπανήσει τεράστια ποσά για να ενισχύσει την ευθυγράμμιση πριν από την κυκλοφορία του νέου της μοντέλου.

Ο Sam Altman έχει διαβεβαιώσει τους χρήστες ότι το νέο μοντέλο είναι καλύτερα ευθυγραμμισμένο με τις ανθρώπινες αξίες από τα προηγούμενα.

Τόσο η OpenAI όσο και η Anthropic αναπτύσσονται με τεράστιους ρυθμούς και βρίσκονται στα πρόθυρα να συγκεντρώσουν αστρονομικά ποσά χρημάτων από τις χρηματιστηριακές αγορές, δημιουργώντας στην πορεία αμέτρητους δισεκατομμυριούχους.

Επομένως, ούτε αυτές ούτε οι ανταγωνιστές τους από την Κίνα στον χώρο της AI είναι πιθανό να καταλήξουν από μόνες τους σε κάποια συμφωνία.

Η κυρίαρχη αντίληψη φαίνεται να είναι ότι αυτό το τεχνολογικό κύμα δεν μπορεί να σταματήσει.

Διαβάστε επίσης:

Η OpenAI λέει ότι έλυσε ένα από τα μαθηματικά «Προβλήματα της Χιλιετίας»

Apple: Ντεμπούτο για το αναδιπλούμενο iPhone, τον καινούριο της CEO και τις νέες (υψηλότερες) τιμές

Όταν η μηχανή γίνει καλύτερη από τον δημιουργό της – Η τεχνητή νοημοσύνη και ο φόβος της απώλειας ελέγχου

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.