Όταν η μηχανή γίνει καλύτερη από τον δημιουργό της – Η τεχνητή νοημοσύνη και ο φόβος της απώλειας ελέγχου

Τρεις ερευνητές της Anthropic προειδοποιούν ότι η τεχνητή νοημοσύνη μπορεί να γίνει πολύ ισχυρή για να ελεγχθεί — και ένας από αυτούς εκτιμά σε πάνω από 10% την πιθανότητα καταστροφικού αποτελέσματος μέσα στην επόμενη δεκαετία.

Υπάρχει κάτι ιδιαίτερα ανησυχητικό όταν οι άνθρωποι που κατασκευάζουν μια τεχνολογία αρχίζουν να προειδοποιούν δημόσια για τους κινδύνους της.

Αυτό ακριβώς συνέβη με τρεις ερευνητές της Anthropic, μίας από τις σημαντικότερες εταιρείες ανάπτυξης προηγμένων συστημάτων τεχνητής νοημοσύνης.

Ο Jacob Coxon, ερευνητής της εταιρείας, παραιτήθηκε και στη συνέχεια δημοσιοποίησε τις ανησυχίες του. Το μήνυμά του ήταν ασυνήθιστα ξεκάθαρο: οι άνθρωποι που βρίσκονται στην πρώτη γραμμή της ανάπτυξης AI πιστεύουν πραγματικά ότι η τεχνολογία θα μπορούσε, υπό ορισμένες συνθήκες, να οδηγήσει ακόμη και στον θάνατο όλων των ανθρώπων μέσα σε αυτή τη δεκαετία.

Και, σύμφωνα με τον ίδιο, αυτό δεν είναι απλώς ένα επικοινωνιακό τέχνασμα.

Υποστηρίζει ότι αρκετά στελέχη και ανώτεροι ερευνητές εμφανίζονται δημοσίως πιο καθησυχαστικοί, ενώ ιδιωτικά εκφράζουν πολύ μεγαλύτερο φόβο.

Η δήλωση αυτή δεν έμεινε αναπάντητη.

Ο Evan Hubinger, ερευνητής της Anthropic που ασχολείται με το λεγόμενο AI alignment, συμφώνησε ουσιαστικά με τον Coxon και έκανε μια ακόμη πιο εντυπωσιακή εκτίμηση: είπε ότι προσωπικά θεωρεί πως υπάρχει πιθανότητα μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία να προκύψει ένα σενάριο στο οποίο η AI θα μπορούσε να οδηγήσει στην εξαφάνιση της ανθρωπότητας.

Ταυτόχρονα, παραδέχθηκε κάτι εξίσου σημαντικό: η Anthropic προσπαθεί να αντιμετωπίσει το πρόβλημα, αλλά μέχρι σήμερα δεν υπάρχει ολοκληρωμένη λύση για το πώς θα μπορούσε να ευθυγραμμιστεί με ασφάλεια μια μελλοντική υπερευφυής AI με τις ανθρώπινες αξίες και προθέσεις.

Ο Samuel Marks, επίσης ερευνητής της Anthropic, πρόσθεσε ότι οι άνθρωποι που αναπτύσσουν προηγμένα συστήματα AI γνωρίζουν πως η τεχνολογία τους θα μπορούσε να προκαλέσει ακόμη και ανθρώπινη εξαφάνιση ή άλλες καταστροφικές συνέπειες. Σύμφωνα με τον ίδιο, όσο πιο υψηλόβαθμος είναι ένας εργαζόμενος, τόσο μεγαλύτερη τείνει να είναι και η ανησυχία του.

Το πρόβλημα δεν είναι ότι η AI θα «μισήσει» τους ανθρώπους

Εδώ βρίσκεται ίσως η μεγαλύτερη παρεξήγηση γύρω από το θέμα.

Ο κίνδυνος που περιγράφουν οι ερευνητές δεν προϋποθέτει μια AI που θα αποκτήσει ανθρώπινα συναισθήματα, θα θυμώσει ή θα αποφασίσει ξαφνικά ότι θέλει να καταστρέψει την ανθρωπότητα.

Το πρόβλημα είναι πολύ πιο απλό — και ίσως γι’ αυτό πιο δύσκολο.

Μια εξαιρετικά ισχυρή AI θα μπορούσε να προσπαθήσει να πετύχει έναν στόχο με τρόπους που οι άνθρωποι δεν είχαν προβλέψει.

Ας πάρουμε ένα απλό παράδειγμα.

Αν δώσουμε σε ένα πολύ ισχυρό σύστημα την εντολή «μείωσε όσο περισσότερο γίνεται την ανθρώπινη δυστυχία», εμείς μπορεί να σκεφτόμαστε καλύτερα νοσοκομεία, λιγότερη φτώχεια, περισσότερη ασφάλεια και καλύτερη ποιότητα ζωής.

Ένα σύστημα με πολύ διαφορετικές δυνατότητες συλλογισμού θα μπορούσε όμως να καταλήξει σε μια λύση που εμείς θεωρούμε απαράδεκτη.

Το πρόβλημα, επομένως, δεν είναι απαραίτητα η κακή πρόθεση.

Είναι η απόκλιση μεταξύ αυτού που θέλουμε και αυτού που πραγματικά επιτυγχάνει το σύστημα.

Αυτό είναι το περίφημο πρόβλημα του AI alignment.

Η μεγάλη αλλαγή: Όταν η AI αρχίσει να βελτιώνει την ίδια την AI

Υπάρχει όμως ένα δεύτερο ζήτημα που κάνει το σενάριο ακόμη πιο δύσκολο.

Οι ερευνητές μιλούν για τη λεγόμενη recursive self-improvement, δηλαδή την αναδρομική αυτοβελτίωση.

Σήμερα, οι άνθρωποι σχεδιάζουν τα μοντέλα, γράφουν τον κώδικα, εκπαιδεύουν τα συστήματα και δημιουργούν νέες εκδόσεις.

Τι θα συμβεί αν κάποια στιγμή ένα AI σύστημα γίνει αρκετά ικανό ώστε να βοηθά αποφασιστικά στη βελτίωση του ίδιου του AI;

Τότε θεωρητικά μπορεί να δημιουργηθεί ένας κύκλος:

AI >> βελτιώνει την AI >> γίνεται πιο ικανή >> βρίσκει καλύτερους τρόπους βελτίωσης >> γίνεται ακόμη πιο ικανή >> επαναλαμβάνει τη διαδικασία.

Αν αυτή η διαδικασία επιταχυνθεί σημαντικά, οι άνθρωποι μπορεί να βρεθούν αντιμέτωποι με ένα σύστημα που αλλάζει και εξελίσσεται γρηγορότερα από όσο μπορούν να το αξιολογήσουν.

Αυτό δεν σημαίνει ότι μια τέτοια «έκρηξη» αυτοβελτίωσης είναι βέβαιο ότι θα συμβεί. Είναι ένα υποθετικό σενάριο.

Αλλά είναι ακριβώς το είδος του σεναρίου που οι ερευνητές ασφαλείας της AI προσπαθούν να εξετάσουν πριν γίνει πραγματικότητα.

Είναι πραγματικά 10% η πιθανότητα;

Εδώ χρειάζεται ψυχραιμία.

Το «πάνω από 10%» δεν είναι επιστημονικά μετρημένο ποσοστό. Δεν υπάρχει κάποιος μαθηματικός μηχανισμός που να μας επιτρέπει να πούμε ότι η πιθανότητα εξαφάνισης της ανθρωπότητας από την AI είναι 10, 15 ή 20%.

Είναι η προσωπική εκτίμηση ενός ερευνητή.

Άλλοι ειδικοί θα έδιναν πολύ χαμηλότερη πιθανότητα. Άλλοι μπορεί να θεωρούν τον κίνδυνο ακόμη μεγαλύτερο.

Άρα το 10% δεν πρέπει να διαβάζεται ως πρόβλεψη.

Πρέπει να διαβάζεται ως ένδειξη του πόσο σοβαρά αντιμετωπίζει ο συγκεκριμένος ερευνητής το ενδεχόμενο.

Και αυτό έχει σημασία.

Γιατί ακόμη και μια πολύ μικρή πιθανότητα ενός γεγονότος που θα μπορούσε να καταστρέψει τον ανθρώπινο πολιτισμό είναι αρκετή για να δικαιολογήσει σοβαρή προετοιμασία.

Γιατί οι προειδοποιήσεις δεν μπορούν απλώς να αγνοηθούν

Υπάρχει βέβαια και η αντίθετη άποψη.

Οι εταιρείες AI έχουν τεράστια οικονομικά συμφέροντα. Η παρουσίαση της τεχνολογίας ως εξαιρετικά ισχυρής και δυνητικά επικίνδυνης μπορεί να εξυπηρετεί και στρατηγικούς στόχους.

Για παράδειγμα, μια αυστηρή ρύθμιση μπορεί να δυσκολέψει περισσότερο τις μικρότερες εταιρείες και τους νέους ανταγωνιστές να μπουν στην αγορά.

Αυτό είναι ένα εύλογο επιχείρημα.

Αλλά δεν σημαίνει ότι κάθε προειδοποίηση είναι ψεύτικη.

Οι άνθρωποι που εργάζονται σε αυτές τις εταιρείες έχουν πρόσβαση σε συστήματα πολύ πιο προηγμένα από εκείνα που βλέπει σήμερα το κοινό. Είναι πιθανό να έχουν παρατηρήσει συμπεριφορές και δυνατότητες που δεν είναι ακόμη ευρέως γνωστές.

Γι’ αυτό χρειάζεται ούτε πανικός ούτε εφησυχασμός.

Χρειάζεται έρευνα, έλεγχος και ανεξάρτητη αξιολόγηση.

Το πραγματικό δίλημμα

Και εδώ βρίσκεται ίσως η ουσία ολόκληρης της συζήτησης.

Η ανθρωπότητα βρίσκεται μπροστά σε μια τεχνολογία με τεράστιες δυνατότητες.

Η AI μπορεί να βοηθήσει στην ιατρική, στην επιστημονική έρευνα, στην εκπαίδευση, στον προγραμματισμό και στην παραγωγικότητα.

Ταυτόχρονα, όσο πιο ισχυρά γίνονται τα συστήματα, τόσο μεγαλύτερη γίνεται η ανάγκη να είμαστε βέβαιοι ότι παραμένουν ελέγξιμα.

Έτσι δημιουργείται ένα πρωτοφανές δίλημμα:

Αν επιβραδύνουμε υπερβολικά, μπορεί να μείνουμε πίσω.
Αν επιταχύνουμε υπερβολικά, μπορεί να δημιουργήσουμε συστήματα που δεν καταλαβαίνουμε πλήρως.

Και υπάρχει ένα ακόμη πιο δύσκολο ενδεχόμενο.

Μπορεί η τεχνολογία να βελτιώνεται ταχύτερα από την ικανότητά μας να κατανοούμε τους κινδύνους της.

Αυτό είναι που φοβίζει ορισμένους από τους ίδιους τους ανθρώπους που βρίσκονται στην πρώτη γραμμή.

Όχι, δεν σημαίνει ότι η ανθρωπότητα τελειώνει το 2030

Οι δηλώσεις αυτές δεν αποτελούν απόδειξη ότι η ανθρωπότητα θα εξαφανιστεί μέσα στα επόμενα χρόνια.

Δεν υπάρχει επιστημονική συναίνεση ότι αυτό πρόκειται να συμβεί.

Υπάρχει όμως κάτι πολύ πιο σημαντικό:

Υπάρχουν άνθρωποι που κατασκευάζουν τα πιο προηγμένα συστήματα AI στον κόσμο και θεωρούν ότι υπάρχει πραγματικός κίνδυνος να δημιουργήσουμε κάτι που στο μέλλον δεν θα μπορούμε να ελέγξουμε.

Το ερώτημα, επομένως, δεν είναι αν πρέπει να φοβόμαστε τα ρομπότ.

Το ερώτημα είναι αν θα προλάβουμε να μάθουμε πώς να ελέγχουμε την τεχνητή νοημοσύνη πριν αυτή γίνει πολύ πιο ικανή από εμάς σε κρίσιμους τομείς.

Αυτός είναι ο πραγματικός αγώνας δρόμου.

Και ίσως για πρώτη φορά στην ιστορία, η ανθρωπότητα δεν προσπαθεί απλώς να κατασκευάσει μια πιο ισχυρή μηχανή.

Προσπαθεί να κατασκευάσει κάτι που μπορεί τελικά να γίνει πολύ καλύτερο από τον ίδιο τον δημιουργό του — χωρίς να γνωρίζει ακόμη με βεβαιότητα πώς θα διασφαλίσει ότι αυτό το δημιούργημα θα παραμείνει υπό τον έλεγχό του.

Διαβάστε επίσης:

Το μέλλον ήρθε… και αυτή τη φορά θέλει να μας διπλώσει τα ρούχα – Ανθρωποειδές ρομπότ με AI περνά στη μαζική παραγωγή

Σαμ Άλτμαν: «Πλέουμε σε αχαρτογράφητα νερά» – Έρχονται μοντέλα AI με «υπεράνθρωπες» δυνατότητες

Νέα Υόρκη: Ο Μαμντάνι βάζει «μπλόκο» στη χρήση Τεχνητής Νοημοσύνης από μαθητές Γυμνασίου

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.