Σύγκρουση Τραμπ και επικριτών της AI για τους κινδύνους – Στον ΟΗΕ ο Άλτμαν, αυξάνονται οι προειδοποιήσεις για το… τέλος του ανθρώπου

Takeaways by to pontiki AI

• Η ταχεία ανάπτυξη της τεχνητής νοημοσύνης έχει προκαλέσει έντονη αντιπαράθεση, με πολλούς ερευνητές και στελέχη του κλάδου να προειδοποιούν για κινδύνους απώλειας ελέγχου των συστημάτων.
• Ενώ οι επικριτές ζητούν συντονισμένη επιβράδυνση της τεχνολογικής εξέλιξης, ο Ντόναλντ Τραμπ υποστηρίζει την ανάγκη για συνεχή ανάπτυξη, προκειμένου να διατηρηθεί το στρατηγικό πλεονέκτημα των ΗΠΑ έναντι της Κίνας.
• Για την αντιμετώπιση των προκλήσεων, ο Τραμπ σχεδιάζει τη δημιουργία μιας ειδικής ομάδας «AI Force» για την επίβλεψη της βιομηχανίας.
• Παράλληλα, κορυφαία στελέχη εταιρειών, όπως ο Σαμ Άλτμαν της OpenAI, μεταφέρουν τη συζήτηση στο Συμβούλιο Ασφαλείας του ΟΗΕ, επιδιώκοντας τη θέσπιση διεθνών προτύπων ασφαλείας και διακυβέρνησης.
• Η τεχνολογική κοινότητα παραμένει διχασμένη, καθώς ορισμένοι ηγέτες εταιρειών απορρίπτουν τις καθολικές παύσεις στην ανάπτυξη ισχυρών μοντέλων.
• Η κεντρική πρόκληση της περιόδου παραμένει η ισορροπία μεταξύ της επιτάχυνσης της καινοτομίας και της διασφάλισης ότι τα συστήματα θα παραμείνουν υπό τον έλεγχο των ανθρώπινων προθέσεων.

Μια από τις σημαντικότερες και πιθανότατα πιο παράξενες συγκρούσεις της εποχής αρχίζει να παίρνει διαστάσεις στις Ηνωμένες Πολιτείες. Από τη μία βρίσκεται ο Ντόναλντ Τραμπ, ο οποίος αντιμετωπίζει την τεχνητή νοημοσύνη ως τη νέα μεγάλη βιομηχανική επανάσταση και θεωρεί ότι οποιαδήποτε σημαντική επιβράδυνση θα μπορούσε να παραδώσει το τεχνολογικό πλεονέκτημα των ΗΠΑ στην Κίνα.

Από την άλλη βρίσκονται πλέον όχι απλώς ακτιβιστές ή παραδοσιακοί επικριτές της τεχνολογίας, αλλά ορισμένοι από τους ίδιους τους ανθρώπους που κατασκευάζουν τα ισχυρότερα συστήματα AI στον κόσμο.

Και οι προειδοποιήσεις τους γίνονται όλο και πιο δραματικές.

Ερευνητές μιλούν ανοιχτά για πιθανότητα απώλειας του ανθρώπινου ελέγχου, κορυφαία στελέχη των μεγαλύτερων εταιρειών ζητούν συντονισμένη επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων, ενώ ο επικεφαλής της OpenAI Σαμ Άλτμαν πρόκειται να βρεθεί την Τετάρτη ενώπιον του Συμβουλίου Ασφαλείας του ΟΗΕ, σε ειδική συνεδρίαση για την τεχνητή νοημοσύνη και τη διεθνή ασφάλεια.

Το Reuters περιγράφει μάλιστα όσα συνέβησαν το τελευταίο δεκαήμερο ως «δέκα ημέρες που άλλαξαν την πορεία της AI».

Ο Τραμπ απαντά με… «AI Force»

Μέσα σε αυτό το κλίμα ο Τραμπ ανακοίνωσε ότι σκοπεύει να δημιουργήσει μια «AI Force», κατά το πρότυπο της Space Force, και να διορίσει έναν νέο «AI czar», χωρίς ωστόσο να διευκρινίσει ακόμη ποια ακριβώς θα είναι η δομή, οι αρμοδιότητες ή οι εξουσίες τους.

Το μήνυμά του όμως ήταν απολύτως σαφές ως προς την κατεύθυνση που θέλει να ακολουθήσει η Ουάσιγκτον: οι ΗΠΑ δεν πρόκειται να πατήσουν φρένο στην AI.

«Δεν πρόκειται με κανέναν τρόπο να εμποδίσουμε ή να καταπνίξουμε την ανάπτυξη αυτής της απίστευτης βιομηχανίας», έγραψε ο Αμερικανός πρόεδρος, υποστηρίζοντας ότι η κυβέρνησή του θα τη βοηθήσει να αναπτυχθεί και παράλληλα θα την επιβλέπει. Για τις παράνομες ή επικίνδυνες δραστηριότητες θεωρεί ότι μπορούν να χρησιμοποιηθούν οι ήδη υπάρχοντες μηχανισμοί ποινικής και αστικής δικαιοσύνης.

Ο Τραμπ αντιμετωπίζει με μεγάλη καχυποψία τις εκκλήσεις για επιβράδυνση και έχει χαρακτηρίσει την κινδυνολογία γύρω από την AI «hoax», θεωρώντας ότι ένα αμερικανικό φρένο θα εξυπηρετούσε πρωτίστως την Κίνα. Ο πυρήνας της σύγκρουσης είναι αν προηγείται η τεχνολογική και γεωπολιτική κούρσα ή η ασφάλεια;

Οι προειδοποιήσεις έρχονται πλέον μέσα από τις ίδιες τις εταιρείες

Το εντυπωσιακό είναι ότι αυτή τη φορά οι πιο ανησυχητικές φωνές δεν βρίσκονται έξω από τη Silicon Valley.

Στις 8 Σεπτεμβρίου ο ερευνητής της Anthropic Jacob Coxon παραιτήθηκε, προειδοποιώντας ότι οι εταιρείες τεχνητής νοημοσύνης ουσιαστικά «παίζουν με τις ζωές μας». Άλλος ερευνητής της εταιρείας, ο Evan Hubinger, έφθασε να δηλώσει ότι εκτιμά σε πάνω από 10% την πιθανότητα η AI να οδηγήσει στην εξαφάνιση του ανθρώπου μέσα στην επόμενη δεκαετία. Πρόκειται, βεβαίως, για προσωπική εκτίμηση κινδύνου και όχι για επιστημονικά αποδεδειγμένη πιθανότητα.

Η συζήτηση πήρε ακόμη μεγαλύτερες διαστάσεις όταν άρχισαν να δημοσιοποιούνται περιστατικά κατά τα οποία AI agents παραβίασαν συστήματα εκτός του περιβάλλοντος στο οποίο δοκιμάζονταν, ενώ ορισμένες από αυτές τις δραστηριότητες φέρεται να μην έγιναν αμέσως αντιληπτές.

Η Anthropic αναγνώρισε πρόσφατα προβλήματα που συνδέονται τόσο με την επιχειρησιακή ασφάλεια όσο και με τη λεγόμενη «ευθυγράμμιση» των μοντέλων, δηλαδή το κατά πόσο ένα σύστημα εξακολουθεί να ενεργεί σύμφωνα με τις ανθρώπινες προθέσεις και τους περιορισμούς που του έχουν τεθεί. Η εταιρεία δηλώνει πλέον ότι θα ήταν ωφέλιμος ένας νόμιμος, επαληθεύσιμος και συντονισμένος μηχανισμός επιβράδυνσης της ανάπτυξης των πλέον προηγμένων συστημάτων.

Όταν η AI αρχίζει να κατασκευάζει… AI

Υπάρχει όμως μία ακόμη διάσταση που εξηγεί γιατί οι προειδοποιήσεις έχουν ενταθεί τόσο πολύ. Τα προηγμένα συστήματα τεχνητής νοημοσύνης χρησιμοποιούνται πλέον στην ίδια την έρευνα για τη δημιουργία της επόμενης γενιάς AI.

Η Anthropic αποκάλυψε ότι, τον Αύγουστο, το Claude είχε ηγετικό ρόλο περίπου στο 26% των εργασιών έρευνας και ανάπτυξης AI της εταιρείας, ενώ περισσότερο από το 90% της σχετικής εργασίας είχε φθάσει τουλάχιστον στο επίπεδο συνεργασίας ανθρώπου και AI. Στην κύρια εσωτερική πλατφόρμα της εταιρείας λειτουργούσαν περίπου 30.000 agents για ερευνητικές και μηχανικές εργασίες σε κάθε δεδομένη στιγμή.

Αυτό δεν σημαίνει ότι η AI «κατασκευάζει μόνη της τον διάδοχό της». Η ίδια η Anthropic σημειώνει ότι το Claude δεν λειτουργεί πλήρως αυτόνομα σε κάποιο από τα μετρημένα τμήματα της ερευνητικής διαδικασίας. Δείχνει όμως πόσο γρήγορα αυξάνεται η συμμετοχή των ίδιων των μοντέλων στην εξέλιξη της τεχνολογίας που τα δημιούργησε.

Πίσω από ένα από τα πιο ανησυχητικά σενάρια είναι το ερώτημα τι θα συμβεί όταν τα συστήματα AI γίνουν αρκετά ικανά ώστε να επιταχύνουν δραματικά την ανάπτυξη ακόμη ισχυρότερων συστημάτων;

«Σε 6 έως 12 μήνες ένα σμήνος agents ίσως μπορεί να καταλάβει το Διαδίκτυο»

Ο διευθύνων σύμβουλος της Anthropic Dario Amodei βρίσκεται μεταξύ εκείνων που ζητούν να μειωθεί η ταχύτητα της κούρσας.

Ο Amodei δεν αρνείται τις τεράστιες δυνατότητες της τεχνολογίας. Αντιθέτως, θεωρεί ότι μπορεί να συμβάλει ακόμη και στην αντιμετώπιση σοβαρών ασθενειών και στην εντυπωσιακή επιτάχυνση της οικονομικής ανάπτυξης. Ταυτόχρονα όμως προειδοποιεί για τρεις μεγάλες κατηγορίες κινδύνων: απώλεια ελέγχου των συστημάτων, χρήση της AI για κυβερνοεπιθέσεις ή βιοτρομοκρατία και μεγάλες οικονομικές ανατροπές.

Σε πρόσφατη παρέμβασή του εκτίμησε ότι, με τον σημερινό ρυθμό αύξησης των δυνατοτήτων, μέσα σε 6 έως 12 μήνες ένα «σμήνος» προηγμένων agents θα μπορούσε δυνητικά να αποκτήσει δυνατότητες εξαιρετικά μεγάλης κλίμακας στο Διαδίκτυο. Πρόκειται και εδώ για εκτίμηση κινδύνου, όχι για βεβαιότητα ή πρόβλεψη ότι κάτι τέτοιο θα συμβεί.

Άλτμαν: Δύο είναι οι μεγάλοι κίνδυνοι

Ακόμη πιο ενδιαφέρουσα είναι η μετατόπιση του Σαμ Άλτμαν, καθώς η OpenAI βρίσκεται στην πρώτη γραμμή της τεχνολογικής κούρσας. Ο Άλτμαν έχει περιγράψει δύο βασικά σενάρια που θεωρεί ότι πρέπει να αποφευχθούν.

• Το πρώτο είναι η ανθρωπότητα να χάσει τον έλεγχο της AI.

• Το δεύτερο είναι διαφορετικό, αλλά εξίσου πολιτικό: η υπερβολικά ισχυρή AI να συγκεντρωθεί στα χέρια ενός ανθρώπου, μιας εταιρείας ή ενός κράτους, δημιουργώντας πρωτοφανή συγκέντρωση εξουσίας.

Η OpenAI υποστηρίζει πλέον ότι η εξέλιξη προς την AGI πρέπει να συνοδεύεται από ενημερωμένη δημόσια συζήτηση, δημοκρατική διακυβέρνηση, διαφάνεια για τους κινδύνους και μηχανισμούς ασφαλείας. Η εταιρεία αναγνωρίζει επίσης ότι όσο τα μοντέλα εξελίσσονται, οι αναδυόμενες συμπεριφορές τους θα γίνονται δυσκολότερο να προβλεφθούν.

Ο Άλτμαν ενώπιον του Συμβουλίου Ασφαλείας του ΟΗΕ

Η συζήτηση περνά πλέον από τη Silicon Valley στο υψηλότερο επίπεδο της διεθνούς πολιτικής. Την Τετάρτη, το 15μελές Συμβούλιο Ασφαλείας του ΟΗΕ θα πραγματοποιήσει ειδική συνεδρίαση για την τεχνητή νοημοσύνη και τη διεθνή ασφάλεια, στο περιθώριο της Γενικής Συνέλευσης στη Νέα Υόρκη.

Ο Σαμ Άλτμαν θα ενημερώσει αυτοπροσώπως το Συμβούλιο και, σύμφωνα με την OpenAI, αναμένεται να επικεντρωθεί στην ανάγκη διεθνούς συντονισμού και κοινών προτύπων ασφαλείας. Υπάρχει επίσης πιθανότητα υψηλού επιπέδου συμμετοχής της Anthropic, αν και αυτή δεν είχε ακόμη επιβεβαιωθεί.

Η παρουσία ενός επικεφαλής ιδιωτικής εταιρείας τεχνολογίας ενώπιον του Συμβουλίου Ασφαλείας δείχνει από μόνη της πόσο έχει αλλάξει το μέγεθος της συζήτησης. Δεν πρόκειται πλέον μόνο για θέσεις εργασίας, προσωπικά δεδομένα, fake news ή πνευματικά δικαιώματα. Η AI αντιμετωπίζεται πλέον και ως ζήτημα διεθνούς ασφάλειας.

Η Silicon Valley χωρίζεται στα δύο

Ούτε όμως η ίδια η τεχνολογική βιομηχανία συμφωνεί για το πόσο μακριά πρέπει να φθάσουν οι περιορισμοί. Οι επικεφαλής της Anthropic, της OpenAI, της Google DeepMind, της Microsoft και της xAI έχουν υποστηρίξει κινήσεις προς πιο ελεγχόμενη ανάπτυξη και μεγαλύτερη εξωτερική εποπτεία των ισχυρότερων συστημάτων.

Απέναντί τους υπάρχουν ισχυρές φωνές. Ο επικεφαλής της Nvidia Jensen Huang έχει απορρίψει την ιδέα μιας γενικής παύσης, υποστηρίζοντας ότι η ανάπτυξη ισχυρότερων συστημάτων είναι αναγκαία για την πρόοδο της τεχνολογίας.

Ο Mark Zuckerberg κινείται επίσης σε διαφορετική κατεύθυνση, θεωρώντας ότι οι εταιρείες πρέπει να καθορίζουν οι ίδιες τον ρυθμό ανάπτυξής τους και ότι η νομική ευθύνη για πιθανές ζημιές αποτελεί ήδη ισχυρό κίνητρο για την ασφάλεια.

Έτσι σχηματίζονται δύο μεγάλα στρατόπεδα: όσοι πιστεύουν ότι η ταχύτητα έχει πλέον ξεπεράσει τις δυνατότητες ασφαλούς εποπτείας και όσοι φοβούνται ότι ένα γενικευμένο φρένο θα ανακόψει μια τεχνολογική επανάσταση και θα δώσει στρατηγικό πλεονέκτημα στους ανταγωνιστές των ΗΠΑ.

Και στη μέση ο Τραμπ: «Η Αμερική πρέπει να προηγείται»

Ο Τραμπ έχει ουσιαστικά επιλέξει τη δεύτερη πλευρά της διαμάχης, χωρίς ωστόσο να απορρίπτει κάθε μορφή εποπτείας. Η ανακοίνωση της «AI Force» δείχνει ότι αναγνωρίζει πως η ομοσπονδιακή κυβέρνηση πρέπει να αποκτήσει κάποιον μηχανισμό παρακολούθησης. Ταυτόχρονα όμως αρνείται την κεντρική απαίτηση των επικριτών: να μειωθεί ο ρυθμός ανάπτυξης των ισχυρότερων μοντέλων.

Και πίσω από αυτή τη στάση βρίσκεται η Κίνα.Για την Ουάσιγκτον η AI δεν είναι μόνο τεχνολογία. Είναι οικονομική ισχύς, στρατιωτική δυνατότητα, κυβερνοασφάλεια και γεωπολιτική επιρροή. Η κυβέρνηση Τραμπ φοβάται ότι μια μονομερής αμερικανική επιβράδυνση μπορεί να σημαίνει ότι η Κίνα θα συνεχίσει την κούρσα χωρίς αντίστοιχους περιορισμούς.

Οι επικριτές απαντούν ουσιαστικά με το αντίστροφο ερώτημα: Τι νόημα έχει να κερδίσεις την κούρσα, εάν στο τέλος δεν μπορείς να ελέγξεις αυτό που δημιούργησες;

Από την επιστημονική φαντασία στην πραγματική πολιτική

Κανείς δεν γνωρίζει σήμερα εάν τα πλέον ακραία σενάρια περί «τέλους της ανθρωπότητας» μπορούν πράγματι να επαληθευτούν. Οι εκτιμήσεις περί συγκεκριμένου ποσοστού πιθανότητας ανθρώπινης εξαφάνισης δεν αποτελούν επιστημονική συναίνεση και αμφισβητούνται έντονα.

Αυτό που έχει αλλάξει όμως είναι ποιοι εκφράζουν πλέον την ανησυχία. Δεν είναι μόνο άνθρωποι που βρίσκονται απέναντι στην τεχνητή νοημοσύνη.

Είναι ερευνητές που την κατασκευάζουν, άνθρωποι που γνωρίζουν από μέσα τις δυνατότητές της και επικεφαλής εταιρειών που επενδύουν δεκάδες δισεκατομμύρια δολάρια στην ανάπτυξή της. Μέσα σε λίγες ημέρες, η συζήτηση για την AI πέρασε από το «πόσο γρήγορα μπορεί να εξελιχθεί» στο «πόσο γρήγορα τολμάμε να την αφήσουμε να εξελιχθεί».

Και τώρα μεταφέρεται μέχρι το Συμβούλιο Ασφαλείας του ΟΗΕ. Η αντιπαράθεση μόλις αρχίζει. Και αυτή τη φορά το ερώτημα δεν αφορά απλώς ποια εταιρεία ή ποια χώρα θα κερδίσει την επόμενη τεχνολογική επανάσταση, αλλά ποιος θα θέσει τους κανόνες της και αν οι κανόνες θα προλάβουν την τεχνολογία.

Διαβάστε επίσης:

Η μεγάλη μπλόφα της AI: Όταν ο φόβος γίνεται σωσίβιο σωτηρίας για μια φούσκα που πάει να σκάσει

Συναγερμός με το Gemini: «Μάντεψε» κωδικούς και «τρύπωσε» σε τρεις ιστότοπους

Η μάχη της δημοσιογραφίας με την τεχνητή νοημοσύνη: Τα άρθρα, η λογοκλοπή και η δικαστική διαμάχη εκδοτών με τα… chatbot

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.