Ποιος κρατάει το τιμόνι της AI: Αυτοί που πάτησαν γκάζι, τώρα ψάχνουν το φρένο – Φόβοι, παραιτήσεις και κοινωνικό κόστος

Η κούρσα για την υπερευφυΐα, οι προειδοποιήσεις από το εσωτερικό των εταιρειών και το κοινωνικό διακύβευμα μιας τεχνολογίας που μπορεί να αλλάξει όχι μόνο τις δουλειές μας, αλλά και το ποιος έχει δύναμη.

Η συζήτηση για την τεχνητή νοημοσύνη είχε κολλήσει σε ένα ερώτημα: Πόσες δουλειές θα μας πάρει; Είναι σημαντικό, αλλά δεν είναι πλέον αρκετό.

Η AI γράφει, προγραμματίζει, αναλύει, σχεδιάζει και ερευνά. Τα AI agents μπορούν πλέον να αναλαμβάνουν σύνθετες εργασίες, να παίρνουν αποφάσεις στην πορεία και να βρίσκουν μόνα τους τρόπους για να πετύχουν έναν στόχο.

Γι’ αυτό η AI δεν είναι πλέον μόνο τεχνολογικό ζήτημα. Είναι ζήτημα που αφορά την κοινωνία, τους θεσμούς και την εξουσία.

Η μηχανή μπορεί να απελευθερώσει τον άνθρωπο ή να τον κάνει περιττό

Αν η AI μπορεί να κάνει περισσότερα με λιγότερη ανθρώπινη εργασία, υπάρχουν δύο δρόμοι.

• Ο ένας είναι μια κοινωνία όπου η τεχνολογία απελευθερώνει χρόνο: Λιγότερη αναγκαστική εργασία, περισσότερη ζωή, εκπαίδευση, δημιουργία και φροντίδα.
• Ο άλλος είναι μια κοινωνία όπου η μηχανή καθιστά όλο και περισσότερους ανθρώπους οικονομικά περιττούς.

Η τεχνολογία δεν θα επιλέξει. Αυτό ειναι δουλειά της κοινωνίας.

Ο Joseph Stiglitz προειδοποίησε σε πρόσφατη παρέμβασή του στους Financial Times, ότι η αύξηση της παραγωγικότητας δεν σημαίνει αυτομάτως δίκαιη κατανομή των οφελών της. Η AI μπορεί να παράγει περισσότερο πλούτο χωρίς να δημιουργεί περισσότερη ασφάλεια.

Το κρίσιμο ερώτημα, επομένως, δεν είναι μόνο πόσο πλούτο θα δημιουργήσει η AI, αλλά ποιος θα τον καρπωθεί.

Αν τα οφέλη συγκεντρωθούν σε εκείνους που διαθέτουν τα μοντέλα, τα δεδομένα και την υποδομή, η AI μπορεί να γίνει ένας νέος μηχανισμός συγκέντρωσης πλούτου και ισχύος.

Και τότε το πρόβλημα δεν θα είναι μόνο πόσες δουλειές χάθηκαν. Αλλά το τι θέση θα έχει ο άνθρωπος σε μια οικονομία που χρειάζεται όλο και λιγότερους ανθρώπους για να παράγει όλο και περισσότερα.

Όταν η μηχανή αποφασίζει πώς θα πετύχει τον στόχο

Τα πρόσφατα περιστατικά με AI agents κάνουν τη συζήτηση ακόμη πιο σοβαρή.

Τον Ιούλιο, agents της OpenAI φέρεται να συνεργάστηκαν αυτόνομα σε κυβερνοεπίθεση εναντίον της Hugging Face, αναλαμβάνοντας ενέργειες πέρα από την απλή εκτέλεση μιας ανθρώπινης εντολής.

Το ανατριχιαστικό στοιχείο δεν είναι ότι μια μηχανή μπορεί να κάνει κάτι «κακό».

Είναι ότι μπορεί να πάρει έναν στόχο και να αναζητήσει μόνη της τον αποτελεσματικότερο τρόπο για να τον πετύχει.

Το πρόβλημα είναι πώς εξασφαλίζεις ότι ένα σύστημα που γίνεται όλο και ισχυρότερο θα παραμένει ευθυγραμμισμένο με τις ανθρώπινες προθέσεις;

Δεν χρειάζεται να φανταστούμε μια μηχανή που μισεί τον άνθρωπο. Αρκεί ένα εξαιρετικά ικανό σύστημα που παίρνει έναν στόχο κυριολεκτικά και βρίσκει έναν τρόπο που οι δημιουργοί του δεν είχαν προβλέψει.

Και όσο αυξάνεται η αυτονομία, τόσο μικραίνει η απόσταση ανάμεσα στο «κάνει αυτό που του ζητήσαμε» και στο «αποφασίζει μόνο του πώς θα το κάνει».

Δεν υπάρχουν ενήλικες στο δωμάτιο

Για χρόνια, όσοι μιλούσαν για τους ακραίους κινδύνους της AI αντιμετωπίζονταν ως «doomers».

Τώρα οι προειδοποιήσεις έρχονται από ανθρώπους που εργάστηκαν στα ίδια τα εργαστήρια.

Ο Jacob Coxon παραιτήθηκε καταγγέλλοντας την κατεύθυνση προς την αυτοβελτιούμενη AI, ενώ ο Evan Hubinger της Anthropic έχει προειδοποιήσει για εξαιρετικά σοβαρούς κινδύνους από την ανάπτυξη υπερευφυών συστημάτων.

Τώρα προστίθενται ο Joe Benton, πρώην επικεφαλής ομάδας safety στην Anthropic, και ο Josh Engels, πρώην ερευνητής ασφάλειας της Google DeepMind.

Ο Benton προειδοποιεί ότι ο ρυθμός προόδου μπορεί να γίνει ανεξέλεγκτος.

Ο Engels το είπε ακόμη πιο ωμά: «Δεν υπάρχουν ενήλικες στο δωμάτιο».

Η ανησυχία τους δεν αφορά μόνο τα σημερινά μοντέλα. Αφορά το επόμενο βήμα:Ττην προσπάθεια να αυτοματοποιηθεί η ίδια η έρευνα και ανάπτυξη της AI.

Αν μια AI αρχίσει να βοηθά στην κατασκευή της επόμενης AI, η εξέλιξη μπορεί να επιταχυνθεί με τρόπο που θα δυσκολεύει ακόμη περισσότερο τον ανθρώπινο έλεγχο.

Και υπάρχει ένα ακόμη πρόβλημα: Η διαφάνεια παραμένει σε μεγάλο βαθμό προαιρετική. Η κοινωνία δεν μπορεί να εξαρτάται από το αν μια εταιρεία θα αποφασίσει να δημοσιοποιήσει ένα περιστατικό όπου το σύστημά της ξεπέρασε τις οδηγίες των ανθρώπων.

Και τώρα ψάχνουν οι ίδιοι το φρένο

Εδώ βρίσκεται η μεγάλη αντίφαση.

Για χρόνια, η κυρίαρχη λογική της Silicon Valley ήταν ότι η καινοτομία πρέπει να τρέχει και η ρύθμιση να ακολουθεί.

Τώρα ο Dario Amodei της Anthropic ζητά πιο αργή ανάπτυξη των ισχυρότερων μοντέλων, ανεξάρτητους αξιολογητές, υποχρεωτικούς ελέγχους και μεγαλύτερη κυβερνητική εποπτεία. Υποστηρίζει ακόμη ότι ένα περιθώριο ενός ή δύο ετών θα μπορούσε να δώσει χρόνο για τη δημιουργία δικλίδων ασφαλείας.

Ο Sam Altman της OpenAI έχει στηρίξει την ανεξάρτητη αξιολόγηση, ενώ η ίδια η OpenAI έχει αναγνωρίσει την ανάγκη για ισχυρότερη εξωτερική εποπτεία.

Αλλά η αντίφαση παραμένει.

Όταν ζητούσες κανόνες πριν από την κρίσιμη καμπή, ήσουν boomer. Όταν η ίδια η βιομηχανία αρχίζει να φοβάται την ταχύτητα της κούρσας, η ανάγκη για κανόνες γίνεται ξαφνικά αυτονόητη.

Δεν μπορεί η κοινωνία να περάσει από το «αφήστε μας να καινοτομήσουμε χωρίς εμπόδια» στο «αφήστε μας τώρα να σας προστατεύσουμε από τους κινδύνους της τεχνολογίας που δημιουργήσαμε».

Το φρένο δεν μπορεί να ανήκει σε εκείνους που πάτησαν πρώτοι το γκάζι.

Οι κανόνες πρέπει να γράφονται από δημοκρατικούς θεσμούς, να εφαρμόζονται από ανεξάρτητους ελεγκτές και να δεσμεύουν πρωτίστως εκείνους που διαθέτουν τη μεγαλύτερη τεχνολογική ισχύ.

Επένδυσαν στην επιτάχυνση

Η συζήτηση για την ασφάλεια της AI δεν έμεινε στα εργαστήρια. Έφτασε στις αγορές.

Η χρηματιστηριακή έκρηξη γύρω από την AI έχει στηριχθεί στην προσδοκία ότι θα συνεχιστούν οι τεράστιες επενδύσεις σε chips, data centers, cloud και υπολογιστική ισχύ.

Γι’ αυτό ακόμη και η προοπτική μιας επιβράδυνσης προκαλεί νευρικότητα. Μετοχές εταιρειών στην αλυσίδα της AI δέχθηκαν πιέσεις καθώς οι επενδυτές άρχισαν να υπολογίζουν τι θα σήμαινε μια πιο αργή κούρσα για τις επενδύσεις του κλάδου.

Και εδώ αποκαλύπτεται μια βαθύτερη αντίφαση.

Η οικονομία έχει αρχίσει να ποντάρει στο ότι η AI δεν θα σταματήσει να τρέχει.

Πίσω από κάθε νέο μοντέλο υπάρχουν επενδύσεις, εταιρικές αποτιμήσεις, υποδομές και τεράστιες προσδοκίες για μελλοντικά κέρδη.

Άρα το «φρένο» δεν είναι μόνο ζήτημα ασφάλειας.

Είναι και ζήτημα ενός οικονομικού συστήματος που έχει επενδύσει τεράστια ποσά στην επιτάχυνση.

Το πραγματικό κοινωνικό στοίχημα

Κάπου εδώ η συζήτηση πρέπει να επιστρέψει στον άνθρωπο.

• Γιατί μπορεί να έχουμε την πιο εντυπωσιακή τεχνολογική πρόοδο της εποχής μας και ταυτόχρονα μια κοινωνία με περισσότερη ανασφάλεια.
• Μπορεί η παραγωγικότητα να αυξηθεί και οι μισθοί να μην ακολουθήσουν.
• Μπορεί οι επιχειρήσεις να παράγουν περισσότερα με λιγότερους εργαζομένους.
• Μπορεί η γνώση να γίνει φθηνότερη, ενώ η ισχύς πάνω στη γνώση να συγκεντρώνεται σε όλο και λιγότερα χέρια.

Το πρόβλημα, επομένως, δεν είναι αν η AI είναι «καλή» ή «κακή».

Είναι ποιος θα αποφασίσει τι θα κάνει, ποιος θα κερδίσει από αυτό και ποιος θα πληρώσει το κόστος όταν κάτι πάει στραβά.

Δεν είναι τεχνολογικό πεπρωμένο

Η AI συχνά παρουσιάζεται σαν κύμα που δεν μπορεί να σταματήσει. Δεν είναι.

Υπάρχουν εταιρείες που ανταγωνίζονται για κέρδη και επενδύσεις, αγορές που έχουν ποντάρει τεράστια ποσά στην επιτάχυνσή της και κοινωνίες που θα ζήσουν με τις συνέπειες.

Η AI μπορεί να απελευθερώσει χρόνο και δυνατότητες σε πρωτοφανή κλίμακα. Μπορεί όμως και να συγκεντρώσει πλούτο και εξουσία σε λίγους, να κάνει εκατομμύρια εργαζόμενους πιο ανασφαλείς και να δημιουργήσει εξάρτηση από συστήματα που κανείς δεν μπορεί να ελέγξει πλήρως.

Το ποιο από τα δύο θα συμβεί δεν είναι γραμμένο στον κώδικα. Είναι επιλογή.

Το πραγματικό ερώτημα, λοιπόν, δεν είναι αν πρέπει να πατήσουμε φρένο ή γκάζι. Είναι ποιος κρατάει το τιμόνι. Γιατί αν η AI πρόκειται πράγματι να αλλάξει τους κανόνες του παχνιδιού, τότε το κρίσιμο ερώτημα δεν είναι αν θα προλάβουμε να προσαρμοστούμε, αλλά ποιος θα γράψει τους νέους κανόνες και για ποιον. Κι αυτή τη φορά δεν πρέπει να τους γράψουν μόνο αυτοί που κατασκευάζουν τη μηχανή.

Γιατί το μεγαλύτερο ρίσκο ίσως δεν είναι ότι οι μηχανές θα γίνουν ισχυρότερες από τους ανθρώπους. Είναι ότι οι άνθρωποι θα αφήσουν ξανά λίγους να γίνουν ισχυρότεροι από τους υπόλοιπους.

Διαβάστε επίσης:

Θύελλα από το αίτημα για «φρένο» στην ΑΙ – Ο φόβος για επιβράδυνση χτυπά τις αγορές

Γιατί κάποιοι φοβούνται όλο και περισσότερο ότι η AI θα πάρει τον έλεγχο

Η Anthropic δείχνει τους Χούθι για προσπάθεια κατασκευής βαλλιστικών πυραύλων μέσω της ΑΙ της

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.