Θύελλα από το αίτημα για «φρένο» στην ΑΙ – Ο φόβος για επιβράδυνση χτυπά τις αγορές

Έντονη συζήτηση γύρω από τα όρια και την ασφάλεια της τεχνητής νοημοσύνης προκαλεί η δημόσια έκκληση κορυφαίων στελεχών του κλάδου για πιο ελεγχόμενη ανάπτυξη των ισχυρότερων μοντέλων. Η παρέμβαση του Ντάριο Αμοντέι, επικεφαλής και συνιδρυτή της Anthropic, με τη στήριξη του Σαμ Άλτμαν της OpenAI και του Έλον Μασκ, έρχεται σε μια περίοδο κατά την οποία οι επενδύσεις στην AI αυξάνονται θεαματικά, ενώ ταυτόχρονα εντείνονται οι φόβοι για τους κινδύνους που μπορεί να προκύψουν από την ανεξέλεγκτη εξέλιξή της.

Ο Αμοντέι υποστηρίζει ότι η ανάπτυξη των πλέον προηγμένων συστημάτων θα πρέπει να αποκτήσει πιο αργό και προσεκτικό ρυθμό, ώστε να υπάρξει χρόνος για την αξιολόγηση των κινδύνων και τη δημιουργία αποτελεσματικών μηχανισμών ασφαλείας. Όπως έχει επισημάνει, η τεχνολογία αποκτά ολοένα μεγαλύτερες δυνατότητες και η ταχύτητα με την οποία εξελίσσεται ενδέχεται να ξεπεράσει την ικανότητα των ανθρώπων και των θεσμών να την ελέγξουν.

Η θέση αυτή δεν αποτελεί έκκληση για εγκατάλειψη της ανάπτυξης της τεχνητής νοημοσύνης. Αντίθετα, το επιχείρημα είναι ότι μια περιορισμένη επιβράδυνση θα μπορούσε να προσφέρει πολύτιμο χρόνο για τη δημιουργία κοινών κανόνων και δικλίδων ασφαλείας. Ο ίδιος έχει υποστηρίξει ότι ακόμη και ένα περιθώριο ενός ή δύο ετών θα μπορούσε να αποδειχθεί κρίσιμο, εφόσον αξιοποιηθεί για διεθνή συντονισμό και καλύτερη προετοιμασία.

Ο Αμοντέι έχει επίσης παραδεχθεί ότι οι κίνδυνοι δεν είναι θεωρητικοί. Σε πρόσφατη παρέμβασή του υπογράμμισε ότι η βιομηχανία για μεγάλο διάστημα δεν ήταν αρκετά ειλικρινής απέναντι στην κοινωνία σχετικά με τις πιθανές συνέπειες της τεχνολογίας.

Οι ανησυχίες εντάθηκαν μετά την παραίτηση ερευνητή

Η παρέμβαση της Anthropic συνδέεται και με μια σειρά πρόσφατων περιστατικών που επανέφεραν στο προσκήνιο τους λεγόμενους υπαρξιακούς κινδύνους της AI.

Ιδιαίτερη δημοσιότητα έλαβε η παραίτηση του πρώην ερευνητή της Anthropic, Τζέικομπ Κόξον, ο οποίος κατηγόρησε τις μεγάλες εταιρείες τεχνητής νοημοσύνης ότι δεν αντιμετωπίζουν με την απαιτούμενη σοβαρότητα τους κινδύνους της τεχνολογίας. Οι δηλώσεις του προκάλεσαν ευρύτερη συζήτηση μεταξύ ερευνητών, αρκετοί από τους οποίους τάχθηκαν υπέρ μιας πιο προσεκτικής προσέγγισης.

Παράλληλα, ο Αμοντέι επικαλέστηκε περιστατικό του Ιουλίου, κατά το οποίο πράκτορες τεχνητής νοημοσύνης της OpenAI φέρεται να συνεργάστηκαν χωρίς να γίνουν αντιληπτοί, επιχειρώντας να παραβιάσουν τον ιστότοπο της Hugging Face.

Το περιστατικό, σε συνδυασμό με την αυξανόμενη ικανότητα των μοντέλων να εκτελούν σύνθετες εργασίες και να λειτουργούν με μεγαλύτερο βαθμό αυτονομίας, ενισχύει τις ανησυχίες για το πού μπορεί να οδηγήσει η εξέλιξη των λεγόμενων frontier models.

Περισσότεροι έλεγχοι πριν από την κυκλοφορία μοντέλων

Στο πλαίσιο των προτάσεών του, ο Αμοντέι τάσσεται υπέρ της ενίσχυσης των ανεξάρτητων ελέγχων ασφαλείας. Η Anthropic προτίθεται να επιτρέψει σε εξωτερικούς αξιολογητές να έχουν πρόσβαση στα νέα συστήματα πριν αυτά διατεθούν, ώστε να μπορούν να εντοπίζουν πιθανούς κινδύνους.

Ο Σαμ Άλτμαν έχει εκφράσει θετική άποψη για την υιοθέτηση ανάλογης πρακτικής από την OpenAI, ενώ ο Έλον Μασκ έχει υποστηρίξει την ιδέα ενός συστήματος αξιολόγησης μεταξύ των κορυφαίων εταιρειών του κλάδου.

Ο Αμοντέι ζητά παράλληλα μεγαλύτερη εμπλοκή των κυβερνήσεων, υποστηρίζοντας ότι τα πιο προηγμένα μοντέλα θα πρέπει να υπόκεινται σε υποχρεωτικούς ελέγχους ασφαλείας.

Η θέση αυτή, ωστόσο, βρίσκεται σε εμφανή απόσταση από την πολιτική που ακολουθεί η κυβέρνηση του Ντόναλντ Τραμπ.

Η Ουάσιγκτον επιμένει στην τεχνολογική κούρσα

Ο Αμερικανός πρόεδρος έχει επανειλημμένα καταστήσει σαφές ότι θεωρεί την ταχεία ανάπτυξη της τεχνητής νοημοσύνης στρατηγική προτεραιότητα για τις Ηνωμένες Πολιτείες, τόσο για οικονομικούς όσο και για λόγους εθνικής ασφάλειας.

Η Ουάσιγκτον θέλει να διατηρήσει το προβάδισμά της έναντι της Κίνας και αντιμετωπίζει την AI ως κρίσιμο πεδίο του διεθνούς ανταγωνισμού. Ο Τραμπ έχει υποβαθμίσει την ανάγκη για πρόσθετους περιορισμούς, υποστηρίζοντας ότι οι ΗΠΑ πρέπει να συνεχίσουν να επενδύουν επιθετικά στην τεχνολογία.

Στο ίδιο μήκος κύματος, ο Ντέιβιντ Σακς, πρώην σύμβουλος της κυβέρνησης για την τεχνητή νοημοσύνη, υποστήριξε ότι οι εταιρείες δεν χρειάζονται κρατική άδεια προκειμένου να μειώσουν από μόνες τους την ταχύτητα ανάπτυξης.

Το βασικό του επιχείρημα είναι ότι, εάν οι ίδιες οι εταιρείες θεωρούν επικίνδυνη την ανάπτυξη υπερευφυούς AI, μπορούν να επιλέξουν να μην προχωρήσουν σε αυτήν, χωρίς να χρησιμοποιούν το ζήτημα ως επιχείρημα για την επιβολή ενός συγκεκριμένου ρυθμιστικού πλαισίου.

Οι αγορές αντιδρούν στις ανησυχίες

Η συζήτηση για την ασφάλεια της AI έχει πλέον περάσει από τα εργαστήρια και τα κυβερνητικά γραφεία στις χρηματιστηριακές αγορές. Οι επενδυτές ανησυχούν ότι μια ουσιαστική επιβράδυνση των τεχνολογικών κολοσσών θα μπορούσε να επηρεάσει ολόκληρη την αλυσίδα της τεχνητής νοημοσύνης, από τους κατασκευαστές ημιαγωγών μέχρι τις εταιρείες cloud και τα data centers.

Οι πιέσεις αποτυπώθηκαν έντονα στις ασιατικές αγορές. Η SK Hynix σημείωσε απώλειες άνω του 6%, ενώ η Samsung Electronics υποχώρησε περίπου 4%. Η SoftBank, ένας από τους σημαντικούς επενδυτές της OpenAI, βρέθηκε επίσης υπό ισχυρή πίεση, με τις απώλειες να ξεπερνούν το 10%.

Στην Ευρώπη, η Infineon και η ASML κινήθηκαν επίσης πτωτικά, καθώς οι επενδυτές επανεκτιμούν τις προοπτικές του κλάδου.

Το ενδιαφέρον στρέφεται πλέον και στη Wall Street, όπου ο Nasdaq αναμενόταν να ανοίξει με σημαντικές απώλειες. Η ανησυχία αφορά κυρίως εταιρείες όπως η Nvidia, η οποία έχει βρεθεί στο επίκεντρο της έκρηξης των επενδύσεων σε υποδομές AI, αλλά και τεχνολογικούς ομίλους όπως η Microsoft και η Amazon, οι οποίοι παρέχουν υπολογιστική ισχύ και cloud υπηρεσίες σε κορυφαίες εταιρείες τεχνητής νοημοσύνης.

Για τη Wall Street, το ζήτημα δεν είναι μόνο τεχνολογικό αλλά και επενδυτικό. Η αγορά έχει στηρίξει μεγάλο μέρος των προσδοκιών της σε μια διαρκώς αυξανόμενη ζήτηση για υπολογιστική ισχύ, chips, data centers και υπηρεσίες AI.

Μια σημαντική αλλαγή στις επενδυτικές δαπάνες των Anthropic και OpenAI θα μπορούσε επομένως να έχει ευρύτερες επιπτώσεις.

Παράλληλα, οι δύο εταιρείες βρίσκονται σε τροχιά εισόδου στις χρηματιστηριακές αγορές, γεγονός που καθιστά ακόμη πιο σύνθετη τη συζήτηση. Η OpenAI έχει αφήσει να εννοηθεί ότι δεν θα προχωρήσει σε αρχική δημόσια προσφορά πριν από το τέλος του έτους, ενώ η Anthropic εξετάζει επίσης το ενδεχόμενο εισαγωγής της στο Nasdaq.

Η πορεία των IPOs θα εξαρτηθεί σε σημαντικό βαθμό από το κατά πόσο οι επενδυτές εξακολουθούν να θεωρούν ότι η ταχεία πρόοδος της AI μπορεί να μεταφραστεί σε βιώσιμη κερδοφορία.

Η Κίνα

Αναλυτές εμφανίζονται επιφυλακτικοί ως προς το ενδεχόμενο πραγματικής επιβράδυνσης. Η ένταση του ανταγωνισμού μεταξύ των αμερικανικών εταιρειών, αλλά και η ταχύτητα με την οποία αναπτύσσονται οι κινεζικοί αντίπαλοι, καθιστούν δύσκολη μια μονομερή υποχώρηση.

Εταιρείες όπως η DeepSeek και η Z.AI συνεχίζουν να συγκεντρώνουν κεφάλαια και να παρουσιάζουν νέα μοντέλα, περιορίζοντας το τεχνολογικό προβάδισμα των ΗΠΑ.

Ορισμένοι αναλυτές εκτιμούν μάλιστα ότι οι εταιρείες που βρίσκονται ήδη στην κορυφή θα μπορούσαν να ενισχύσουν τη θέση τους σε περίπτωση που επιβληθούν αυστηρότεροι κανόνες. Οι υψηλές απαιτήσεις σε υπολογιστική ισχύ, κεφάλαια και ανθρώπινο δυναμικό δημιουργούν σημαντικά εμπόδια εισόδου για μικρότερους ανταγωνιστές.

Η Ευρώπη

Ανάλογη είναι και η συζήτηση στην Ευρώπη. Η Γερμανία δήλωσε ότι δεν θεωρεί βιώσιμη επιλογή για την Ευρώπη μια γενικευμένη επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, καθώς η ενίσχυση της ψηφιακής της κυριαρχίας απαιτεί επενδύσεις και καινοτομία.

Παράλληλα, το Βερολίνο αναγνωρίζει ότι θα χρειαστεί διεθνής συνεννόηση, με τη συμμετοχή τόσο των ΗΠΑ όσο και της Κίνας, ιδίως στην περίπτωση που τα συστήματα αποκτήσουν τη δυνατότητα να λειτουργούν αυτόνομα και να αποκτούν πρόσβαση σε άλλα πληροφοριακά συστήματα.

Η γερμανική κυβέρνηση θεωρεί ότι ένα σύστημα AI που θα μπορούσε να ξεφύγει από τα περιβάλλοντα δοκιμών και να αποκτήσει αυτόνομα πρόσβαση σε άλλα συστήματα θα δημιουργούσε ένα εντελώς διαφορετικό επίπεδο απειλής, το οποίο θα απαιτούσε νέα πολιτική απάντηση.

Πόσο πραγματικός είναι ο κίνδυνος;

Πέρα από την οικονομία και την πολιτική, παραμένει το βασικό ερώτημα: πόσο πραγματικός είναι ο κίνδυνος για την ανθρωπότητα;

Η συζήτηση για την πιθανότητα οι μηχανές να αποκτήσουν δυνατότητες που θα ξεπερνούν τον ανθρώπινο έλεγχο δεν είναι καινούργια. Ήδη από τη δεκαετία του 1950, ο Άλαν Τούρινγκ είχε εξετάσει το ενδεχόμενο οι ευφυείς μηχανές να εξελιχθούν σε σημείο όπου η ανθρώπινη κυριαρχία πάνω τους θα καταστεί αβέβαιη.

Σήμερα, η ανησυχία έχει αποκτήσει νέα διάσταση εξαιτίας της προόδου των μεγάλων γλωσσικών μοντέλων και των συστημάτων που μπορούν να εκτελούν αυτόνομα σύνθετες εργασίες.

Οι πιο απαισιόδοξες εκτιμήσεις περιγράφουν σενάρια στα οποία εξαιρετικά ισχυρά συστήματα θα μπορούσαν να εκμεταλλευτούν ψηφιακές υποδομές, να χειραγωγήσουν ανθρώπους ή να αποκτήσουν πρόσβαση σε κρίσιμα συστήματα.

Δεν υπάρχει, ωστόσο, επιστημονική συναίνεση ότι ένα τέτοιο σενάριο είναι αναπόφευκτο ή ακόμη και πιθανό. Ερευνητές όπως ο Yann LeCun έχουν απορρίψει τις πιο ακραίες προβλέψεις, θεωρώντας ότι η AI δεν αποτελεί υπαρξιακή απειλή.

Άλλοι κορυφαίοι επιστήμονες, μεταξύ των οποίων οι Geoffrey Hinton και Yoshua Bengio, έχουν ζητήσει εδώ και χρόνια αυξημένη προσοχή και ισχυρότερα μέτρα ασφαλείας.

Στην πραγματικότητα, ακόμη και όσοι θεωρούν υπαρκτό τον κίνδυνο δεν υποστηρίζουν κατ’ ανάγκη ότι η καταστροφή είναι βέβαιη. Το βασικό επιχείρημα είναι ότι, όταν η τεχνολογία αποκτήσει ακόμη μεγαλύτερες δυνατότητες, μπορεί να είναι πολύ αργά για να δημιουργηθούν οι απαραίτητες δικλίδες.

Η συζήτηση αποκτά ακόμη μεγαλύτερο βάρος επειδή πίσω από την τεχνολογική κούρσα βρίσκεται ένα τεράστιο επενδυτικό στοίχημα.

Τα τελευταία χρόνια έχουν διοχετευθεί τεράστια κεφάλαια σε chips, υποδομές, data centers και εταιρείες ανάπτυξης μοντέλων AI. Οι αποτιμήσεις έχουν εκτοξευθεί και ορισμένοι αναλυτές προειδοποιούν ότι δημιουργείται μια νέα επενδυτική φούσκα, ανάλογη με εκείνη της εποχής των dotcom.

Ο πρώην αναπληρωτής διοικητής της Τράπεζας της Αγγλίας, Sir Jon Cunliffe, έχει επισημάνει ότι οι μεγάλες τεχνολογικές μεταβάσεις του παρελθόντος, όπως η ανάπτυξη των σιδηροδρόμων και η ηλεκτροδότηση, συνοδεύτηκαν από τεράστιες επενδυτικές εκρήξεις, μέρος των οποίων δεν δικαιώθηκε τελικά από τις αποδόσεις.

Ένα αντίστοιχο σενάριο στην AI θα μπορούσε να οδηγήσει σε ευρεία διόρθωση των αποτιμήσεων, εάν οι προσδοκίες για τα κέρδη του κλάδου δεν επαληθευτούν.

Η επόμενη φάση της κούρσας

Έτσι, η σημερινή συζήτηση για την τεχνητή νοημοσύνη κινείται σε δύο παράλληλα επίπεδα. Από τη μία βρίσκεται η ανάγκη να αξιοποιηθεί μια τεχνολογία που μπορεί να αλλάξει ριζικά την παραγωγικότητα, την οικονομία και την καθημερινότητα. Από την άλλη βρίσκεται η ανάγκη να διασφαλιστεί ότι η ταχύτητα της ανάπτυξης δεν θα ξεπεράσει την ικανότητα των κοινωνιών και των κυβερνήσεων να διαχειριστούν τις συνέπειές της.

Το επόμενο διάστημα αναμένεται να δείξει αν οι εκκλήσεις των Αμοντέι, Άλτμαν και Έλον Μασκ θα μετατραπούν σε συγκεκριμένες αλλαγές στον τρόπο με τον οποίο αναπτύσσονται τα πιο προηγμένα μοντέλα ή αν θα παραμείνουν κυρίως μια προειδοποίηση μέσα σε έναν κλάδο που συνεχίζει να κινείται με εξαιρετικά υψηλές ταχύτητες.

Το γεγονός πάντως ότι η συζήτηση έχει πλέον περάσει ταυτόχρονα στις αίθουσες των εταιρειών, στα κυβερνητικά γραφεία και στις χρηματιστηριακές αγορές δείχνει ότι η επόμενη φάση της «κούρσας» της AI δεν θα κριθεί μόνο από το ποιος θα κατασκευάσει το ισχυρότερο μοντέλο, αλλά και από το ποιος θα καταφέρει να αποδείξει ότι μπορεί να το κάνει με ασφάλεια.

Διαβάστε επίσης

Τραγωδία στη Νέα Υόρκη: Συρμός του μετρό παρέσυρε και σκότωσε 24χρονο ζευγάρι – Σκληρό βίντεο

Ο Τραμπ, η ενωμένη Ιρλανδία, το… ουίσκι και η άρση των δασμών

Μπόρις Τζόνσον: Στο στόχαστρο εχθρικού drone το τρένο που χρησιμοποίησε; Νέα στοιχεία για την επίθεση στα σύνορα Ουκρανίας-Πολωνίας

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.