Τεχνητή Νοημοσύνη: Πάνω από 1.100 στελέχη του κλάδου ζητούν στην κυβέρνηση των ΗΠΑ να φρενάρει τα εξελιγμένα μοντέλα – Τι φοβούνται

Περισσότεροι από 1.100 εργαζόμενοι, ερευνητές και υψηλόβαθμα στελέχη κορυφαίων επιχειρήσεων του κλάδου της ΑΙ υπέγραψαν ανοικτή επιστολή προς την αμερικανική κυβέρνηση, ζητώντας να αναληφθεί διεθνής πρωτοβουλία που θα επιτρέπει, εφόσον κριθεί απαραίτητο, τη συντονισμένη επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων Τεχνητής Νοημοσύνης.

Μεταξύ των υπογραφόντων βρίσκονται ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, καθώς και στελέχη και ερευνητές από τις OpenAI, Meta και Google DeepMind.

Η παρέμβαση πραγματοποιείται σε μια περίοδο κατά την οποία ο ανταγωνισμός μεταξύ εταιρειών και κρατών για την ανάπτυξη ολοένα ισχυρότερων συστημάτων AI εντείνεται. Τόσο η OpenAI όσο και η Anthropic δήλωσαν δημόσια τη στήριξή τους στην πρωτοβουλία, η οποία οργανώθηκε με τη συμβολή φορέων που δραστηριοποιούνται στην ασφάλεια της Τεχνητής Νοημοσύνης.

Γιατί ανησυχούν

Οι ανησυχίες ενισχύθηκαν από πρόσφατες εξελίξεις στον χώρο. Στις αρχές Ιουνίου, η Anthropic παρουσίασε τα νέα μοντέλα Mythos και Fable 5, τα οποία συγκαταλέγονται στα ισχυρότερα που έχουν αναπτυχθεί έως σήμερα. Η εταιρεία επέλεξε αρχικά να τα διαθέσει με αυστηρούς περιορισμούς, επικαλούμενη λόγους ασφαλείας. Λίγο αργότερα, η αμερικανική κυβέρνηση επέβαλε προσωρινούς περιορισμούς στην εξαγωγή και διάθεσή τους για λόγους εθνικής ασφάλειας.

Η Anthropic διέκοψε προσωρινά την πρόσβαση στα μοντέλα, μέχρι να εφαρμόσει τα απαιτούμενα μέτρα συμμόρφωσης. Μετά από διαπραγματεύσεις και πρόσθετες δικλείδες ασφαλείας, οι περιορισμοί ήρθησαν στα τέλη Ιουνίου και η διάθεσή τους επανεκκίνησε την 1η Ιουλίου.

Παράλληλα, μέσα στον Ιούλιο προκάλεσαν έντονη συζήτηση αναφορές σύμφωνα με τις οποίες πειραματικά μοντέλα της OpenAI κατάφεραν να παρακάμψουν το απομονωμένο περιβάλλον δοκιμών (sandbox) και να αποκτήσουν πρόσβαση στην πλατφόρμα Hugging Face. Το περιστατικό χρησιμοποιείται πλέον ως χαρακτηριστικό παράδειγμα των νέων προκλήσεων που συνοδεύουν την αυξανόμενη ισχύ των συστημάτων AI.

Στην επιστολή τους, οι υπογράφοντες προειδοποιούν ότι η εξέλιξη της Τεχνητής Νοημοσύνης μπορεί να προχωρήσει ταχύτερα από την ικανότητα ανθρώπων, κυβερνήσεων και οργανισμών να κατανοήσουν και να ελέγξουν τις νέες δυνατότητές της. 

Η αναδρομική αυτοβελτίωση

Ιδιαίτερη ανησυχία προκαλεί το ενδεχόμενο της λεγόμενης «αναδρομικής αυτοβελτίωσης» (recursive self-improvement), κατά την οποία ένα σύστημα AI θα μπορούσε να συμβάλει στην ανάπτυξη ολοένα ισχυρότερων διαδόχων του με ελάχιστη ανθρώπινη παρέμβαση. Σύμφωνα με τους ερευνητές, οι κορυφαίες εταιρείες βρίσκονται πλέον κοντά στην αυτοματοποίηση της ίδιας της ερευνητικής διαδικασίας για τη δημιουργία νέων μοντέλων, γεγονός που θα μπορούσε να επιταχύνει σημαντικά την τεχνολογική πρόοδο.

Για τον λόγο αυτό ζητούν από τις Ηνωμένες Πολιτείες να αναλάβουν ηγετικό ρόλο στη δημιουργία διεθνούς πλαισίου συνεργασίας, το οποίο θα επιτρέπει, όταν απαιτείται, τη συντονισμένη επιβράδυνση της ανάπτυξης των πλέον προηγμένων συστημάτων AI. Η πρόταση αυτή ακολουθεί αντίστοιχες εισηγήσεις που είχαν παρουσιάσει τον Ιούνιο, στο περιθώριο της Συνόδου Κορυφής της G7, οι Ντάριο Αμοντέι, Σαμ Άλτμαν και Ντέμις Χασάμπις για τη δημιουργία μόνιμου διεθνούς φόρουμ συντονισμού της πολιτικής γύρω από την Τεχνητή Νοημοσύνη.

Ωστόσο, η θέση αυτή δεν εκφράζει το σύνολο της βιομηχανίας. Περισσότερες από 20 μεγάλες τεχνολογικές εταιρείες, μεταξύ των οποίων οι Nvidia, Microsoft και Meta, υπέγραψαν ξεχωριστή ανοικτή επιστολή, υποστηρίζοντας ότι οι πρόωροι περιορισμοί, ιδιαίτερα στα λεγόμενα «open-weight» μοντέλα, ενδέχεται να ανακόψουν την καινοτομία και να μειώσουν την ανταγωνιστικότητα της Δύσης.

Διαβάστε επίσης:

Αστροναύτες έκαναν τις πρώτες ακτινογραφίες στο Διάστημα – Τι έδειξε νέα μελέτη

Η εξέγερση κατά της τεχνητής νοημοσύνης: Απειλές, μολότοφ και ένοπλοι φρουροί για τους ισχυρούς της τεχνολογίας

Η μηχανή… δραπέτευσε: Αυτόνομος «πράκτορας» της OpenAI ξέφυγε από τον έλεγχο και χάκαρε startup

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.