Διευθύνων Σύμβουλος της Anthropic: «Για πολύ καιρό η βιομηχανία έλεγε ψέματα» σχετικά με τους κινδύνους της Τεχνητής Νοημοσύνης

«Δεν θα σας πω ψέματα – υπάρχουν πραγματικοί κίνδυνοι», δήλωσε ο Διευθύνων Σύμβουλος και συνιδρυτής της Anthropic, Ντάριο Αμοντέι, σχετικά με την ανάπτυξη της τεχνητής νοημοσύνης. «Και νομίζω ότι για πολύ καιρό η βιομηχανία έλεγε ψέματα στον κόσμο για το γεγονός ότι αυτή η τεχνολογία ενείχε κινδύνους».

Και ο μεγαλύτερος κίνδυνος θα μπορούσε να είναι το τέλος της ανθρωπότητας, προειδοποίησε ο πρώην ερευνητής του Anthropic, Τζέικομπ Κόξον, στα μέσα κοινωνικής δικτύωσης την περασμένη Τρίτη, λέγοντας ότι το Anthropic και το OpenAI «παίζουν με τη ζωή μας» με την ανάπτυξη της υπερνοημοσύνης.

«Δεν φαίνεται και τόσο διαφορετικό, ας πούμε, από τον «Εξολοθρευτή» ή από ταινίες επιστημονικής φαντασίας», δήλωσε ο Κόξον στο CBS News την Πέμπτη. «Θα είναι αρκετά έξυπνο για να μας σκοτώσει». 

Απαντώντας, ο Αμοντέι δήλωσε χθες στην εκπομπή «Sunday Morning», από τα κεντρικά γραφεία της Anthropic στο Σαν Φρανσίσκο: «Δεν νομίζω ότι εκτίμησα πλήρως πώς θα ήταν στην πραγματικότητα όταν η πρόοδος θα ήταν τόσο γρήγορη». 

Είπε ότι η ανάπτυξη της Τεχνητής Νοημοσύνης ακολουθεί μια εκθετική καμπύλη, η οποία αρχίζει να γίνεται πιο απότομη. Ερωτηθείς τι σημαίνει αυτό, ο Αμοντέι απάντησε: «Δεν σημαίνει ότι πρέπει να πανικοβληθούμε σήμερα. Δεν σημαίνει ότι πρέπει να τα σταματήσουμε όλα. Αλλά θα έλεγα ότι είναι ένα προειδοποιητικό σημάδι. Είναι ένα προειδοποιητικό σημάδι ότι πρέπει να επιβραδύνουμε».

Σε ένα δοκίμιο που δημοσιεύθηκε το Σάββατο, ο Αμοντέι έγραψε ότι ολόκληρη η τεχνολογική βιομηχανία πρέπει να συνεργαστεί για να «επιβραδύνει τον ρυθμό» των δυνατοτήτων της Τεχνητής Νοημοσύνης.

Ερωτηθείς αν η Anthropic πρόκειται να σταματήσει να κυκλοφορεί πιο προηγμένα μοντέλα, ο ίδιος απάντησε: «Δεν σημαίνει αυτό. Αυτό που σημαίνει είναι ότι πρέπει να διασφαλίσουμε ότι κάθε γενιά μοντέλων που κυκλοφορούμε δοκιμάζεται σωστά».

Ο Αμοντέι είπε ότι η Anthropic θα δίνει πλέον σε ανεξάρτητους αξιολογητές μόνιμη πρόσβαση στα μοντέλα τους. «Κάθε φορά που κάποιος κατασκευάζει ένα μοντέλο τεχνητής νοημοσύνης, υπάρχει ένας τρίτος αξιολογητής που μπορεί να επαληθεύσει εάν η εταιρεία ακολουθεί τις πρακτικές ασφαλείας στις οποίες έχει δεσμευτεί – είναι σαν ένας επιθεωρητής τροφίμων», είπε.

Ωστόσο, οι ειδικοί στην Τεχνητή Νοημοσύνη λένε ότι αυτό δεν είναι αρκετό, και ο Αμοντέι συμφωνεί, ισχυριζόμενος ότι υποστηρίζει την ομοσπονδιακή ρύθμιση. Μέχρι στιγμής, η προτεινόμενη νομοθεσία κυμαίνεται από την πλήρη απαγόρευση της υπερ-νοημοσύνης έως έναν υποχρεωτικό «διακόπτη εξουδετέρωσης» που θα μπορούσε να απενεργοποιήσει την επικίνδυνη Τεχνητή Νοημοσύνη.

«Το AI kill switch θα μπορούσε να είναι μια καλή ιδέα», είπε ο Αμοντέι . «Αλλά δεν νομίζω ότι η απαγόρευσή του, η πλήρης απαγόρευσή του, είναι η σωστή προσέγγιση. Πρώτον, η ιδέα ότι δεν θα έχουμε ποτέ τα απίστευτα οφέλη, δεν θα έχουμε ποτέ τις ιατρικές θεραπείες, δεν μου ταιριάζει. Δεύτερον, αυτή η τεχνολογία θα κατασκευαστεί σε άλλες χώρες, συμπεριλαμβανομένων των αυταρχικών χωρών».

Ερωτηθείς αν οι ΗΠΑ θα έπρεπε να επιβραδύνουν την ανάπτυξη της τεχνητής νοημοσύνης σε περίπτωση που η Κίνα δεν το κάνει, ο Αμοντέι απάντησε: «Αυτό είναι το πιο δύσκολο δίλημμα. Αυτή είναι η πιο δύσκολη πτυχή της κατάστασής μας».

Θεωρεί τις συμφωνίες για τα πυρηνικά όπλα με την πρώην Σοβιετική Ένωση ως ένα πιθανό μοντέλο, αλλά προειδοποιεί ότι ακόμη και οι δικές του προσδοκίες είναι χαμηλές. «Το πιο μακροπρόθεσμο θα ήταν να συνεργαστούμε για να θέσουμε ένα όριο ταχύτητας στον ρυθμό προόδου της Τεχνητής Νοημοσύνης», είπε. «Νομίζω ότι αυτό θα είναι πολύ δύσκολο, επειδή τα κίνητρα για να προχωρήσουμε με το στρατιωτικό πλεονέκτημα που αποκομίζουμε από αυτό είναι τόσο μεγάλα. Και ειλικρινά, δεν ξέρω αν είναι δυνατό, αλλά θα πρέπει να προσπαθήσουμε». 

Με τη μοίρα της ανθρωπότητας να φαίνεται ότι κινδυνεύει, πόση προσωπική ευθύνη νιώθει ο Αμοντέι για το πού οδεύουμε; «Η άποψή μου εδώ είναι ότι ήταν πάντα πολύ περίεργο το γεγονός ότι αυτή η τεχνολογία κατασκευάζεται από μια ιδιωτική εταιρεία», είπε. «Οι άνθρωποι μου κάνουν συνέχεια αυτό το ερώτημα: Γιατί δεν κατασκευάζεται από την κυβέρνηση; Και το πιο περίεργο είναι ότι συμφωνώ μαζί τους. Νιώθω άβολα».

Ερωτηθείς αν είναι διατεθειμένος να παραχωρήσει την τεχνολογία στην κυβέρνηση, ο Αμοντέι απάντησε: «Στον σωστό συνδυασμό κυβερνήσεων. Η ανησυχία που έχω είναι ότι ανησυχώ ότι μία μόνο κυβέρνηση θα μπορούσε να καταχραστεί αυτήν την τεχνολογία εξίσου εύκολα με μια μόνο εταιρεία. Αλλά νομίζω ότι ένας συνδυασμός δημοκρατικά εκλεγμένων κυβερνήσεων, δεν ξέρω για την παράδοση, αλλά κάποιο είδος εποπτείας, κάποιο είδος κοινής διακυβέρνησης». 

Το ερώτημα δεν είναι πλέον αν η Τεχνητή Νοημοσύνη θα γίνει αρκετά ισχυρή ώστε να απαιτεί περιορισμούς, αλλά ποιος στην εξουσία θα αναλάβει δράση. 

«Αν χτίσουμε με τον σωστό τρόπο, νομίζω ότι η πιθανότητα να συμβεί κάτι κακό είναι πολύ χαμηλή», είπε. «Αν χτίσουμε με λάθος τρόπο, η πιθανότητα να συμβεί κάτι κακό είναι πολύ υψηλή».

Διαβάστε επίσης:

Θύελλα από το αίτημα για «φρένο» στην ΑΙ – Ο φόβος για επιβράδυνση χτυπά τις αγορές

Ο φόβος για την τεχνητή νοημοσύνη «χτύπησε» την Κίνα: Η αγωνία του «αρχικατασκόπου» του Πεκίνου

Τεχνητή Νοημοσύνη: Δραματική παρέμβαση του Σαμ Άλτμαν – Δύο τρόποι που τα πράγματα μπορούν να στραβώσουν

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.