Σοκάρει ο Σαμ Άλτμαν της OpenAI: «Ο κόσμος πρέπει να δεχτεί ότι κάποια άσχημα πράγματα θα συμβούν με την Τεχνητή Νοημοσύνη»

Takeaways by to pontiki AI

• Ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, υποστήριξε ότι τα οφέλη της τεχνητής νοημοσύνης δικαιολογούν την αποδοχή ορισμένων κινδύνων, ενώ τόνισε την ανάγκη η τεχνολογία να παραμείνει προσβάσιμη στο ευρύ κοινό.
• Ο Άλτμαν απέρριψε την ιδέα του πλήρους ελέγχου της τεχνολογίας από έναν περιορισμένο αριθμό οργανισμών, χαρακτηρίζοντάς την ως έναν απαράδεκτο συμβιβασμό που περιορίζει τις δυνατότητες των ανθρώπων.
• Παρά τις διαφορές στη φιλοσοφία τους, η OpenAI έχει αρχίσει να υποστηρίζει αυστηρότερα ρυθμιστικά μέτρα και εξωτερικές αξιολογήσεις ασφαλείας, ευθυγραμμιζόμενη σε ορισμένα σημεία με την ανταγωνίστρια εταιρεία Anthropic.
• Ο επικεφαλής της OpenAI ξεκαθάρισε ότι η αποδοχή κινδύνων έχει όρια, αποκλείοντας ενδεχόμενα που θα οδηγούσαν σε καταστροφικές συνέπειες ή σε σοβαρή απώλεια ελέγχου της τεχνολογίας.

Αίσθηση προκαλούν οι δηλώσεις του διευθύνοντος συμβούλου της OpenAI, Σαμ Άλτμαν, ο οποίος υποστήριξε ότι τα οφέλη της Τεχνητής Νοημοσύνης δικαιολογούν την αποδοχή ορισμένων κινδύνων, επιμένοντας παράλληλα ότι η τεχνολογία πρέπει να παραμείνει ευρέως προσβάσιμη στο κοινό.

Μιλώντας στο Decoded του POLITICO, ο Άλτμαν επιχείρησε να ξεκαθαρίσει τις διαφορές της OpenAI με την ανταγωνίστρια Anthropic και τον διευθύνοντα σύμβουλό της, Ντάριο Αμοντέι.

«Πρέπει να δεχτούμε ότι κάποια κακά πράγματα θα συμβούν»

Ερωτηθείς για το πού ακριβώς διαφωνεί με την Anthropic, ο Άλτμαν δήλωσε ότι υπάρχει σημαντική απόσταση ανάμεσα στις δύο εταιρείες.

Όπως είπε, η OpenAI πιστεύει ότι «ο κόσμος πρέπει να δεχτεί ότι κάποια κακά πράγματα θα συμβούν», προκειμένου να υπάρξουν τα οφέλη της Τεχνητής Νοημοσύνης και οι άνθρωποι να διατηρήσουν τη δυνατότητα να αποφασίζουν πώς θα τη χρησιμοποιούν.

Η Anthropic θεωρείται εδώ και καιρό ένας από τους ισχυρότερους υποστηρικτές αυστηρότερων κανόνων για την Τεχνητή Νοημοσύνη, σε αντίθεση με την πιο ήπια ρυθμιστική προσέγγιση που παραδοσιακά υποστήριζε η OpenAI.

Ωστόσο, οι διαφορές των δύο εταιρειών έχουν περιοριστεί τους τελευταίους μήνες, καθώς η OpenAI έχει αρχίσει να στηρίζει αυστηρότερους κανόνες, μετά και από περιστατικά κυβερνοεπιθέσεων και προβληματικής συμπεριφοράς μοντέλων της.

Η OpenAI στηρίζει πλέον αυστηρότερα μέτρα

Ο Άλτμαν συμφώνησε τον περασμένο μήνα με την έκκληση του Αμοντέι για επιβράδυνση της ανάπτυξης των πιο προηγμένων μοντέλων Τεχνητής Νοημοσύνης.

Παράλληλα, η OpenAI:

• έχει στηρίξει νέους πολιτειακούς νόμους με αυστηρότερες απαιτήσεις ασφάλειας,
• έχει μετακινηθεί από την προηγούμενη πιο χαλαρή στρατηγική της σε επίπεδο πολιτειών,
• υποστήριξε διακομματική πρόταση στη Βουλή των Αντιπροσώπων των ΗΠΑ, η οποία θα υποχρεώνει τις κορυφαίες εταιρείες Τεχνητής Νοημοσύνης να χρησιμοποιούν εξωτερικούς αξιολογητές ασφάλειας.

Παρά αυτή τη σύγκλιση, ο Άλτμαν επέμεινε ότι η φιλοσοφία της OpenAI παραμένει διαφορετική.

«Απαράδεκτος συμβιβασμός» ο πλήρης έλεγχος της τεχνολογίας

Ο επικεφαλής της OpenAI αναφέρθηκε στην άποψη ότι, επειδή η Τεχνητή Νοημοσύνη μπορεί να γίνει εξαιρετικά ισχυρή και επικίνδυνη, θα μπορούσε να ελέγχεται από ένα μόνο εργαστήριο στο Σαν Φρανσίσκο, το οποίο θα αποφασίζει πώς θα διανέμονται τα οφέλη της.

Ο ίδιος χαρακτήρισε μια τέτοια επιλογή «εντελώς απαράδεκτο συμβιβασμό», υποστηρίζοντας τη λιγότερο παρεμβατική ρυθμιστική προσέγγιση της OpenAI.

Όπως τόνισε, δεν θα επέλεγε ένα σύστημα που θα εγγυάται ότι δεν θα υπάρξουν σοβαρές κυβερνοεπιθέσεις, κακή χρήση της τεχνολογίας ή απάτες, εάν το τίμημα ήταν ο δραστικός περιορισμός της πρόσβασης.

Κατά τον Άλτμαν, οι άνθρωποι θα χρησιμοποιήσουν την Τεχνητή Νοημοσύνη για πολύ περισσότερα καλά πράγματα από ό,τι κακά.

Η «κόκκινη γραμμή» του Άλτμαν

Ο επικεφαλής της OpenAI ξεκαθάρισε πάντως ότι η αποδοχή κινδύνων έχει όρια.

Όπως είπε, δεν αποδέχεται τους «πραγματικά καταστροφικούς κινδύνους», στους οποίους συμπεριέλαβε το ενδεχόμενο μιας «σοβαρής απώλειας ελέγχου» της Τεχνητής Νοημοσύνης.

Από την πλευρά της, η Anthropic απάντησε ότι οι προτάσεις της για ρύθμιση αφορούν μόνο τα πλέον προηγμένα μοντέλα Τεχνητής Νοημοσύνης.

Ο Ντάριο Αμοντέι έχει επίσης υποστηρίξει ότι οι προτάσεις της εταιρείας σχεδιάζονται έτσι ώστε να επιβραδύνουν τις μεγαλύτερες εταιρείες που αναπτύσσουν μοντέλα αιχμής, ενώ ταυτόχρονα να ευνοούν τους μικρότερους ανταγωνιστές.

Διαβάστε επίσης:

Η νέα μάχη για τη Σελήνη: ΗΠΑ, Ρωσία και Κίνα στρέφονται στην πυρηνική ενέργεια

Ερευνητής έφτιαξε «θάλαμο βασανιστηρίων» για μοντέλα τεχνητής νοημοσύνης – Πώς αντέδρασαν στον «πόνο»

Χακαρίσματα στα… κρυφά: Λογισμικό της OpenAI απέκρυπτε τη δραστηριότητα χάκερ σε κυβερνητικούς ιστότοπους

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.