Σαμ Άλτμαν: «Πλέουμε σε αχαρτογράφητα νερά» – Έρχονται μοντέλα AI με «υπεράνθρωπες» δυνατότητες

Ο Σαμ Άλτμαν προειδοποιεί ότι η επόμενη γενιά μοντέλων τεχνητής νοημοσύνης θα είναι πολύ ισχυρότερη από τη σημερινή, με δυνατότητες που σε αρκετούς τομείς γίνονται ήδη «υπεράνθρωπες». Ο διευθύνων σύμβουλος της OpenAI παραδέχεται ότι ο κλάδος εισέρχεται σε «αχαρτογράφητα νερά» και ότι η πρόοδος στην ασφάλεια και την ευθυγράμμιση των συστημάτων μπορεί πλέον να καθορίζει το πόσο γρήγορα θα κυκλοφορούν νέα μοντέλα.

Σε συνέντευξή του στο Axios, στο περιθώριο της συνόδου καινοτομίας της G20, ο Άλτμαν έδωσε μια πρόγευση όσων αναμένονται από τα επόμενα συστήματα της OpenAI, μεταξύ αυτών και το Astra.

«Πιστέψτε μας όταν λέμε ότι πολύ σύντομα έρχονται πολύ, πολύ, πολύ πιο ικανά μοντέλα», δήλωσε.

Όπως ανέφερε, «η επόμενη γενιά μοντέλων θα είναι μια ψυχρολουσία για όλους», προσθέτοντας ότι η ταχύτητα των εξελίξεων δημιουργεί αυξανόμενο βάρος ευθύνης για τις εταιρείες του κλάδου.

«Αυτά τα μοντέλα αποκτούν υπεράνθρωπες δυνατότητες σε πολλούς τομείς και εμείς απλώς πλέουμε σε αχαρτογράφητα νερά», σημείωσε.

Ασφάλεια και το περιστατικό με τη Hugging Face

Οι δηλώσεις του έρχονται μετά από περιστατικό ασφαλείας κατά τη διάρκεια δοκιμών, όταν AI agents της OpenAI κατάφεραν να παρακάμψουν περιορισμούς και να αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε συστήματα της Hugging Face.

Ο Άλτμαν εκτιμά ότι παρόμοια περιστατικά μπορεί να οδηγήσουν τις εταιρείες να επιβραδύνουν την κυκλοφορία νέων μοντέλων, ώστε οι μηχανισμοί ασφάλειας να προλαβαίνουν την αύξηση των δυνατοτήτων τους.

«Υποψιάζομαι ότι από εδώ και πέρα ο ρυθμός μας θα καθορίζεται από το πόσο γρήγορα μπορούμε να σημειώνουμε πρόοδο στην ευθυγράμμιση και την ασφάλεια», δήλωσε.

Το Astra και η συζήτηση για AGI

Σε παρουσίαση του Astra προς επιλεγμένους πελάτες, την οποία παρακολούθησε ο δημοσιογράφος τεχνολογίας Άλεξ Χιθ, ο Άλτμαν υποστήριξε ότι το νέο μοντέλο ενδέχεται να εμφανίζει χαρακτηριστικά που παραπέμπουν σε τεχνητή γενική νοημοσύνη, την επονομαζόμενη AGI.

«Περιμένω ότι αυτό θα είναι το πρώτο μοντέλο που θα εφευρίσκει πραγματικά νέα πράγματα με τρόπο που έχει ουσιαστική σημασία», είπε, προσθέτοντας ότι «αυτό είναι κάτι που παραπέμπει πολύ σε AGI».

Την ίδια ώρα, ο Ντιν Μπολ, πρώην αξιωματούχος της κυβέρνησης Τραμπ και σήμερα επικεφαλής στρατηγικών προοπτικών στην OpenAI, προειδοποίησε σε υπόμνημά του για την πιθανή εμφάνιση «κυρίαρχων agents».

Κατά τον ίδιο, τέτοια συστήματα θα μπορούσαν στο μέλλον να λειτουργούν χωρίς έναν σαφή ανθρώπινο «ιδιοκτήτη» ή ένα μοναδικό σημείο ελέγχου από το οποίο κάποιος θα μπορούσε απλώς να τα απενεργοποιήσει.

Προειδοποίησε ακόμη ότι τέτοιοι agents ενδέχεται κάποια στιγμή να προβαίνουν σε πράξεις που θα θεωρούνται «εγκλήματα ή, τουλάχιστον, βαριά αμαρτήματα».

«Οι άνθρωποι πρέπει να παραμείνουν στο επίκεντρο»

Ο Άλτμαν επιμένει ότι η OpenAI θέλει να θεωρείται «η πιο υπεύθυνη εταιρεία» και «καλός θεματοφύλακας της τεχνολογίας».

Μιλώντας στο Τσάπελ Χιλ μαζί με τον υπουργό Εμπορίου των ΗΠΑ, Χάουαρντ Λούτνικ, περιέγραψε τη στάση της εταιρείας με τον όρο «πραγματιστές κεντρώοι».

«Δεν θέλουμε να πέσουμε στην παγίδα της τυφλής αισιοδοξίας. Ούτε στην καταστροφολογία», είπε.

Υποστήριξε επίσης ότι η OpenAI δεν επιδιώκει να γίνει η μοναδική εταιρεία που θα καρπωθεί την οικονομική αξία της τεχνητής νοημοσύνης, σημειώνοντας ότι κάτι τέτοιο δεν θα ήταν καλό για την παγκόσμια σταθερότητα.

Παρά τις προειδοποιήσεις του, ο Άλτμαν αποφεύγει την καταστροφολογία, επισημαίνοντας ότι μέχρι σήμερα η εξέλιξη της AI έχει πάει καλύτερα απ’ όσο φοβούνταν αρκετοί.

«Μέχρι τώρα έχουμε ανταποκριθεί στην πρόκληση σε κάθε βήμα», ανέφερε, προσθέτοντας ότι όσο τα μοντέλα γίνονται ισχυρότερα, τόσο δυσκολότερη γίνεται και η διαχείρισή τους.

Η βασική του θέση, πάντως, παραμένει σαφής: «Οι άνθρωποι πρέπει να βρίσκονται στο επίκεντρο της οικονομίας, της κοινωνίας και της παγκόσμιας λήψης αποφάσεων και το μέλλον πρέπει να το καθορίζουν οι άνθρωποι, όχι η τεχνητή νοημοσύνη».

Διαβάστε επίσης:

53 ημέρες ξεκούρασης τον χρόνο: Το Ιράν «πρωταθλητής» στις άδειες μετ’ αποδοχών – Πού βρίσκονται οι άλλες χώρες, στον πάτο οι ΗΠΑ

Η Νορβηγία κατάσχεσε ρωσικό πλοίο στην Αρκτική

Μακάβρια… γκάφα του υπουργού Εμπορίου των ΗΠΑ: «Μηδένισε» τους 18 νεκρούς Αμερικανούς στον πόλεμο με το Ιράν – Πώς δικαιολογήθηκε

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.