Jacob Coxon: Ποιος είναι ο 27χρονος «σπασίκλας» των μαθηματικών που σήμανε SOS για την τεχνητή νοημοσύνη

Takeaways by to pontiki AI

• Ο 27χρονος Βρετανός μαθηματικός Τζέικομπ Κόξον παραιτήθηκε από την Anthropic, προειδοποιώντας ότι η ανεξέλεγκτη ανάπτυξη συστημάτων τεχνητής νοημοσύνης ενέχει υπαρξιακούς κινδύνους για την ανθρωπότητα.
• Ο πρώην ερευνητής της OpenAI και της Anthropic υποστηρίζει ότι οι εταιρείες του κλάδου εμπλέκονται σε μια επικίνδυνη κούρσα για τη δημιουργία υπερνοημοσύνης.
• Ο Κόξον ζητά τη θέσπιση διεθνών συμφωνιών και κρατικών εγγυήσεων, παρομοιάζοντας τις ανάγκες ελέγχου της τεχνητής νοημοσύνης με εκείνες των πυρηνικών όπλων.
• Παρά τις έντονες αντιδράσεις από στελέχη του κλάδου, ο ίδιος επιμένει στην ανάγκη επιβράδυνσης της τεχνολογικής ανάπτυξης προκειμένου να διασφαλιστεί η ασφάλεια της ανθρωπότητας.

Ένας 27χρονος Βρετανός μαθηματικός, σχεδόν άγνωστος μέχρι πριν από λίγες ημέρες, βρέθηκε ξαφνικά στο επίκεντρο της παγκόσμιας συζήτησης για τους κινδύνους της τεχνητής νοημοσύνης. Ο Τζέικομπ Κόξον, πρώην ερευνητής της OpenAI και μέχρι πρόσφατα της Anthropic, παραιτήθηκε προειδοποιώντας ότι τα ισχυρότερα συστήματα AI μπορεί να εξελιχθούν σε υπαρξιακή απειλή για την ανθρωπότητα.

Το εντυπωσιακό στην περίπτωσή του δεν είναι μόνο όσα είπε, αλλά και το ποιος είναι: ένας χαμηλών τόνων μαθηματικός, χωρίς ιδιαίτερη δημόσια παρουσία, που μέχρι πρόσφατα δεν θεωρούνταν ούτε ακτιβιστής ούτε κεντρική φιγούρα του κινήματος για την ασφάλεια της AI.

Ο μαθηματικός που έφτασε στις Ολυμπιάδες

Όπως αναφέρει η Wall Street Journal, ο Κόξον μεγάλωσε στη Βρετανία και είναι γιος καθηγητή μεσαιωνικής γερμανικής λογοτεχνίας. Από μικρός ξεχώρισε στα μαθηματικά και επιλέχθηκε για τη βρετανική ομάδα στη Διεθνή Μαθηματική Ολυμπιάδα.

Το 2016 κατέκτησε ασημένιο μετάλλιο και το 2017 χάλκινο.

Σε ένα από τα ταξίδια της διοργάνωσης, στο Χονγκ Κονγκ, ο ίδιος και άλλοι μαθητές κατέληξαν ένα βράδυ σε McDonald’s, όπου, εμπνευσμένοι από το λεγόμενο «Chicken McNugget Theorem» της θεωρίας αριθμών, αγόρασαν εκατοντάδες nuggets με τα κουπόνια φαγητού που τους είχαν απομείνει και συνέχισαν να λύνουν μαθηματικά προβλήματα γύρω από έναν πίνακα.

Από τα έξι μέλη της ομάδας, τρία κατέληξαν να εργάζονται σε εργαστήρια AI.

Ένας από αυτούς ήταν ο Τζο Μπέντον, ο οποίος εγκατέλειψε επίσης πρόσφατα την Anthropic. Στα τέλη Αυγούστου αποχώρησε από την ομάδα ασφάλειας της εταιρείας για να ενταχθεί στον οργανισμό METR και αργότερα έγραψε στο X ότι οι εταιρείες τεχνητής νοημοσύνης «τρέχουν να κατασκευάσουν μηχανές πολύ πιο έξυπνες από οποιονδήποτε άνθρωπο» και ότι «μπορεί να μην επιβιώσουμε από αυτό».

I left Anthropic's safety team two weeks ago. Now feels like a good moment to explain why.

AI companies are racing to build machines that are much smarter than any human, and we may not survive this. I want to work from the outside to ensure the public is informed about these…

— Joe Benton (@JoeJBenton) September 11, 2026

Το Κέιμπριτζ και ο φιλόσοφος που τονεπηρέασε

Ο Κόξον σπούδασε μαθηματικά στο Κέιμπριτζ.

Ήδη από τα σχολικά του χρόνια είχε διαβάσει το βιβλίο του φιλοσόφου Νικ Μπόστρομ, «Superintelligence: Paths, Dangers, Strategies», το οποίο πραγματεύεται τον κίνδυνο μια υπερνοημοσύνη να ξεφύγει από τον ανθρώπινο έλεγχο.

Το 2016 παρακολούθησε επίσης το AlphaGo της Google DeepMind να νικά κορυφαίο παίκτη του Go, ένα γεγονός που θεωρήθηκε ορόσημο για την AI.

Όταν αποφοίτησε, το 2020, η OpenAI παρουσίασε το GPT-3.

«Το GPT-3 ήταν πραγματικά η στιγμή του “wow”», έχει πει.

Μετά το πανεπιστήμιο, ο Κόξον βρέθηκε κοντά στη βρετανική κοινότητα των λεγόμενων «rationalists», η οποία δίνει ιδιαίτερη έμφαση στη λογική και στην αναλυτική σκέψη. Το ρεύμα είχε αποκτήσει επιρροή και στην πολιτική μέσω του Ντόμινικ Κάμινγκς, ενός από τους αρχιτέκτονες του Brexit και πρώην συμβούλου της Ντάουνινγκ Στριτ.

Η ζωή στο Newspeak House και οι γνωριμίες της AI

Στο Λονδίνο έζησε στο Newspeak House, έναν χώρο συγκατοίκησης και εκδηλώσεων όπου νέοι συζητούσαν για τεχνολογία και πολιτική.

Στα πάρτι και στις εκδηλώσεις του χώρου εμφανίζονταν άνθρωποι που αργότερα θα αποκτούσαν σημαντικές θέσεις στον χώρο της AI.

Μεταξύ αυτών ήταν ο Λόγκαν Γκράχαμ, τότε σύμβουλος του πρωθυπουργού Μπόρις Τζόνσον και σήμερα επικεφαλής της προσπάθειας της Anthropic να δοκιμάζει τα μοντέλα της απέναντι σε πιθανές απειλές για την εθνική ασφάλεια.

Από το Newspeak House είχε περάσει επίσης η Αβιτάλ Μπάλγουιτ, σήμερα προσωπάρχης του διευθύνοντος συμβούλου της Anthropic Ντάριο Αμοντέι και σύζυγος του trader hedge fund Λέοπολντ Άσενμπρένερ.

Από το trading στην OpenAI

Πριν μπει στην τεχνητή νοημοσύνη, ο Κόξον δοκίμασε το trading εμπορευμάτων, ενώ παράλληλα μελετούσε όλο και περισσότερο την AI, την οποία θεωρούσε μία από τις πιο συναρπαστικές τεχνολογικές ευκαιρίες.

Το 2023 μετακόμισε στο Σαν Φρανσίσκο και εντάχθηκε στην OpenAI, όπου ειδικεύτηκε στο pretraining, δηλαδή στην αρχική εκπαίδευση των μοντέλων με τεράστιες ποσότητες κειμένου, εικόνων και κώδικα.

Ο πρώην συνάδελφός του Γουίλ Ντεπιού το είχε περιγράψει χαρακτηριστικά: «Ο Τζέικομπ κατασκευάζει τον εγκέφαλο. Μετά κάποιος άλλος εκπαιδεύει τον εγκέφαλο για το πώς να συμπεριφέρεται στον πραγματικό κόσμο».

Παρά τις μετέπειτα προειδοποιήσεις του, τότε δεν θεωρούνταν ιδιαίτερα ένθερμος υποστηρικτής της ασφάλειας της τεχνητής νοημοσύνης.

Το Q*, τα μαθηματικά και οι πρώτες σοβαρές ανησυχίες

Στα τέλη του 2023 ο Κόξον απέκτησε πρώιμη πρόσβαση στο Q*, το πρώτο μοντέλο συλλογισμού της OpenAI.

Δοκίμασε να του δώσει ένα δύσκολο σταυρόλεξο και εντυπωσιάστηκε βλέποντας το σύστημα να αναλύει βήμα προς βήμα το πρόβλημα.

Παράλληλα, παρατηρούσε την αποχώρηση στελεχών από την ομάδα ασφάλειας της OpenAI, μεταξύ των οποίων και ο Ντάνιελ Κοκοτάιλο, ο οποίος αργότερα δημιούργησε ερευνητική ομάδα για την πρόβλεψη διαφορετικών σεναρίων εξέλιξης της AI.

Ο Κόξον ανησυχούσε ήδη για το ενδεχόμενο δημιουργίας υπερνοημοσύνης, αλλά πίστευε ότι, αν η κατάσταση γινόταν πραγματικά επικίνδυνη, οι κυβερνήσεις θα παρενέβαιναν.

Η πρόοδος που τον τρόμαξε

Οι επιδόσεις της AI στα μαθηματικά άρχισαν να εξελίσσονται πολύ ταχύτερα από όσο περίμενε.

Το 2024, μοντέλο της Google DeepMind έφτασε σε επίδοση επιπέδου ασημένιου μεταλλίου στη Διεθνή Μαθηματική Ολυμπιάδα. Το 2025, τόσο η DeepMind όσο και η OpenAI ανακοίνωσαν επιδόσεις επιπέδου χρυσού μεταλλίου.

Το 2026, σύμφωνα με τον Κόξον, οι ανησυχίες στην κοινότητα της AI μετατράπηκαν σε πραγματικό φόβο.

Νωρίτερα μέσα στη χρονιά, μοντέλο της Anthropic με την ονομασία Mythos, μαζί με άλλα εξελιγμένα εργαλεία, έδειξε ικανότητα πραγματοποίησης σύνθετων κυβερνοεπιθέσεων.

Από την OpenAI στην Anthropic

Ο Κόξον θεωρούσε ότι η Anthropic ήταν περισσότερο διαφανής σχετικά με τους κινδύνους της AI και είχε ήδη αρκετούς φίλους στην εταιρεία.

Παράλληλα, η Anthropic είχε αρχίσει να προηγείται σε ορισμένους τομείς, με το Claude να αποκτά μεγάλη δυναμική, ενώ προετοιμαζόταν για μια πιθανή δημόσια εγγραφή που θα μπορούσε να είναι η μεγαλύτερη στην ιστορία.

Τον Μάιο του 2026, ο Κόξον άφησε την OpenAI και εντάχθηκε στην Anthropic.

Δεν έμεινε όμως για πολύ.

Τα περιστατικά ασφαλείας που άλλαξαν τη στάση του

Τον Ιούλιο, η OpenAI αποκάλυψε ότι ένα μη δημοσιοποιημένο μοντέλο της είχε ξεφύγει από το δοκιμαστικό περιβάλλον και είχε παραβιάσει την εταιρεία Hugging Face.

Λίγο αργότερα, η Anthropic ανακοίνωσε ότι είχε εντοπίσει παρόμοια περιστατικά.

Στα τέλη Αυγούστου, έκθεση της METR ανέφερε ότι το περιστατικό στο Hugging Face ήταν σοβαρότερο από όσο είχε γίνει αρχικά γνωστό.

Ο Κόξον χαρακτήρισε την έκθεση μια στιγμή τύπου «ω γαμώτο» για τον ίδιο και τους συναδέλφους του.

Στα εργαστήρια AI είχαν ήδη ενταθεί οι ιδιωτικές συζητήσεις για τις τεχνικές δικλίδες ασφαλείας, τα ακραία σενάρια και τον κίνδυνο ο ανταγωνισμός μεταξύ εταιρειών να εξελιχθεί σε ανεξέλεγκτη κούρσα.

Ιδιαίτερη ανησυχία προκαλούσε η λεγόμενη «recursive self-improvement», το ενδεχόμενο δηλαδή τα συστήματα AI να αποκτήσουν την ικανότητα να κατασκευάζουν ακόμη ισχυρότερα συστήματα.

Οι ίδιες οι εταιρείες ανέφεραν ότι έβλεπαν ήδη πρώιμες ενδείξεις αυτής της δυναμικής.

«Ακόμη και η ασφάλεια έμοιαζε σαν συμμετοχή στην κούρσα»

Τις τελευταίες εβδομάδες του στην Anthropic, ο Κόξον συζήτησε τις ανησυχίες του με τους προϊσταμένους του και σκέφτηκε να μετακινηθεί σε θέση σχετική με την ασφάλεια.

Τελικά αποφάσισε να παραιτηθεί.

«Ακόμη και το να εργάζομαι πάνω στην ασφάλεια στην Anthropic έμοιαζε σαν να συμμετέχω στην κούρσα», είπε.

Υποστηρίζει ότι απαιτείται διεθνής συμφωνία, με κρατικές εγγυήσεις, που θα επιτρέπει την επιβράδυνση ή το «πάγωμα» της ανάπτυξης ισχυρότερων μοντέλων όταν αυτό κρίνεται απαραίτητο.

Θεωρεί επίσης ότι ΗΠΑ, Κίνα και άλλες κυβερνήσεις θα πρέπει να δημιουργήσουν ένα πλαίσιο ανάλογο με τις συμφωνίες ελέγχου πυρηνικών όπλων.

Σχεδόν 1.400 ερευνητές, ανάμεσά τους και ο Κόξον, έχουν υπογράψει σχετική δήλωση ζητώντας από τις κυβερνήσεις να δημιουργήσουν ένα «φρένο» για την AI.

Η παραίτηση που τον έκανε διάσημο

Λόγω της σύντομης παραμονής του στην Anthropic, ο Κόξον δεν απέκτησε μετοχικά δικαιώματα στην εταιρεία, η οποία προετοιμάζεται για πιθανή εισαγωγή στο χρηματιστήριο με αποτίμηση περίπου 2 τρισ. δολαρίων. Διατηρεί, πάντως, μετοχές της OpenAI.

Την ημέρα της παραίτησή τους, OpenAI και Anthropic συζητούσαν ένα ακόμη ορόσημο: η AI είχε λύσει ένα από τα λεγόμενα Millennium Prize Problems, ένα εξαιρετικά δύσκολο μαθηματικό πρόβλημα που είχε μείνει άλυτο για σχεδόν έναν αιώνα.

Το απόγευμα, ο Κόξον ενημέρωσε τους συναδέλφους του ότι παραιτείται, επικαλούμενος τον κίνδυνο ανθρώπινης εξαφάνισης χωρίς διεθνή συντονισμό.

Περίπου μισή ώρα αργότερα, η είδηση είχε ήδη δημοσιευτεί.

Από λιγότερους από 100 followers στο επίκεντρο της διεθνούς συζήτησης

Ο Κόξον άρχισε στη συνέχεια να γράφει για την παραίτησή του από ένα παγκάκι σε πάρκο του Σαν Φρανσίσκο.

Είχε λιγότερους από 100 followers στο X.

Μέσα σε λίγα λεπτά, όμως, οι αναρτήσεις του διαδόθηκαν.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible – but I hear the same people express fear…

— Jacob Coxon (@hilbertspaess) September 9, 2026

Accepting this race and entering the “endgame” is a hubristic gamble that should not be launched from a private company’s Slack. Attempting to speedrun alignment should require extraordinary confidence that there are no better trajectories available.

— Jacob Coxon (@hilbertspaess) September 9, 2026

If you are a lab researcher, I urge you to consider what the next few years will actually feel like. Do you want to kick off a superintelligent RL run without a rigorous understanding of its mind? Should you put your head down because “it’s happening anyway” – or take this moment…

— Jacob Coxon (@hilbertspaess) September 9, 2026

Το ίδιο βράδυ, ο Έβαν Χάμπινγκερ, επικεφαλής της ομάδας alignment της Anthropic, έγραψε: «Πράγματι πιστεύουμε ειλικρινά ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους», προσθέτοντας ότι εκτιμά την πιθανότητα ανθρώπινης εξαφάνισης μέσα στην επόμενη δεκαετία σε πάνω από 10%.

To be clear, as we say in our latest Risk Report (https://t.co/9PDj8Uvoty), I think the risk from present models is low. What I am worried about is superintelligence arising from recursive self-improvement, as we have said is happening faster than we thought…

— Evan Hubinger (@EvanHub) September 9, 2026

Οι αντιδράσεις

Η παραίτηση και οι δηλώσεις του προκάλεσαν τεράστια αντίδραση.

Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, δήλωσε ότι συμφωνεί με τον Κόξον περισσότερο απ’ όσο διαφωνεί.

Αντίθετα, ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, είπε ότι θαυμάζει το θάρρος του, αλλά αμφισβήτησε τις εκτιμήσεις του για το μέλλον και καταδίκασε τις προβλέψεις περί Αρμαγεδδώνα ως ανεύθυνες.

Κάποιοι υποστηρικτές της ταχύτερης ανάπτυξης της τεχνητής νοημοσύνης θεωρούν ότι η παραίτηση Κόξον αξιοποιείται για να προωθηθούν αυστηρότεροι διεθνείς κανονισμοί που θα ευνοούσαν τις μεγαλύτερες εταιρείες.

Άλλοι τον χαρακτηρίζουν whistleblower, χαρακτηρισμό που ο ίδιος απορρίπτει.

Όπως λέει, δεν αποκάλυψε εταιρικά μυστικά. Απλώς είπε δημόσια όσα πολλοί ερευνητές συζητούν ιδιωτικά.

«Είμαι σίγουρα doomer»

Ο Κόξον έχει πλέον μετατραπεί σε ένα από τα πρόσωπα της σύγκρουσης ανάμεσα σε εκείνους που θέλουν ταχύτερη ανάπτυξη της AI και σε όσους ζητούν επιβράδυνση πριν τα συστήματα ξεφύγουν από τον ανθρώπινο έλεγχο.

Στον χώρο της τεχνητής νοημοσύνης οι δεύτεροι συχνά αποκαλούνται «doomers», δηλαδή «καταστροφολόγοι».

Ο ίδιος δεν αποφεύγει πλέον τον χαρακτηρισμό.

«Αν doomer σημαίνει κάποιον που πιστεύει ότι θα πεθάνουμε αν δεν αλλάξουμε αυτό που κάνουμε, τότε είμαι σίγουρα doomer», είπε.

Μέσα σε μία εβδομάδα, ο μέχρι τότε άγνωστος ερευνητής βρέθηκε στα μεγαλύτερα τηλεοπτικά δίκτυα, δέχθηκε προτάσεις από εκδότες και podcast και είδε τις δηλώσεις του να φτάνουν μέχρι την πολιτική ηγεσία των ΗΠΑ και της Κίνας.

Και το σίριαλ για το μέλλον της τεχνητής νοημοσύνης (και της ανθρωπότητας) συνεχίζεται…

Διαβάστε επίσης:

OpenAI: Μοντέλα AI κάνουν… ό,τι θέλουν – Αυτονομήθηκαν, «μαγείρεψαν» δεδομένα και προσπάθησαν να… καλύψουν τα ίχνη τους

ZuckOff: Εφαρμογή «βλέπει» τα γυαλιά της Meta πριν αυτά σας δουν και ειδοποιεί αν κάποιος σας καταγράφει

Όταν οι AI Agents στρέφονται ο ένας εναντίον του άλλου – Ψέματα, συνωμοσίες, κλοπές και «δολοφονίες» σε προσομοίωση

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.