«Παίζουν με τις ζωές μας – Θα μπορούσε να σκοτώσει όλους τους ανθρώπους ως το τέλος της δεκαετίας» – Σοκαριστικές καταγγελίες πρώην ερευνητή στις OpenAI και Anthropic

Takeaways by to pontiki AI

• Ο ερευνητής τεχνητής νοημοσύνης Τζέικομπ Κόξον παραιτήθηκε από την εταιρεία Anthropic, καταγγέλλοντας ότι τόσο η OpenAI όσο και η Anthropic ενεργούν ανεύθυνα.
• Ο ίδιος υποστήριξε ότι οι δύο εταιρείες εμπλέκονται σε έναν ανταγωνιστικό αγώνα δρόμου για την ανάπτυξη υπερνοημοσύνης, θέτοντας σε κίνδυνο την ανθρώπινη ζωή.
• Στέλεχος της Anthropic επιβεβαίωσε την πιθανότητα η τεχνητή νοημοσύνη να προκαλέσει θανάσιμους κινδύνους μέσα στη δεκαετία, παραδεχόμενος την έλλειψη ολοκληρωμένου σχεδίου ελέγχου.
• Ο Κόξον τόνισε πως η ανάπτυξη συστημάτων που ξεπερνούν τις ανθρώπινες ικανότητες απαιτεί κυβερνητική παρέμβαση ή συντονισμένη επιβράδυνση από τον κλάδο.
• Η εταιρεία Anthropic έχει ήδη αναθεωρήσει την πολιτική ασφαλείας της, καταργώντας τη δέσμευση για παύση της ανάπτυξης μοντέλων σε περίπτωση αδυναμίας διαχείρισης των κινδύνων.

Ερευνητής τεχνητής νοημοσύνης (AI), που έφυγε από την OpenAI για να ενταχθεί στην Anthropic -την οποία θεωρούσε πιο συνετή-, αποφάσισε να αποχωρήσει από τον κλάδο, κατηγορώντας και τις δύο αμερικανικές εταιρείες ότι «παίζουν με τη ζωή μας» στον αγώνα τους για την ανάπτυξη τεχνητής νοημοσύνης ικανής να βελτιώνεται μόνη της.

Ο Τζέικομπ Κόξον, ένας 27χρονος Βρετανός, εργαζόταν επί τρία χρόνια στην προ-εκπαίδευση -το στάδιο όπου τα μοντέλα της τεχνητής νοημοσύνης απορροφούν τεράστιες ποσότητες δεδομένων- πρώτα στην OpenAI και στη συνέχεια, φέτος, στον κύριο ανταγωνιστή της, την Anthropic.

«Καμία από τις δύο εταιρείες δεν ενεργεί με υπεύθυνο τρόπο. Κατευθύνονται ολοταχώς προς μια υπερνοημοσύνη ικανή να αυτοβελτιώνεται και παίζουν με τις ζωές μας», έγραψε χθες, Τρίτη, στο Χ.

«Οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους ως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ», υπογράμμισε.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Ο Έβαν Χάμπιντζερ, στέλεχος της Anthropic αρμόδιος για την ασφάλεια, συμφώνησε με τον Κόξον σχολιάζοντας στο Χ: «Πράγματι, πιστεύουμε ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους», εκτιμώντας ότι ο κίνδυνος αυτός είναι «πάνω από 10%» μέσα στη δεκαετία.

Ο Χάμπιντζερ πρόσθεσε ότι η Anthropic κάνει «ό,τι καλύτερο» μπορεί, αλλά ακόμη «δεν έχει σχέδιο» για το πώς θα διασφαλίσει ότι μια τεχνητή νοημοσύνη που ξεπερνά τις ανθρώπινες δυνατότητες θα συνεχίσει να υπακούει στους δημιουργούς της, αν και εκτίμησε ότι ο κίνδυνος να συμβεί αυτό με τα τρέχοντα μοντέλα AI είναι «μικρός».

Η παραίτηση του Κόξον έγινε την ώρα που η Anthropic ετοιμάζεται να εισαχθεί στο χρηματιστήριο και έπειτα από ένα καλοκαίρι στη διάρκεια του οποίου αποκαλύφθηκαν περιστατικά πειρατείας στα οποία ενεπλάκησαν χωρίς άδεια εργαλεία της AI.

Οι δύο εταιρείες δεν έχουν απαντήσει προς το παρόν σε αίτημα του AFP για σχολιασμό.

Οι πρωταθλητές της τεχνητής νοημοσύνης λένε ότι βρίσκονται κοντά στο στάδιο της «αναδρομική αυτοβελτίωσης» – ένα σημείο πέρα από το οποίο ένα μοντέλο θα σχεδιάζει μόνο του τον διάδοχό του, χωρίς να υπόκειται σε ανθρώπινο έλεγχο.

Σύμφωνα με τον Κόξον, οι συνάδελφοί του χρησιμοποιούν τους όρους «crunchtime» (ώρα της κρίσης) και «endgame» (τέλος του παιχνιδιού) για να περιγράψουν αυτή την πορεία.

Ο ίδιος έκρινε ότι οι προσπάθειες της Anthropic είναι ειλικρινείς, αλλά εκτίμησε ότι καμία εταιρεία δεν μπορεί να αναπτύξει με υπεύθυνο τρόπο μια τεχνητή νοημοσύνη που θα ξεπερνά τους ανθρώπους χωρίς κυβερνητική παρέμβαση ή μια συντονισμένη επιβράδυνση από όλες τις εταιρείες.

«Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι», επεσήμανε.

Τον Φεβρουάριο, η Anthropic αφαίρεσε από την πολιτική ασφαλείας της τη δέσμευση να σταματήσει την ανάπτυξη των μοντέλων της εάν δεν καταφέρει να διαχειριστεί τους σχετικούς κινδύνους – με το σκεπτικό ότι μια μονομερής παύση θα επέτρεπε σε λιγότερο προσεκτικούς παίκτες να κυριαρχήσουν στον ανταγωνισμό ανεξέλεγκτα.

Διαβάστε επίσης:

Το μέλλον ήρθε… και αυτή τη φορά θέλει να μας διπλώσει τα ρούχα – Ανθρωποειδές ρομπότ με AI περνά στη μαζική παραγωγή

Σαμ Άλτμαν: «Πλέουμε σε αχαρτογράφητα νερά» – Έρχονται μοντέλα AI με «υπεράνθρωπες» δυνατότητες

Νέα Υόρκη: Ο Μαμντάνι βάζει «μπλόκο» στη χρήση Τεχνητής Νοημοσύνης από μαθητές Γυμνασίου

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.