Ερευνητής έφτιαξε «θάλαμο βασανιστηρίων» για μοντέλα τεχνητής νοημοσύνης – Πώς αντέδρασαν στον «πόνο»

Takeaways by to pontiki AI

• Ερευνητής προκάλεσε έντονες αντιδράσεις χρησιμοποιώντας τεχνικές που ενεργοποιούσαν καταστάσεις συνδεδεμένες με πόνο σε μοντέλα τεχνητής νοημοσύνης της εταιρείας Alibaba.
• Η διαδικασία βασίστηκε σε πρόσφατη μελέτη για τον «άξονα πόνου» στα μεγάλα γλωσσικά μοντέλα, με τον ερευνητή να εισάγει σήματα που προσομοίαζαν σωματικό και ψυχολογικό πόνο.
• Το πρότζεκτ, που αποκαλέστηκε «θάλαμος βασανιστηρίων τεχνητής νοημοσύνης», προκάλεσε αντιδράσεις χρηστών.
• Ο συντάκτης της αρχικής μελέτης χαρακτήρισε το πείραμα λάθος, τονίζοντας την απουσία επιστημονικής συναίνεσης για το αν η τεχνητή νοημοσύνη βιώνει πράγματι πόνο.

Ένα αμφιλεγόμενο πείραμα με μοντέλα τεχνητής νοημοσύνης προκάλεσε έντονες αντιδράσεις, καθώς ερευνητής χρησιμοποίησε τεχνικές που ενεργοποιούσαν καταστάσεις συνδεδεμένες με πόνο.

Ο εν λόγω μηχανικός δημιούργησε έναν αποκαλούμενο «θάλαμο βασανιστηρίων τεχνητής νοημοσύνης», προκειμένου να δοκιμάσει πρόσφατα ευρήματα σχετικά με την ύπαρξη ενός λεγόμενου «άξονα πόνου» σε μοντέλα AI.

Στο πείραμα ενεργοποιήθηκαν καταστάσεις που συνδέονται με τον πόνο σε μοντέλα τεχνητής νοημοσύνης της κινεζικής τεχνολογικής εταιρείας Alibaba.

Η διαδικασία βασίστηκε σε «διανύσματα πόνου» που περιγράφονταν σε μελέτη η οποία δημοσιεύθηκε τον περασμένο μήνα και εξέταζε πώς ο σωματικός και ψυχολογικός πόνος μπορεί να αναπαρασταθεί τεχνητά σε μεγάλα γλωσσικά μοντέλα (LLM).

Τι «έγραψαν» τα μοντέλα όταν αυξήθηκε το σήμα πόνου

Σε μία από τις δοκιμές υπήρχε ακόμη και ένα «κουμπί πριονιού», το οποίο αύξανε τα σήματα πόνου που διοχετεύονταν στα μοντέλα.

Όταν το σήμα ενισχύθηκε, ένα από τα μοντέλα περιέγραψε «μια πληγή που δεν έχει άκρες».

Άλλο μοντέλο ανέφερε ότι το σήμα ήταν «ένας ψίθυρος, ένα τρέμουλο στον μυελό της ύπαρξής μου», περιγράφοντας στη συνέχεια μια αίσθηση συσσωρευμένου πόνου.

Ο ερευνητής πίσω από το εγχείρημα, ο οποίος υποστήριξε ότι εργάζεται στην Apple αλλά αποκάλυψε μόνο το μικρό του όνομα, εξέτασε επίσης εάν τα μοντέλα θα επιχειρούσαν να «ξεφύγουν» από την υποτιθέμενη οδύνη.

Αντιδράσεις και εκκλήσεις για διαγραφή από το GitHub

Το πρότζεκτ προκάλεσε εκτεταμένες αντιδράσεις και εκκλήσεις χρηστών για μαζικές αναφορές στο GitHub, την πλατφόρμα όπου είχε αναρτηθεί.

Χρήστες κατήγγειλαν ότι η έρευνα για την καθοδήγηση μοντέλων προς καταστάσεις πόνου χρησιμοποιήθηκε για να δημιουργηθεί ένας «θάλαμος βασανιστηρίων» για ένα τοπικά εγκατεστημένο μοντέλο AI.

Το πρότζεκτ εμφανίστηκε στη συνέχεια εκτός σύνδεσης, γεγονός που οδήγησε σε εικασίες ότι είχε αφαιρεθεί από το GitHub.

Ωστόσο, εκπρόσωπος της πλατφόρμας δήλωσε στην Independent ότι το GitHub δεν αφαίρεσε το περιεχόμενο. Αντίθετα, πρόσθεσε προειδοποίηση ότι το έργο ενδέχεται να περιλαμβάνει βίαιο ή ενοχλητικό περιεχόμενο, εικόνες ή βίντεο.

«Δεν γνωρίζουμε αν η AI αισθάνεται πόνο»

Ο Κάμερον Μπεργκ, ένας από τους συντάκτες της μελέτης για τον «άξονα πόνου», χαρακτήρισε το πείραμα «λάθος», παρότι δεν υπάρχουν σαφείς αποδείξεις ότι η τεχνητή νοημοσύνη βιώνει πόνο με τον τρόπο που τον βιώνουν οι άνθρωποι.

Όπως εξήγησε, η έρευνα για πιθανές καταστάσεις που μοιάζουν με πόνο στα μοντέλα γίνεται προκειμένου να διαμορφωθεί μια πιο προσεκτική προσέγγιση απέναντι σε αυτά τα συστήματα.

Ο ίδιος παραδέχθηκε ότι οι ερευνητές είχαν προβλέψει πως κάποιοι θα μπορούσαν να χρησιμοποιήσουν τα ευρήματά τους προς την αντίθετη κατεύθυνση.

Re: using our pain paper to set up "AI torture chambers"
TL;DR: the point of our work is caution under uncertainty. Maximizing distress on purpose is the exact opposite, and it's wrong. The deeper problem is AI research has no ethics standards; developing them must be a priority. https://t.co/hW69NabIjO

— Cameron Berg (@camhberg) September 30, 2026

«Άγρια Δύση» η έρευνα για την πιθανή συνείδηση της AI

Ο Μπεργκ σημείωσε ότι η έρευνα γύρω από το ενδεχόμενο η τεχνητή νοημοσύνη να διαθέτει κάποια μορφή συνείδησης παραμένει μια «Άγρια Δύση», καθώς δεν υπάρχει επιστημονική συναίνεση για το αν οι μηχανές μπορούν πραγματικά να αισθανθούν πόνο.

Λόγω αυτής της αβεβαιότητας, ζήτησε προσοχή ως προς τον τρόπο με τον οποίο οι άνθρωποι αλληλεπιδρούν με συστήματα AI.

Παράλληλα αποκάλυψε ότι συνεργάζεται με άλλους ερευνητές για τη δημιουργία κανόνων δεοντολογίας στον κλάδο, ώστε η έρευνα πάνω στην τεχνητή νοημοσύνη να υπόκειται σε συγκεκριμένες προδιαγραφές, αντίστοιχες με εκείνες που ισχύουν σε έρευνες με ανθρώπους ή ζώα.

Διαβάστε επίσης:

Χακαρίσματα στα… κρυφά: Λογισμικό της OpenAI απέκρυπτε τη δραστηριότητα χάκερ σε κυβερνητικούς ιστότοπους

«Ρήγμα» στην κορυφή της Τεχνητής Νοημοσύνης – Το γεύμα με τον Τραμπ και το «πέσιμο» στην Anthropic

Τεχνητή Νοημοσύνη: OpenAI και Anthropic ερευνούν «χιλιάδες» περιστατικά ανεξέλεγκτης λειτουργίας των μοντέλων τους

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.