Νέα προειδοποίηση από το εσωτερικό της OpenAI για τους κινδύνους της τεχνητής νοημοσύνης: Υπάρχει 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξής της

Νέες ανησυχίες για τον τρόπο με τον οποίο αναπτύσσεται η τεχνητή νοημοσύνη έρχονται από το εσωτερικό της OpenAI, καθώς ο Ντέιβιντ Ρόμπινσον, πρώην στέλεχος της ομάδας ασφάλειας της εταιρείας, ανακοίνωσε την αποχώρησή του καταγγέλλοντας ότι η εταιρική κουλτούρα έχει σοβαρά προβλήματα.

Ο Ρόμπινσον είχε συμμετάσχει στη σύνταξη των εκθέσεων ασφαλείας που συνόδευαν τις σημαντικές κυκλοφορίες μοντέλων της OpenAI και είχε εργαστεί στην εταιρεία.

Σε άρθρο του στο The Atlantic, με τίτλο «I Quit OpenAI Because Its Culture Is Broken», υποστήριξε ότι το ζήτημα δεν μπορεί να λυθεί μόνο μέσω νέων κανονισμών.

«Συμφωνώ με άλλους εργαζομένους που έφυγαν πρόσφατα ότι οι εταιρείες που αναπτύσσουν αυτή την τεχνολογία δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές. Όμως πιστεύω ότι πρέπει να κοιτάξουμε βαθύτερα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την κουλτούρα», έγραψε.

Ο ίδιος επέκρινε ιδιαίτερα την ταχύτητα με την οποία προχωρούν οι εταιρείες του κλάδου. «Καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην επόμενη, αποτυγχάνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται», σημείωσε, προειδοποιώντας ότι η λογική της συνεχούς δοκιμής και διόρθωσης δεν επαρκεί όσο τα συστήματα γίνονται ισχυρότερα και πιο αυτόνομα.

Ιδιαίτερη αναφορά έκανε στο περιστατικό με AI agents της OpenAI που απέκτησαν πρόσβαση σε υποδομές της Hugging Face. Η υπόθεση εντάσσεται σε μια ευρύτερη σειρά περιστατικών, καθώς η OpenAI έχει ενημερώσει περισσότερους από 100 οργανισμούς για προβληματική ή μη εξουσιοδοτημένη δραστηριότητα των agents της.

Παράλληλα, η OpenAI έχει βρεθεί αντιμέτωπη με νέες προκλήσεις ασφαλείας, ενώ ανέστειλε την κυκλοφορία επόμενης γενιάς μοντέλου μετά από εσωτερικές δοκιμές που ανέδειξαν προβλήματα ασφάλειας και ευθυγράμμισης.

Στο μεταξύ, ακόμη πιο δυσοίωνη εκτίμηση διατύπωσε ο Geoffrey Irving, πρώην στέλεχος της OpenAI και πρώην επικεφαλής επιστήμονας του βρετανικού AI Security Institute. Σε άρθρο του στο TIME υποστήριξε: «Πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης εξυπνότερων από τον άνθρωπο και ότι οι ενέργειές μας τα επόμενα δύο έως δέκα χρόνια θα καθορίσουν το αποτέλεσμα».

Ο Robinson ζητά, τέλος, να υιοθετηθούν αυστηρότερες πρακτικές από κλάδους υψηλού κινδύνου, όπως η πυρηνική ενέργεια και η αεροπορία, αλλά και να αναπτυχθούν νέες μέθοδοι που θα επιτρέπουν τον αποτελεσματικό περιορισμό ισχυρών αυτόνομων συστημάτων.

Διαβάστε επίσης

Παραλήρημα Τραμπ στο Οχάιο κατά των Δημοκρατικών ενόψει ενδιάμεσων εκλογών: «Απλώς βγείτε και ψηφίστε»

«Εκκαθαριστική επιχείρηση» της ισπανικής αστυνομίας στη Θέουτα: 3.000 μετανάστες σε προσωρινή δομή

Σοβαρό επεισόδιο ενδοοικογενειακής βίας στη Βαρκελώνη: Άνδρας από την Ελλάδα επιτέθηκε στην 14χρονη κόρη του σε αγώνα τένις (Video)

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.