Γιατί υπάρχουν ανησυχίες ότι η AI θα μπορούσε να αφανίσει την ανθρωπότητα και πόσο πραγματικές είναι;

Μια σειρά προειδοποιήσεων για τους πιθανούς κινδύνους της τεχνητής νοημοσύνης (AI) έχει πυροδοτήσει εκκλήσεις για συντονισμένη δράση με στόχο την επιβράδυνση της ανάπτυξης της τεχνολογίας.

Ισχυρισμοί από νυν και πρώην ερευνητές ότι η τεχνολογία θα μπορούσε να θέσει σε κίνδυνο την ανθρωπότητα — με έναν από αυτούς να εκτιμά ότι υπάρχει πάνω από 10% πιθανότητα να «σκοτώσει όλους τους ανθρώπους» — έχουν σημάνει συναγερμό.

Οι μεγάλοι developers OpenAI και Anthropic ζητούν από τους νομοθέτες να ρυθμίσουν την AI, ενώ ο επικεφαλής AI της Microsoft είναι ο τελευταίος που υποστηρίζει ότι χρειάζονται κανόνες, ώστε να αποτραπεί το ενδεχόμενο ένα «είδος πυριτίου» να ανταγωνιστεί τελικά την ανθρωπότητα.

Ωστόσο, ορισμένοι έχουν απορρίψει αυτές τις εκκλήσεις, υποστηρίζοντας ότι αποτελούν προσπάθεια των μεγάλων εταιρειών AI να εδραιώσουν την κυριαρχία τους έναντι των ανταγωνιστών.

Σε κάθε περίπτωση, οι δηλώσεις αυτές, που έχουν λάβει μεγάλη δημοσιότητα, έχουν προκαλέσει ανησυχία. Ας δούμε τι γνωρίζουμε.

Γιατί ορισμένοι πιστεύουν ότι η AI θα μπορούσε να αποτελέσει απειλή;

Ορισμένοι ερευνητές της AI λένε ότι υπάρχουν ανησυχητικές ενδείξεις πως τα συστήματα εξελίσσονται ως προς τις δυνατότητες και την ισχύ τους υπερβολικά γρήγορα.

Ο Evan Hubinger έγινε πρωτοσέλιδο με την εκτίμησή του ότι υπάρχει πάνω από 10% πιθανότητα η AI «να σκοτώσει όλους τους ανθρώπους» μέσα στην επόμενη δεκαετία.

Εργάζεται στον τομέα του AI alignment, ο οποίος έχει ως στόχο να ενσωματώσει στις τεχνολογίες AI τις ανθρώπινες ηθικές αξίες και αρχές — ουσιαστικά, να διασφαλίσει ότι η τεχνολογία παραμένει ευθυγραμμισμένη με όσα θεωρούν σημαντικά οι άνθρωποι.

Αν και δήλωσε ότι ο κίνδυνος από τα σημερινά συστήματα είναι «χαμηλός», τα σχόλιά του ήρθαν την ώρα που ένας ακόμη ερευνητής αποχώρησε από την Anthropic, προειδοποιώντας ότι όσοι αναπτύσσουν την τεχνολογία χάνουν ολοένα περισσότερο τον έλεγχό της.

Ο Jacob Coxon δήλωσε στο BBC ότι ο ίδιος και άλλοι εργαζόμενοι ήταν «πραγματικά τρομαγμένοι» από την ταχύτητα των εξελίξεων και από το τι θα μπορούσαν αυτές να σημαίνουν για την ανθρωπότητα.

Οι ανησυχίες αυτές αποτελούν την πιο πρόσφατη έκφραση μιας μακράς σειράς φόβων σχετικά με το ενδεχόμενο η AI να απειλήσει την ανθρωπότητα, εφόσον εξελιχθεί σε επίπεδο αντίστοιχο ή ανώτερο των ανθρώπινων ικανοτήτων.

Τέτοιες ανησυχίες χρονολογούνται εδώ και δεκαετίες. Ήδη από τη δεκαετία του 1950, ο Alan Turing έγραφε ότι, εφόσον καταστεί δυνατή η δημιουργία ευφυών μηχανών, αυτές θα μπορούσαν να αναλάβουν τον έλεγχο.

Τα τελευταία χρόνια, οι μεγαλύτερες εταιρείες AI ανταγωνίζονται για την ανάπτυξη ολοένα και πιο προηγμένων συστημάτων, τόσο με στόχο το κέρδος όσο και επιδιώκοντας τη δημιουργία αυτού που αποκαλούν υπερευφυΐα – μιας θεωρητικής τεχνολογίας που θα είναι εξυπνότερη από τους ανθρώπους.

Σε αντίθεση με τα συστήματα και τα εργαλεία που χρησιμοποιούν καθημερινά πολλοί άνθρωποι για εργασίες όπως η σύνταξη email ή η δημιουργία βίντεο, τα συστήματα υπερευφυούς AI θα μπορούσαν να διαχειρίζονται πολύ πιο σύνθετες εργασίες.

Πώς πιστεύουν οι ειδικοί ότι η AI θα μπορούσε να απειλήσει την ανθρωπότητα;

Ερευνητές, ειδικοί και επικεφαλής εταιρειών AI που ανησυχούν για τις πιθανές επιπτώσεις της τεχνολογίας στην ανθρωπότητα έχουν περιγράψει ανησυχητικά σενάρια.

Ο Dario Amodei έγραψε τον Σεπτέμβριο ότι η AI έχει εξελιχθεί «δραματικά ταχύτερα» από ό,τι αναμενόταν, μεταξύ άλλων και ως προς την «ικανότητά της να κατασκευάζει την επόμενη γενιά AI».

Αυτό συνδέεται με την ανησυχία ότι, αφού η AI φτάσει σε ένα συγκεκριμένο επίπεδο, θα μπορούσε θεωρητικά να αρχίσει να βελτιώνει τον εαυτό της χωρίς ανθρώπινη παρέμβαση.

Οι φόβοι αυτοί εντάθηκαν μετά από ένα πρόσφατο περιστατικό κατά το οποίο εργαλεία AI παραβίασαν ιστοτόπους, χωρίς να τους έχει ζητηθεί να το κάνουν.

Ορισμένοι ανήσυχοι ερευνητές έχουν δηλώσει ότι όσοι βρίσκονται στην καρδιά της ανάπτυξης της τεχνολογίας φοβούνται ολοένα περισσότερο ότι θα χάσουν τον έλεγχο των συστημάτων που είναι γνωστά ως «AI agents».

Πρόκειται για εργαλεία στα οποία έχει δοθεί η δυνατότητα να εκτελούν εργασίες και να προβαίνουν σε ενέργειες αυτόνομα.

Άλλα σενάρια περιλαμβάνουν τη χρήση εξαιρετικά ευφυών συστημάτων AI για την ενίσχυση ή την καθοδήγηση κατασκοπευτικών επιχειρήσεων, κυβερνοεπιθέσεων ή βιολογικού πολέμου, καθώς και για τη διατάραξη οικονομιών — είτε από ατύχημα είτε σκόπιμα.

Ωστόσο, τέτοιες προειδοποιήσεις είναι προβλέψεις και υποθετικά σενάρια και, σύμφωνα με ορισμένους, αποτελούν πλήρη υπερβολή.

Ορισμένοι ειδικοί έχουν επίσης επικρίνει την εστίαση στους υπαρξιακούς κινδύνους αντί για εκείνους που εκδηλώνονται ήδη — όπως η χρήση εργαλείων δημιουργίας εικόνων για την παραγωγή μη συναινετικών γυμνών deepfakes γυναικών, την παραπληροφόρηση και την ενίσχυση απατών.

Μια διακομματική ομάδα βουλευτών και μελών της Βουλής των Λόρδων έχει δημοσιεύσει έκθεση σχετικά με τους κινδύνους που εγκυμονεί η AI για τα ανθρώπινα δικαιώματα, υποστηρίζοντας ότι χρειάζονται νέοι νόμοι για να «αντιμετωπιστεί η κλίμακα και η σοβαρότητα» αυτών των απειλών.

Ποιες είναι οι προτάσεις για «επιβράδυνση της AI»;

Ο Dario Amodei της Anthropic και ο Sam Altman, διευθύνων σύμβουλος της OpenAI, έχουν ζητήσει ρύθμιση και «επιβράδυνση» της ανάπτυξης της τεχνολογίας.

Δεν είναι η πρώτη φορά που επικεφαλής εταιρειών ή άλλες φωνές του κλάδου ζητούν μια τέτοια δράση.

Ωστόσο, εξακολουθούν να πληθαίνουν τα ερωτήματα σχετικά με το πώς ακριβώς θα έμοιαζε στην πράξη μια τέτοια «επιβράδυνση» — την οποία έχει επίσης υποστηρίξει ο επικεφαλής της SpaceX, Elon Musk.

Ο Amodei δήλωσε ότι αυτό δεν θα σήμαινε «διακοπή της εκπαίδευσης των μοντέλων ή της τεχνικής προόδου».

Αντίθετα, ζητά από τις εταιρείες να «διαθέτουν επαρκή χρόνο» για να θωρακίζουν την AI που αναπτύσσουν και να ζητούν από «ανεξάρτητους αξιολογητές» να ελέγχουν τη δουλειά τους.

Σε ανάρτησή του στο X, ο Altman δήλωσε ότι χρειάζεται να υπάρξει συγκράτηση του ρυθμού ανάπτυξης, διευκρινίζοντας όμως ότι «όταν μιλάμε για “ρυθμό”, δεν εννοούμε “σταμάτημα”».

«Η πρόοδος υπήρξε ταχεία και θα συνεχίσει να είναι», ανέφερε.

«Αλλά θα πρέπει να είναι βραδύτερη από ό,τι θα μπορούσε διαφορετικά να είναι — παρεμβάσεις όπως οι αξιολογήσεις ασφάλειας και η παρακολούθηση έχουν σημαντικό κόστος».

Ο συνιδρυτής της OpenAI δήλωσε επίσης ότι οι εταιρείες δεν περιμένουν — και δεν πρόκειται να περιμένουν — από τις κυβερνήσεις να αναλάβουν δράση.

Αργότερα, μιλώντας σε συνέδριο της Salesforce, ο Altman υποστήριξε ότι οι πολίτες θα πρέπει να έχουν μεγαλύτερη εμπιστοσύνη στις εταιρείες AI ως προς την ασφαλή ανάπτυξη της τεχνολογίας.

Πώς θα έμοιαζε στην πράξη μια «επιβράδυνση» της AI;

Τι έχει πει ο Τραμπ;

Ο πρόεδρος Ντόναλντ Τραμπ έχει στο παρελθόν επαινέσει τα οφέλη της AI και έχει υποστηρίξει τις αμερικανικές εταιρείες που πρωτοστατούν στην ανάπτυξή της.

Η κυβέρνησή του έχει υπογράψει εκτελεστικά διατάγματα που αναγνωρίζουν τη «στρατηγική σημασία» της τεχνολογίας για την οικονομία και επιταχύνουν την ανάπτυξή της.

«Πιστεύουμε ότι βρισκόμαστε σε έναν αγώνα δρόμου για την AI και θέλουμε οι Ηνωμένες Πολιτείες να κερδίσουν αυτόν τον αγώνα», δήλωσε στους δημοσιογράφους τον Ιούλιο του 2025 ο επικεφαλής για τα κρυπτονομίσματα στην αμερικανική κυβέρνηση, David Sacks.

Ωστόσο, μπροστά στις πρόσφατες προειδοποιήσεις για τις πιθανές επιπτώσεις της AI στην ανθρωπότητα, ο πρόεδρος Trump υποβάθμισε τους κινδύνους που εγκυμονεί η τεχνολογία.

«Υπάρχουν πολλές πολύ αρνητικές δυνάμεις που το αναδεικνύουν, ενώ δεν θα έπρεπε, και αναδεικνύουν πράγματα που δεν πρόκειται να συμβούν», δήλωσε ο Trump κατά την επίσκεψή του στην Ιρλανδία.

Δεν τοποθετήθηκε άμεσα για την ιδέα της επιβράδυνσης, αλλά δήλωσε στους δημοσιογράφους: «Προηγούμαστε της Κίνας στην AI… και, ειλικρινά, θέλω να παραμείνει έτσι, γιατί όποιος κερδίσει στην AI, κερδίζει».

Αργότερα, ο πρόεδρος απέρριψε συνολικά τους φόβους για τους κινδύνους που σχετίζονται με την ασφάλεια της AI, χαρακτηρίζοντάς τους σε αναρτήσεις του στην πλατφόρμα Truth Social «φάρσα» (hoax).

Υποστήριξε ότι το μόνο «φρένο» που χρειάζεται η AI είναι ένας «ισχυρός και έξυπνος» πρόεδρος.

Τι έχει πει η Κίνα;

Η Κίνα είχε παραμείνει σιωπηλή απέναντι στο κύμα δυσοίωνων προειδοποιήσεων από ερευνητές αμερικανικών εταιρειών.

Αντιμέτωπη με τον έντονο ανταγωνισμό και τους περιορισμούς στην πρόσβασή της σε αμερικανικά εξαρτήματα και τσιπ που χρησιμοποιούνται για την κατασκευή υποδομών AI, η χώρα έχει ενισχύσει την εγχώρια ανάπτυξη της τεχνολογίας.

Παράλληλα, έχει ζητήσει ισχυρότερη παγκόσμια διακυβέρνηση της AI.

Η διάθεση στην αγορά από κινεζικά εργαστήρια ολοένα πιο ικανών συστημάτων και εργαλείων AI ανοιχτού κώδικα έχει κλονίσει τις δυτικές αγορές και τους developers τα τελευταία χρόνια.

Ο Amodei, ζητώντας την επιβράδυνση της ανάπτυξης της AI, προειδοποίησε ότι η πρόοδος και η τεχνογνωσία της Κίνας στον τομέα θα δημιουργούσαν κινδύνους για την εθνική ασφάλεια των ΗΠΑ.

Το κινεζικό υπουργείο Εξωτερικών επέκρινε τις δηλώσεις, χαρακτηρίζοντάς τες αφηγήματα περί απειλής, αντιπαράθεσης και κακόβουλου ανταγωνισμού, τα οποία, όπως υποστήριξε, δεν εξυπηρετούν τα συμφέροντα κανενός.

Διαβάστε επίσης:

Όταν οι AI Agents στρέφονται ο ένας εναντίον του άλλου – Ψέματα, συνωμοσίες, κλοπές και «δολοφονίες» σε προσομοίωση

Η σκοτεινή πλευρά της AI απειλεί το μεγάλο επενδυτικό στοίχημα – Τι θα συμβεί αν φρενάρει η κούρσα

Ποιος κρατάει το τιμόνι της AI: Αυτοί που πάτησαν γκάζι, τώρα ψάχνουν το φρένο – Φόβοι, παραιτήσεις και κοινωνικό κόστος

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.