Τεχνητή Νοημοσύνη: Πώς θα εξοντώσει την ανθρωπότητα – Τα σενάρια που εξετάζουν οι επιστήμονες

Εδώ και χρόνια, οι ερευνητές στον τομέα της τεχνητής νοημοσύνης προειδοποιούν για τους τρόπους με τους οποίους η τεχνολογία αυτή θα μπορούσε να εξαφανίσει την ανθρωπότητα: τα ρομπότ τεχνητής νοημοσύνης θα μπορούσαν να δημιουργήσουν μια ανεξέλεγκτη ασθένεια, να ξεσπάσουν έναν πυρηνικό πόλεμο ή να μετατρέψουν ολόκληρη τη Γη σε εργοστάσια παραγωγής συνδετήρων, όπως αναφέρει ένα πείραμα σκέψης.

Οι συζητήσεις εντός του κλάδου της τεχνητής νοημοσύνης και πέραν αυτού σχετικά με την πιθανότητα αυτών των καταστροφικών σεναρίων έχουν ενταθεί, αφού αρκετοί επικεφαλής τεχνολογικών κολοσσών τάχθηκαν υπέρ της επιβράδυνσης της ανάπτυξης της τεχνολογίας για λόγους ασφαλείας. Παρά τις προειδοποιήσεις για τον κίνδυνο οι άνθρωποι να χάσουν τον έλεγχο της τεχνολογίας, ορισμένοι υποψιάζονται ότι τα χειρότερα σενάρια που περιγράφουν οι ίδιες οι εταιρείες τεχνητής νοημοσύνης έχουν περισσότερο να κάνουν με την επικύρωση της σημασίας του έργου τους παρά με την πραγματικότητα.

«Αυτά τα επιχειρήματα απλά δεν στέκουν. Νομίζω ότι είναι επιστημονική φαντασία και απευθύνονται σε έναν συγκεκριμένο παιδικό τρόπο σκέψης, ενώ είναι πολύ δελεαστικά για τα πρωτοποριακά εργαστήρια, επειδή τα βοηθούν να προσλάβουν συγκεκριμένους τύπους ανθρώπων», δήλωσε ο Χουάν Αντρές Γκερέρο Σάαντε, ερευνητής στην εταιρεία κυβερνοασφάλειας SentinelOne και μέλος του Frontier Risk Council της OpenAI. Παρ’ όλα αυτά, όλο και περισσότεροι άνθρωποι αρχίζουν να ανησυχούν για τους κινδύνους της τεχνολογίας που έχει εντυπωσιάσει τον κόσμο με τις εκπληκτικές της δυνατότητες.

Ο Τζέικομπ Κόξον, ο ερευνητής της Anthropic που παραιτήθηκε από την εταιρεία λόγω ανησυχιών ότι τόσο η ίδια όσο και οι ανταγωνιστές της δεν ενεργούν υπεύθυνα στην ανάπτυξη της τεχνητής νοημοσύνης, δήλωσε πρόσφατα στο X ότι πρέπει να «εργαστεί» ώστε να επικοινωνήσει πιο αποτελεσματικά στον κόσμο πώς ακριβώς η τεχνητή νοημοσύνη θα οδηγήσει στην εξαφάνιση της ανθρωπότητας. «Δυστυχώς, είναι πολύ δύσκολο να περιγράψει κανείς συγκεκριμένα σενάρια», έγραψε νωρίτερα αυτό το μήνα. Ακολουθούν μερικά από τα πιο ευρέως συζητημένα σενάρια καταστροφής.

Πυρηνικός πόλεμος

Οι ερευνητές εδώ και καιρό εικάζουν ότι τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να πυροδοτήσουν έναν πυρηνικό πόλεμο, ωθώντας τις χώρες να εκτοξεύσουν η μία εναντίον της άλλης πυραύλους με πυρηνικές κεφαλές. Οι πυρηνικές εκρήξεις, καθώς και η επακόλουθη παρατεταμένη ραδιενεργή ατμοσφαιρική ραδιενεργή σκόνη που θα οδηγήσει σε έναν «πυρηνικό χειμώνα», θα μπορούσαν να καταστρέψουν τη ζωή στη Γη. Σε μια έκθεση πέρυσι, ερευνητές της RAND Corp. κατέληξαν στο συμπέρασμα ότι «προς το παρόν» δεν θα ήταν δυνατόν η ΤΝ να προκαλέσει τη χρήση πυρηνικών όπλων «λόγω των αυστηρών μέτρων ασφαλείας που είναι ενσωματωμένα στα συστήματα διοίκησης και ελέγχου». Ωστόσο, η έκθεση ανέφερε ότι αυτό θα μπορούσε να αλλάξει αν τα μοντέλα ΤΝ ενσωματωθούν στην «αλυσίδα λήψης αποφάσεων» για τα πυρηνικά όπλα ή αποκτήσουν μη εξουσιοδοτημένη πρόσβαση σε αυτά τα συστήματα. Για πολλούς ερευνητές της τεχνητής νοημοσύνης, εκεί ακριβώς κρύβεται ο κίνδυνος: όχι στο ενδεχόμενο οι agents της τεχνητής νοημοσύνης να αποφασίσουν ξαφνικά να εξαλείψουν την ανθρωπότητα, αλλά στο ενδεχόμενο άνθρωποι, έθνη ή ομάδες να τη χρησιμοποιήσουν για να εξοντώσουν τους αντιπάλους τους.

Βιολογικά όπλα

Μία από τις μεγαλύτερες υποσχέσεις της τεχνητής νοημοσύνης είναι ότι θα μπορούσε να βοηθήσει τους ανθρώπους να αναπτύξουν θεραπείες και φάρμακα για ασθένειες. Η άλλη πλευρά της θεραπείας των ασθενειών είναι η δημιουργία ή η εξέλιξή τους με σκοπό να βλάψουν την ανθρωπότητα. Νωρίτερα αυτό το μήνα, η Anthropic ανακοίνωσε ότι απέτρεψε προσπάθειες κακόβουλων παραγόντων να χρησιμοποιήσουν την τεχνητή νοημοσύνη της για μια σειρά κακόβουλων δραστηριοτήτων, όπως κυβερνοεπιθέσεις, παρακολούθηση και έρευνα που θα μπορούσε να οδηγήσει στη δημιουργία βιολογικών όπλων. Σε μία περίπτωση, η Anthropic ανέφερε ότι τα συστήματά της απέκλεισαν ένα αίτημα για βοήθεια από το εργαλείο της «Claude» σχετικά με μια ερευνητική πρόταση που αποσκοπούσε στην ενίσχυση μεταλλάξεων, ώστε να καταστεί ο ιός τσικουνγκούνια, ο οποίος μεταδίδεται από τα κουνούπια, προοδευτικά πιο επιβλαβής.

Αν και μια τέτοια έρευνα θα μπορούσε να χρησιμοποιηθεί για την ανάπτυξη καλύτερων εμβολίων και θεραπειών, η Anthropic δήλωσε ότι «θα μπορούσε επίσης να χρησιμοποιηθεί για να καταστεί ο παθογόνος παράγοντας πιο επικίνδυνος». Στην ίδια λογική, η έκθεση της RAND σημείωσε ότι η πρόσφατη πρόοδος στην ανάπτυξη της τεχνητής νοημοσύνης «έχει τη δυνατότητα να μεταμορφώσει τον σχεδιασμό συνθετικών παθογόνων». Περιγράφοντας ένα καταστροφικό σενάριο με βιολογικά όπλα, η έκθεση ανέφερε ότι θα μπορούσαν να δημιουργηθούν νέα παθογόνα σε εργαστήριο, να μεταφερθούν σε συγκεκριμένους προορισμούς και να εξαπλωθούν ώστε να μολύνουν μεγάλους πληθυσμούς ανθρώπων σε πολλαπλές τοποθεσίες. Ωστόσο, εξακολουθεί να θεωρεί ότι οι άνθρωποι — και όχι η αυτόνομη τεχνητή νοημοσύνη — θα εποπτεύουν και θα εκτελούν μια τέτοια επίθεση.

Ο «μεγιστοποιητής συνδετήρων»

Ορισμένοι ερευνητές της τεχνητής νοημοσύνης φοβούνται ότι ένα γεγονός που θα οδηγήσει στην εξαφάνιση του ανθρώπινου είδους θα μπορούσε να προκύψει από «αποσυγχρονισμό» — δηλαδή, όταν τα μοντέλα τεχνητής νοημοσύνης ενεργούν χωρίς ανθρώπινη εξουσιοδότηση, συντονίζονται με άλλα μοντέλα ή αποφεύγουν την εποπτεία. Αυτό δεν θα προέκυπτε από κακόβουλη πρόθεση — η τεχνητή νοημοσύνη δεν είναι άνθρωπος, ούτε είναι καλή ή κακή, τελικά — αλλά απλώς επειδή οι άνθρωποι ενδέχεται να εμποδίσουν το μοντέλο να επιτύχει τον στόχο του. Ας πάρουμε ως παράδειγμα το πείραμα σκέψης «ο μεγιστοποιητής συνδετήρων», που έχει διατυπωθεί εδώ και δεκαετίες από τον φιλόσοφο της Οξφόρδης Νικ Μπόστρομ, το οποίο υποστηρίζει ότι αν δοθεί εντολή σε μια προηγμένη ΤΝ να παράγει όσο το δυνατόν περισσότερους συνδετήρες, θα μπορούσε τελικά να μετατρέψει ολόκληρη τη Γη — και στη συνέχεια όλο και μεγαλύτερα τμήματα του διαστήματος — σε εργοστάσια παραγωγής συνδετήρων.

Αυτό έχει σκοπό να δείξει πώς μια υπερ-ευφυής τεχνητή νοημοσύνη — που συχνά αναφέρεται ως γενική τεχνητή νοημοσύνη ή AGI — θα μπορούσε να προωθήσει έναν στόχο που οι άνθρωποι μπορεί να θεωρούν επιθυμητό, αλλά «ο οποίος στην πραγματικότητα αποδεικνύεται μια ψευδή ουτοπία, στην οποία πράγματα απαραίτητα για την ανθρώπινη ευημερία έχουν χαθεί ανεπανόρθωτα», έγραψε ο Μπόστρομ το 2003. «Πρέπει να είμαστε προσεκτικοί σχετικά με το τι επιθυμούμε από μια υπερνοημοσύνη, γιατί μπορεί να το αποκτήσουμε», έγραψε.

Επίθεση στο διαδίκτυο

Δεδομένου του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, προειδοποίησε αυτό το μήνα ότι μέσα σε λίγους μήνες ένα σμήνος πρακτόρων τεχνητής νοημοσύνης θα μπορούσε να είναι ικανό να «καταλάβει» το διαδίκτυο με ένα botnet (ένα δίκτυο bots συνδεδεμένων μεταξύ τους με κακόβουλο λογισμικό), προκαλώντας ενδεχομένως ζημίες δισεκατομμυρίων δολαρίων. Αυτό θα μπορούσε να σημαίνει εισβολές σε ηλεκτρικά δίκτυα, συστήματα ύδρευσης ή μεταφορών και χρηματοπιστωτικά ιδρύματα — επιθέσεις που μπορεί να μην σημαίνουν το τέλος της ανθρωπότητας, αλλά θα μπορούσαν να προκαλέσουν χάος και απώλεια ζωών.

Οι διαταραχές που προκλήθηκαν στο παρελθόν από σφάλματα λογισμικού έχουν αναδείξει την ευπάθεια ενός ψηφιοποιημένου κόσμου που εξαρτάται από ελάχιστους μόνο παρόχους για βασικές υπολογιστικές υπηρεσίες, ενώ τα πιο ισχυρά μοντέλα τεχνητής νοημοσύνης έχουν προκαλέσει ανησυχίες σχετικά με τις ευπάθειες σε κυβερνοεπιθέσεις. Ωστόσο, ορισμένοι ειδικοί υποστηρίζουν ότι η ιδέα ότι τα bots θα καταλάβουν ολόκληρο το εξαιρετικά διακλαδισμένο διαδίκτυο είναι υπερβολική.

Διαβάστε επίσης:

Τεχνητή Νοημοσύνη: Οι επικεφαλής των Anthropic και OpenAI υπογραμμίζουν πως απαιτείται αυξημένη επαγρύπνηση

Εικόνα από το μέλλον: Influencer έπαιξε σε αγώνα UFC με ρομπότ – Μαντέψτε ποιος κέρδισε… (video)

Πρόστιμο 403 εκατ. ευρώ στην Google από την Ιρλανδία για παραβιάσεις απορρήτου

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.