Αποκάλυψη CNN: Η AI έφερε ΗΠΑ και Κίνα μια ανάσα από σύγκρουση – Η λανθασμένη αναφορά, το κινεζικό πλοίο και τα …πυρηνικά

Takeaways by to pontiki AI

• Λανθασμένη αναφορά πληροφοριών, η οποία δημιουργήθηκε με τη βοήθεια τεχνητής νοημοσύνης, παραλίγο να προκαλέσει στρατιωτική επιχείρηση των ΗΠΑ εναντίον κινεζικού πλοίου στη Μέση Ανατολή.
• Το σύστημα τεχνητής νοημοσύνης αναγνώρισε εσφαλμένα το φορτίο του πλοίου ως υλικά για πυρηνικά όπλα, οδηγώντας σε άμεση κινητοποίηση των αμερικανικών ενόπλων δυνάμεων.
• Η επιχείρηση ανακόπηκε την τελευταία στιγμή, όταν διαπιστώθηκε ότι η αναφορά βασίστηκε σε λανθασμένα δεδομένα που παρήγαγε το εργαλείο τεχνητής νοημοσύνης.
• Το περιστατικό αναδεικνύει τους κινδύνους από τη χρήση τέτοιων τεχνολογιών στη λήψη στρατιωτικών αποφάσεων, καθώς οι λεγόμενες παραιτήσεις των συστημάτων μπορούν να οδηγήσουν σε επικίνδυνη γεωπολιτική κλιμάκωση.
• Οι αμερικανικές υπηρεσίες προβληματίζονται για την έλλειψη ενιαίου πλαισίου ασφαλείας κατά την ενσωμάτωση εργαλείων τεχνητής νοημοσύνης στις στρατιωτικές τους δραστηριότητες.

Λανθασμένη αναφορά πληροφοριών που δημιουργήθηκε με τη βοήθεια Τεχνητής Νοημοσύνης παραλίγο να οδηγήσει τις αμερικανικές ένοπλες δυνάμεις σε επιχείρηση εναντίον κινεζικού πλοίου στη Μέση Ανατολή, αποκάλυψε το CNN.

Το περιστατικό που θα μπορούσε να προκαλέσει σοβαρή στρατιωτική κρίση μεταξύ Ουάσινγκτον και Πεκίνου.

Η αναφορά κυκλοφόρησε την άνοιξη, εν μέσω του πολέμου με το Ιράν, και υποστήριζε ότι το κινεζικό πλοίο μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα ανάπτυξης πυρηνικών όπλων. Η πληροφορία προκάλεσε άμεση κινητοποίηση στις αμερικανικές ένοπλες δυνάμεις, με σχέδια για την αναχαίτιση του πλοίου.

Σύμφωνα με πηγές που μίλησαν στο CNN, εξετάστηκε -μεταξύ άλλων- ακόμη και η αποστολή ενόπλων ομάδων για επιβίβαση στο σκάφος, ενώ αμερικανικά στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί.

Λίγο πριν από την έναρξη της επιχείρησης, όμως, η αναφορά εξετάστηκε εκ νέου. Τότε διαπιστώθηκε ότι είχε συνταχθεί με τη βοήθεια εργαλείου Τεχνητής Νοημοσύνης, το οποίο είχε κάνει λανθασμένη αναγνώριση του φορτίου του πλοίου. Το πραγματικό φορτίο δεν έχει γίνει γνωστό.

Πηγή που επικαλείται το CNN χαρακτήρισε την αναφορά «εντελώς ψευδή», σημειώνοντας ότι η πληροφορία θα μπορούσε να είχε οδηγήσει σε εξαιρετικά επικίνδυνη κλιμάκωση, καθώς οποιαδήποτε αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να προκαλέσει άμεση αντιπαράθεση μεταξύ των δύο χωρών.

Το λάθος και ο φόβος

Το περιστατικό αποκαλύπτει τους κινδύνους από την ταχεία ενσωμάτωση της Τεχνητής Νοημοσύνης στις στρατιωτικές και υπηρεσίες πληροφοριών των ΗΠΑ.

Σύμφωνα με το CNN, ένας αναλυτής χρησιμοποίησε chatbot για να επεξεργαστεί πληροφορίες σχετικά με το φορτίο του πλοίου. Τα δεδομένα προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού, με έδρα τη Χαβάη.

Το σύστημα συνδύασε πληροφορίες από ανοιχτές πηγές με απόρρητα δεδομένα σημάτων που υπήρχαν στις βάσεις της αμερικανικής κυβέρνησης και κατέληξε σε λανθασμένο συμπέρασμα για το φορτίο.

Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά την AI για να συντάξει την αναφορά πληροφοριών. Το τελικό κείμενο διακινήθηκε σε στρατιωτικούς αξιωματούχους ως ανάλυση πληροφοριών, χωρίς να έχει προηγηθεί ο απαραίτητος έλεγχος που θα μπορούσε να εντοπίσει το λάθος.

Δεν έχει διευκρινιστεί αν χρησιμοποιήθηκε εμπορικά διαθέσιμο chatbot ή ειδικά σχεδιασμένο κυβερνητικό σύστημα. Πρώην ανώτερος Αμερικανός αξιωματούχος, με γνώση των εργαλείων AI που χρησιμοποιούνται από στρατιωτικούς και υπηρεσίες πληροφοριών, δήλωσε ότι τα εσωτερικά συστήματα είναι σε μεγάλο βαθμό παραλλαγές εμπορικών εφαρμογών.

Η προειδοποίηση και οι «παραισθήσεις»

Το περιστατικό έρχεται σε μια περίοδο κατά την οποία οι αμερικανικές ένοπλες δυνάμεις επενδύουν μαζικά στην Τεχνητή Νοημοσύνη, επιδιώκοντας να επιταχύνουν τη λήψη αποφάσεων από την επιλογή στόχων μέχρι τη διαχείριση στρατιωτικών επιχειρήσεων και πόρων.

Η αμερικανική κυβέρνηση θεωρεί κρίσιμη την ταχεία ανάπτυξη στρατιωτικών εφαρμογών AI, ιδιαίτερα στον ανταγωνισμό με την Κίνα. Ο υπουργός Άμυνας, Πιτ Χέγκσεθ, έχει υποστηρίξει την επιτάχυνση της υιοθέτησης της τεχνολογίας και την άρση γραφειοκρατικών εμποδίων.

Ωστόσο, αξιωματούχοι που γνωρίζουν τα συστήματα προειδοποιούν ότι δεν υπάρχει ενιαίο πλαίσιο ασφαλείας για όλες τις υπηρεσίες. Διαφορετικοί φορείς χρησιμοποιούν διαφορετικά εργαλεία, κανόνες ελέγχου και επίπεδα αξιοπιστίας.

Οι λεγόμενες «παραισθήσεις» της AI -η παραγωγή δηλαδή πειστικών αλλά λανθασμένων πληροφοριών- αποτελούν ιδιαίτερο κίνδυνο όταν οι απαντήσεις των συστημάτων χρησιμοποιούνται για στρατιωτικές αποφάσεις.

Ο κίνδυνος γίνεται ακόμη μεγαλύτερος σε επιχειρήσεις στοχοποίησης, όπου μια λανθασμένη εκτίμηση δεν οδηγεί απλώς σε μια λανθασμένη ανάλυση, αλλά μπορεί να έχει άμεσες ανθρώπινες και γεωπολιτικές συνέπειες.

Πηγή με γνώση των αμερικανικών στρατιωτικών πολιτικών δήλωσε στο CNN ότι η χρήση AI στη στοχοποίηση αυξάνεται, ενώ παραμένουν ερωτήματα για το κατά πόσο η ανθρώπινη παρέμβαση μπορεί να αποτρέψει απώλειες αμάχων ή φίλια πυρά.

Η υπόθεση του κινεζικού πλοίου δείχνει με τον πιο χαρακτηριστικό τρόπο το πρόβλημα: όταν μια λανθασμένη πληροφορία που παράγεται από AI περνά ως αξιόπιστη στρατιωτική ανάλυση, το λάθος μπορεί να μετατραπεί από ψηφιακό σφάλμα σε πραγματικό κίνδυνο σύγκρουσης.

Διαβάστε επίσης:

Πακιστάν: Στους 31 οι νεκροί από την επίθεση στο αρχηγείο της αστυνομίας στην Κοχάτ – Περισσότεροι από 100 οι τραυματίες

«Μη αναστρέψιμο» το πυρηνικό καθεστώς της χώρας, απαντά η Βόρεια Κορέα στον ΔΟΑΕ

Σαουδική Αραβία: Λήξη συναγερμού στο Ριάντ μετά τις προειδοποιήσεις για αεροπορική επίθεση

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.