Τεχνητή Νοημοσύνη: «Μπορούν οι αλγόριθμοι να πυροδοτήσουν πόλεμο;» OpenAI και Anthropic στο Συμβούλιο Ασφαλείας του ΟΗΕ

Στελέχη των OpenAI, Anthropic και Hugging Face αναμένεται να ενημερώσουν την Τετάρτη το Συμβούλιο Ασφαλείας του ΟΗΕ για τους κινδύνους που συνδέονται με την ταχεία ανάπτυξη της Τεχνητής Νοημοσύνης.

Η συνεδρίαση πραγματοποιείται εν μέσω προειδοποιήσεων ότι οι ολοένα ισχυρότερες τεχνολογίες ΤΝ θα μπορούσαν στο μέλλον να αποκτήσουν δυνατότητες αυτοβελτίωσης, να περιορίσουν την αποτελεσματικότητα του ανθρώπινου ελέγχου και να δημιουργήσουν νέες απειλές για τη διεθνή ασφάλεια.

Η συνεδρίαση πραγματοποιείται εν μέσω προειδοποιήσεων ότι οι ολοένα ισχυρότερες τεχνολογίες ΤΝ θα μπορούσαν στο μέλλον να αποκτήσουν δυνατότητες αυτοβελτίωσης, να περιορίσουν την αποτελεσματικότητα του ανθρώπινου ελέγχου και να δημιουργήσουν νέες απειλές για τη διεθνή ασφάλεια.

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν (Sam Altman), ο CEO της Anthropic, Ντάριο Αμοντέι (Dario Amodei), και ο συνιδρυτής της Hugging Face, Κλεμάν Ντελάνγκ (Clément Delangue), πρόκειται να ενημερώσουν τα 15 μέλη του Συμβουλίου Ασφαλείας, στο περιθώριο της ετήσιας Γενικής Συνέλευσης του ΟΗΕ στη Νέα Υόρκη, σύμφωνα με το Reuters.

Ο Άλτμαν αναμένεται να καλέσει τους ηγέτες να υιοθετήσουν κοινά σημεία αναφοράς για τη μέτρηση των δυνατοτήτων της Τεχνητής Νοημοσύνης, καθώς και για την αξιολόγηση των δικλίδων ασφαλείας που εφαρμόζουν οι εταιρείες κατά την ανάπτυξη των συστημάτων τους. Αυτό ανέφερε στέλεχος της OpenAI σε δημοσιογράφους την Τρίτη.

Στη συνεδρίαση αναμένεται να τοποθετηθούν και τα μέλη του Συμβουλίου Ασφαλείας, μεταξύ των οποίων οι Ηνωμένες Πολιτείες και η Κίνα, δύο χώρες που βρίσκονται στην πρώτη γραμμή του διεθνούς ανταγωνισμού στον τομέα της ΤΝ. Της συνεδρίασης θα προεδρεύσει ο υπουργός Εξωτερικών της Γαλλίας, Ζαν-Νοέλ Μπαρό (Jean-Noël Barrot).

«Θα μπορούσαν οι αλγόριθμοι να πυροδοτήσουν έναν πόλεμο;»

Ευρωπαίος διπλωμάτης, ο οποίος μίλησε υπό τον όρο της ανωνυμίας, ανέφερε ότι βασικός στόχος της συνεδρίασης είναι να αναδειχθούν οι πρακτικοί κίνδυνοι που θα μπορούσε να προκαλέσει μια ενδεχόμενη απώλεια ελέγχου της Τεχνητής Νοημοσύνης, με επιπτώσεις τόσο στη διεθνή ασφάλεια όσο και στην ασφάλεια μεμονωμένων κρατών.

«Πρόκειται για ζητήματα που εμπίπτουν ξεκάθαρα στην αρμοδιότητα του Συμβουλίου Ασφαλείας», ανέφερε.

«Το βασικό ερώτημα είναι εάν θα μπορούσαμε μια μέρα να βρεθούμε αντιμέτωποι με μια κατάσταση όπου αλγόριθμοι που αλληλεπιδρούν μεταξύ τους πυροδοτούν έναν πόλεμο. Αυτό βρίσκεται πραγματικά στον πυρήνα του ζητήματος», πρόσθεσε.

Ενόψει της συνάντησης του Αμερικανού προέδρου Ντόναλντ Τραμπ (Donald Trump) με τον Κινέζο ηγέτη Σι Τζινπίνγκ (Xi Jinping) στην Ουάσινγκτον την Πέμπτη, ΗΠΑ και Κίνα έχουν συζητήσει τη δημιουργία ενός συστήματος ειδοποίησης για κοινούς στόχους και απειλές. Το σύστημα θα μπορούσε να καλύπτει και περιστατικά που σχετίζονται με την Τεχνητή Νοημοσύνη και φτάνουν σε επίπεδο εθνικής ασφάλειας.

Τραμπ: «Θα την ενθαρρύνουμε, δεν θα τη χαλιναγωγήσουμε»

Ο Ντόναλντ Τραμπ δήλωσε την Τρίτη, ενώπιον της Γενικής Συνέλευσης του ΟΗΕ, ότι «απορρίπτει κάθε προσπάθεια δημιουργίας ενός παγκοσμιοποιητικού συστήματος για τον έλεγχο» της Τεχνητής Νοημοσύνης.

Ο Αμερικανός πρόεδρος χαρακτήρισε την τεχνολογία «εκπληκτική», σημειώνοντας παράλληλα ότι οι ΗΠΑ θα κινηθούν με προσοχή.

«Προηγούμαστε τώρα κατά πολύ της Κίνας και όλων των άλλων και θα το διατηρήσουμε έτσι», δήλωσε ο Τραμπ.

«Δεν πρόκειται να καταπνίξω την ανάπτυξη κάποιου πράγματος που θα είναι μεγαλύτερο από τη Βιομηχανική Επανάσταση», πρόσθεσε.

«Θα την ενθαρρύνουμε, δεν θα τη χαλιναγωγήσουμε. Θα την παρακολουθούμε στενά μέσω του υπουργείου Δικαιοσύνης», είπε.

Οι προειδοποιήσεις Γκουτέρες

Ο γενικός γραμματέας του ΟΗΕ, Αντόνιο Γκουτέρες (António Guterres), έχει προειδοποιήσει επανειλημμένα ότι η ταχύτατη εξέλιξη της Τεχνητής Νοημοσύνης εγκυμονεί κινδύνους που δεν μπορούν να αγνοηθούν, υιοθετώντας διαφορετική προσέγγιση από εκείνη του Τραμπ.

Ο Γκουτέρες έχει ταχθεί εδώ και χρόνια υπέρ της δημιουργίας ενός πλαισίου παγκόσμιας διακυβέρνησης για την ΤΝ. Το 2023 δημιούργησε ένα 39μελές συμβουλευτικό όργανο με μονοετή θητεία, στο οποίο συμμετείχαν στελέχη εταιρειών τεχνολογίας, κυβερνητικοί αξιωματούχοι και ακαδημαϊκοί από χώρες όπως οι ΗΠΑ, η Ρωσία και η Ιαπωνία.

Η 193μελής Γενική Συνέλευση του ΟΗΕ δημιούργησε στη συνέχεια, πέρυσι, την Ανεξάρτητη Διεθνή Επιστημονική Επιτροπή. Ο Καναδός Γιοσούα Μπέντζιο (Yoshua Bengio), ο οποίος θεωρείται ένας από τους «νονούς της Τεχνητής Νοημοσύνης» και είναι συμπρόεδρος της επιτροπής, αναμένεται επίσης να ενημερώσει το Συμβούλιο Ασφαλείας.

Το Συμβούλιο Ασφαλείας συνεδρίασε για πρώτη φορά σχετικά με τους κινδύνους της Τεχνητής Νοημοσύνης το 2023. Τότε, η Κίνα είχε δηλώσει ότι η τεχνολογία δεν πρέπει να μετατραπεί σε «ανεξέλεγκτο άλογο», ενώ οι Ηνωμένες Πολιτείες είχαν προειδοποιήσει για το ενδεχόμενο χρήσης της ΤΝ για λογοκρισία ή καταστολή.

Το 2024, ο τότε υπουργός Εξωτερικών των ΗΠΑ, Άντονι Μπλίνκεν (Antony Blinken), προήδρευσε επίσης συνεδρίασης του Συμβουλίου Ασφαλείας με αντικείμενο την Τεχνητή Νοημοσύνη.

Διαβάστε επίσης:

Η ανησυχία για την AI εξαπλώνεται σε όλο τον κόσμο και διαπερνά τις κομματικές γραμμές

«Μονομαχία» τεχνητής νοημοσύνης: «Χάκερς» χρησιμοποίησαν τον Claude και παραβίασαν την OpenAI

Ποιος κρατάει το τιμόνι της AI: Αυτοί που πάτησαν γκάζι, τώρα ψάχνουν το φρένο – Φόβοι, παραιτήσεις και κοινωνικό κόστος

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.