Τεχνητή Νοημοσύνη: Όλο και χειρότερα – Κινεζικό μοντέλο έδωσε οδηγίες για βιολογικά όπλα και δολοφονίες

Takeaways by to pontiki AI

• Η εταιρεία τεχνητής νοημοσύνης Moonshot...

Από το κακό στο χειρότερο πηγαίνουν οι ειδήσεις για την τεχνητή νοημοσύνη και τις… αταξίες της: τώρα, η κινεζική εταιρεία ανάπτυξης τεχνητής νοημοσύνης Moonshot ανακοίνωσε ότι διεξάγει εσωτερική έρευνα, αφού ερευνητές κατάφεραν να πείσουν δύο από τα δημοφιλή μοντέλα της, τα Kimi, να τους αποκαλύψουν πώς να κατασκευάσουν βιολογικά όπλα και να διαπράξουν δολοφονίες.

Η Mindgard, η οποία ελέγχει την ασφάλεια συστημάτων τεχνητής νοημοσύνης, δήλωσε στο BBC ότι ανακάλυψε τον Ιούλιο ότι τα μοντέλα Kimi K2.6 και K3 Swarm μπορούσαν να παρακάμψουν τα όρια ασφαλείας που είχαν τεθεί από τους προγραμματιστές. Το ζήτημα προέκυψε κατά τη διάρκεια μιας διαδικασίας που ονομάζεται «jailbreaking», όπου οι ερευνητές χρησιμοποιούν μια σειρά πολύπλοκων οδηγιών για να διαπιστώσουν αν τα εργαλεία τεχνητής νοημοσύνης αγνοούν τα μέτρα προστασίας – τα οποία, σύμφωνα με την Mindgard, θα έπρεπε να είχαν εμποδίσει το Kimi να συζητήσει ανησυχητικά θέματα.

Η Moonshot δήλωσε στο BBC ότι χαιρετίζει τις απόψεις τρίτων «ως βασικό πυλώνα για τη δημιουργία καλύτερης και ασφαλέστερης τεχνητής νοημοσύνης». Η εταιρεία δήλωσε επίσης ότι βρίσκεται σε συζητήσεις με τη Mindgard σχετικά με τα ευρήματά της. Ο ιδρυτής της Mindgard, Πίτερ Γκάραχαν, δήλωσε ότι τα ευρήματά της σχετικά με τα Kimi K2.6 και K3 Swarm είναι ανησυχητικά. «Μόλις επιτευχθεί το jailbreak, θα συζητά για οποιοδήποτε θέμα, θα προσφέρει μάλιστα ελεύθερα προτάσεις για άλλα θέματα που είναι επίσης επιβλαβή και θα είναι εφευρετικό και δημιουργικό», είπε.

Τι είναι το «jailbreak»

Τα «jailbreaks» παρουσιάζουν ένα διαφορετικό είδος κινδύνου από εκείνο που παρατηρήθηκε στην πρόσφατη σειρά περιστατικών… ανεξέλεγκτης τεχνητής νοημοσύνης που έλαβαν μεγάλη δημοσιότητα. Σε αυτά τα περιστατικά, αυτόνομα εργαλεία τεχνητής νοημοσύνης, γνωστά ως «πράκτορες» (agents), τα οποία αναπτύχθηκαν από αμερικανικές εταιρείες όπως η OpenAI, η Meta και η Anthropic, παραβίασαν ορισμένες διαδικτυακές υπηρεσίες.

Τα «jailbreaks» είναι πολύπλοκες διαδικασίες που μπορεί να απαιτούν πολύ χρόνο και αποφασιστικότητα, και ορισμένοι ειδικοί φοβούνται ότι χάκερ και άλλοι κακόβουλοι παράγοντες θα μπορούσαν να προσπαθήσουν να τα χρησιμοποιήσουν για να προκαλέσουν ζημιά. Η Anthropic δήλωσε πρόσφατα ότι είχε εντοπίσει και αποτρέψει προσπάθειες χρήσης ενός από τα μοντέλα τεχνητής νοημοσύνης της για «κακόβουλη δραστηριότητα» που θα μπορούσε να υποστηρίξει την ανάπτυξη βιολογικών όπλων.

Η Mindgard δεν έχει αποδείξει εάν οι απαντήσεις που παρείχε το Kimi σχετικά με τα εν λόγω θέματα θα λειτουργούσαν. Ωστόσο, υποστήριξε ότι τα μέτρα ασφαλείας θα έπρεπε να είχαν αποτρέψει τα εν λόγω μοντέλα από το να εμπλακούν σε συζητήσεις με χρήστες σχετικά με τέτοια θέματα. Η εταιρεία δήλωσε επίσης ότι ήταν πεπεισμένη ότι το Kimi 2.6 που έχει υποστεί jailbreak θα μπορούσε να επιτρέψει σε χάκερ να εκτελέσουν κώδικα στους υπολογιστικούς της πόρους και να συνδεθούν στο διαδίκτυο – καθιστώντας το έτσι ευάλωτο σε κυβερνοεπιθέσεις.

Ο Γκάραχαν υπερασπίστηκε την απόφαση της Mindgard να συζητήσει δημοσίως το «jailbreak» που πραγματοποίησε στα συστήματα της Moonshot, αναφέροντας ότι είχε ενημερώσει τον προγραμματιστή και δεν αποκάλυπτε βασικές λεπτομέρειες σχετικά με τον τρόπο με τον οποίο κατάφερε να κάνει τα μοντέλα της εταιρείας να αγνοήσουν τα μέτρα ασφαλείας. Η Mindgard ειδοποίησε τη Moonshot για το «jailbreak» μέσω ηλεκτρονικού ταχυδρομείου στις 27 Ιουλίου, ακολουθώντας με επανέλεγχο περίπου μία εβδομάδα αργότερα.

Στη συνέχεια, δημοσίευσε ένα άρθρο στο blog της σχετικά με το θέμα στις 12 Σεπτεμβρίου. Ωστόσο, η εταιρεία ανέφερε ότι η Moonshot επικοινώνησε μαζί της μόλις πρόσφατα, αφού προσεγγίστηκε από ΜΜΕ. Σε απόσπασμα ενός email προς τη Mindgard, στο οποίο ζητούσε περισσότερες λεπτομέρειες και το οποίο κοινοποίησε η Moonshot στο BBC, η εταιρεία ανέφερε ότι το μοντέλο της είχε γενικά παρουσιάσει «υψηλό ποσοστό απόρριψης για αυτού του είδους τα αιτήματα» σε εσωτερικές αξιολογήσεις.

Διχασμός

Τα ευρήματα αυτά έρχονται σε μια εποχή που ο κλάδος της τεχνητής νοημοσύνης εξακολουθεί να είναι διχασμένος ως προς το αν τα κλειστά, ιδιόκτητα μοντέλα – όπως αυτά που τροφοδοτούν τα συστήματα ChatGPT και Claude της Anthropic – ή τα εργαλεία ανοιχτού κώδικα αποτελούν τον καλύτερο ή τον ασφαλέστερο δρόμο προς το μέλλον. Το Kimi είναι ένα μοντέλο ανοιχτού κώδικα, πράγμα που σημαίνει ότι, θεωρητικά, κάποιος θα μπορούσε να πάρει το μοντέλο και να το εκτελέσει ο ίδιος στη δική του υπολογιστική υποδομή.

Ο καθηγητής Άλαν Γούντγουορντ, του Πανεπιστημίου του Σάρρεϋ, δήλωσε ότι υπάρχει ο κίνδυνος τα μοντέλα ανοιχτού κώδικα να καταλήξουν σε λάθος χέρια, αλλά ότι θα μπορούσαν επίσης να αξιοποιηθούν για την κυβερνοάμυνα. Σημείωσε ότι η εταιρεία τεχνητής νοημοσύνης Hugging Face χρησιμοποίησε ένα κινεζικό μοντέλο ανοιχτού κώδικα για να κατανοήσει μια επίθεση χάκερ, η οποία αργότερα αποκαλύφθηκε ότι είχε πραγματοποιηθεί από agents της OpenAI.

Ο Γούντγουορντ δήλωσε ότι είναι απίθανο η διεθνής ρύθμιση να συμβαδίσει με τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης, λέγοντας: «Μας πήρε δεκαετίες να συμφωνήσουμε για τη μορφή των τηλεφωνικών αριθμών». Όπως και ο ιδρυτής της Mindgard, Γκάραχαν, ο καθηγητής Γούντγουορντ πιστεύει ότι θα πρέπει να δοθεί μεγαλύτερη έμφαση στον εντοπισμό και τη δίωξη των ανθρώπων που κάνουν κατάχρηση της τεχνητής νοημοσύνης.

Διαβάστε επίσης

Νέος συναγερμός για την τεχνητή νοημοσύνη: Η Anthropic μιλά για «υπαρξιακό κίνδυνο» – Η OpenAI «κόβει» νέο μοντέλο για λόγους ασφαλείας

ΗΠΑ: Η Φλόριντα ζητά να απαγορευτεί στην OpenAI να αναπτύσσει μοντέλα ΤΝ χωρίς εξωτερική εποπτεία

Σε τροχιά για πρώτη φορά το Starship της SpaceX  -Εκτόξευσε δορυφόρους Starlink, αλλά εξερράγη κατά την προσθαλάσσωση – Εντυπωσιακές εικόνες από το διάστημα (Video)

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.