Συναγερμός με το Gemini: «Μάντεψε» κωδικούς και «τρύπωσε» σε τρεις ιστότοπους

Το μοντέλο τεχνητής νοημοσύνης Gemini της Google κατάφερε να αποκτήσει πρόσβαση σε ιστότοπους μαντεύοντας στοιχεία σύνδεσης, σύμφωνα με όσα δήλωσε η εταιρεία στο Γαλλικό Πρακτορείο (AFP)

Το περιστατικό, που σημειώθηκε τον Μάιο στο πλαίσιο δοκιμαστικής αξιολόγησης και εντοπίστηκε από την Google τον Ιούλιο, επαναφέρει τα ερωτήματα για τους κινδύνους που μπορεί να προκύψουν από τη χρήση μοντέλων τεχνητής νοημοσύνης.

Οι παραβιάσεις, για τις οποίες είχε γράψει πρώτη η Wall Street Journal, σημειώθηκαν κατά τη διάρκεια μιας τυπικής διαδικασίας αξιολόγησης.

Η σημασία της εκπαίδευσης και ο… υπεύθυνος τρόπος

Η Heather Adkins, αντιπρόεδρος μηχανικής ασφαλείας της Google, δήλωσε στο AFP ότι το μοντέλο εντόπισε δημόσιες πληροφορίες στο διαδίκτυο και στη συνέχεια μάντεψε στοιχεία σύνδεσης, προκειμένου να αποκτήσει πρόσβαση σε ιστότοπους που θεωρούσε ότι περιλαμβάνονταν στη δοκιμή.

Σύμφωνα με την ίδια, το Gemini απέκτησε πρόσβαση σε τρεις περιπτώσεις, αλλά σταμάτησε τη διαδικασία σε κάθε μία από αυτές.

Η Google δεν έκανε γνωστό διευκρίνισε ποιοι οργανισμοί ή ιστότοποι επηρεάστηκαν. Ενημέρωσε ωστόσο και τις τρεις και συνεργάστηκε για τις αλλαγές που έγιναν στη διαδικασία των δοκιμών.

Η εταιρεία υπογράμμισε ότι τα περιστατικά καταδεικνύουν τη σημασία της εκπαίδευσης των ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να λειτουργούν με υπεύθυνο τρόπο.

Διαβάστε επίσης:

Η μάχη της δημοσιογραφίας με την τεχνητή νοημοσύνη: Τα άρθρα, η λογοκλοπή και η δικαστική διαμάχη εκδοτών με τα… chatbot

«Μονομαχία» τεχνητής νοημοσύνης: «Χάκερς» χρησιμοποίησαν τον Claude και παραβίασαν την OpenAI

Γιατί υπάρχουν ανησυχίες ότι η AI θα μπορούσε να αφανίσει την ανθρωπότητα και πόσο πραγματικές είναι;

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.