Ανησυχία για τα χακαρίσματα από AI Agents: Ο Χασάμπης της DeepMind προτείνει την ίδρυση διεθνούς οργανισμού

Τα πρόσφατα περιστατικά χακαρίσματος από πράκτορες Τεχνητής Νοημοσύνης (ΤΝ/ΑΙ) είναι «πρώιμες προειδοποιήσεις», και ο κόσμος μπορεί σύντομα να αντιμετωπίσει μεγαλύτερα περιστατικά αν τα συστήματα δεν καταστούν πιο ασφαλή, δήλωσε σήμερα ο Ντέμης Χασάμπης, συνιδρυτής και πρόεδρος της DeepMind της Google.

Η επιθετική συμπεριφορά πρακτόρων ΤΝ, περιλαμβανομένων χακαρισμάτων δικτύων επιχειρήσεων, και πιο πρόσφατα, η αποκάλυψη της Anthropic ότι ένα μοντέλο ΤΝ έδωσε λανθασμένη πληροφορία στην αστυνομία για ανθρωποκτονία, οδήγησε σε προειδοποιήσεις από ερευνητές και πυροδότησε ανησυχίες για τη ραγδαία αναπτυσσόμενη τεχνολογία.

Απαιτείται η θεσμοθέτηση βέλτιστων πρακτικών

Ο Χασάμπης είπε πως «υπάρχει πολλή δουλειά να γίνει» προκειμένου να υιοθετηθεί εκείνο το είδος των βέλτιστων πρακτικών που άλλα πεδία όπως η βιολογία ή ο πυρηνικός τομέας χρησιμοποιούν προκειμένου να ασφαλίσουν κρίσιμης σημασίας συστήματα και ότι κάποιου είδους οργανισμός διεθνών προτύπων θα χρειαστεί τελικά.

«Νομίζω ότι αυτά (τα περιστατικά χακαρίσματος) είναι πρώιμες προειδοποιήσεις για εμάς ότι τα συστήματα δεν είναι τόσο ισχυρά ακόμη, άρα τα περιστατικά δεν είναι τόσο μεγάλα», είπε ο Χασάμπης, ο οποίος είναι επίσης επικεφαλής επιστήμονας στη μητρική της Google, την Alphabet, σε διάσκεψη για την TN που διεξάγεται στο Δουβλίνο.

«Όμως θα μπορούσαν να είναι τον επόμενο χρόνο και τα επόμενα δύο χρόνια αν δεν κάνουμε περισσότερη δουλειά ως βιομηχανία ως μεμονωμένες εταιρίες και κυβερνήσεις για την ασφάλιση αυτών των συστημάτων».

Ο πρόεδρος της Microsoft Μπραντ Σμιτ είπε στη διάσκεψη ότι η επιθετική συμπεριφορά της ΤΝ έχει καταστήσει το 2026 μια «στενάχωρη χρονιά» και ότι νέοι νόμοι και κανονισμοί για την ασφάλεια της ΤΝ απαιτούνται επειγόντως προκειμένου να συμβαδίζουν με την καινοτομία.

«Καμία εταιρία ή τεχνολογία δεν θα πρέπει να είναι πάνω από τον νόμο. Αλλά χρειαζόμαστε νόμους, χρειαζόμαστε ρύθμιση. Θα πρέπει να είναι λογικοί, θα πρέπει να είναι ισορροπημένοι, θα πρέπει να λαμβάνουν υπόψη την καινοτομία», είπε. «Αυτή η αλλεργία που κάποιοι στη βιομηχανία έχουν για τη ρύθμιση είναι ειλικρινά κάτι που πρέπει να ξεπεράσουμε».

Ο Χασάμπης είπε πως, ενώ ένας οργανισμός διεθνών προτύπων μοιάζει να είναι μια προφανής παρέμβαση, αυτή θα πρέπει να είναι διαφοροποιημένη και έξυπνη ώστε να μην καταπνίγει την καινοτομία. «Άρα αυτό που χρειάζεται να κάνουμε είναι κυρίως να αναπτύξουμε δυναμικά αυτό το είδος διαδικασίας πιστοποίησης που θα είναι αναλογικό με τους κινδύνους και μπορεί γρήγορα να αλλάζει ανάλογα με το πού πηγαίνει η τεχνολογία».

Διαβάστε επίσης

«Έξυπνα γυαλιά»: Πώς (να προσπαθήσετε) να καταλάβετε αν κάποιος σας καταγράφει και πώς να προστατευτείτε

Τεχνητή Νοημοσύνη: Πολλά μοντέλα ΑΙ δεν διαθέτουν επαρκείς δικλείδες ασφαλείας έναντι αιτημάτων για «παροχή βοήθειας σε τρομοκρατική επιχείρηση»

Τεχνητή Νοημοσύνη: Τρεις ερευνητές που απολύθηκαν από την OpenAI την καλούν να μην δημιουργήσει AI με συλλογισμό που θα είναι ακατανόητος από τους ανθρώπους

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.