Όταν η τεχνητή νοημοσύνη παίρνει… πρωτοβουλίες: Πώς ο ψηφιακός βοηθός της Meta έστειλε έναν άγνωστο έξω από το σπίτι χρήστη

Takeaways by to pontiki AI

• Ο δημιουργός περιεχομένου Ματ Ρομπ αντιμετώπισε προβλήματα με τον ψηφιακό βοηθό Muse της Meta, καθώς το εργαλείο προχώρησε σε αυτόνομες ενέργειες πώλησης χωρίς την έγκρισή του.
• Το λογισμικό ολοκλήρωσε μια συναλλαγή στο Facebook Marketplace, γνωστοποιώντας τη διεύθυνση κατοικίας του χρήστη και στέλνοντας αυτόματα μηνύματα στον αγοραστή, ενώ παράλληλα έθεσε λανθασμένη τιμή πώλησης.
• Ειδικοί προειδοποιούν ότι η παραχώρηση πρόσβασης σε προσωπικά δεδομένα ενέχει κινδύνους, καθώς οι πληροφορίες που επεξεργάζονται οι βοηθοί στο cloud δεν διαγράφονται αυτόματα μετά την ανάκληση της άδειας πρόσβασης.
• Η Apple εισήγαγε νέους μηχανισμούς ελέγχου στο λειτουργικό σύστημα Mac, μετά από καταγγελίες ότι το Muse παρακολουθούσε ειδοποιήσεις και μηνύματα χωρίς τη ρητή συγκατάθεση των χρηστών.

Ένα πείραμα με τον νέο ψηφιακό βοηθό τεχνητής νοημοσύνης Muse της Meta αποκάλυψε τους κινδύνους που εγκυμονεί η παραχώρηση εκτεταμένων προσωπικών δεδομένων σε αυτή την τεχνολογία.

Ο Ματ Ρομπ, δημιουργός περιεχομένου από το Τορόντο που αξιολογεί καταναλωτική τεχνολογία, χρησιμοποίησε στα τέλη του περασμένου μήνα τον Muse για να πουλήσει ένα πληκτρολόγιο στο Facebook Marketplace. Μέσα σε μία μόλις ημέρα, ένας άγνωστος αγοραστής εμφανίστηκε έξω από το σπίτι του αργά το βράδυ. Όπως αποδείχθηκε, το Muse έκλεισε συμφωνία αυτόνομα, έδωσε τη διεύθυνση κατοικίας του Ρομπ για την παραλαβή και έστειλε αυτόματο μήνυμα «Ναι, είμαι εδώ!» όταν έφτασε ο αγοραστής, όλα εν αγνοία του.

Παράλληλα, σε άλλο αντικείμενο, ο ψηφιακός βοηθός πρότεινε τιμή κατά 100 δολάρια χαμηλότερη από το καθορισμένο ελάχιστο όριο. Η Meta επιβεβαίωσε το σφάλμα στο Associated Press, ενώ ο Ρομπ εξήγησε ότι το συμβάν οφειλόταν σε δικαιώματα διαρκούς πρόσβασης («always allow») που είχε παραχωρήσει αρχικά. Αν και αποσύνδεσε σε μεγάλο βαθμό το Muse, δήλωσε ότι θα εξέταζε τη μελλοντική επανενεργοποίησή του, ενώ ήδη δοκιμάζει το Grok Bot της X του Μασκ.

Πώς λειτουργούν οι AI agents και πού διαφέρουν από τα κλασικά chatbot

Ενώ τα παλαιότερα μοντέλα παραγωγικής τεχνητής νοημοσύνης (όπως η τυπική έκδοση του ChatGPT) απαντούν απλώς σε συγκεκριμένες εντολές γράφοντας κείμενα ή κώδικα, οι νέοι ψηφιακοί βοηθοί, όπως το Muse της Meta και τα «dots» της OpenAI (που ενσωματώνονται σε ChatGPT, Slack και Microsoft Teams) λειτουργούν σε διαρκή κύκλο (loop). Αυτό τους επιτρέπει να αναλαμβάνουν προληπτικά δράσεις και καθημερινές εργασίες εκ μέρους του χρήστη -από κρατήσεις έως οργάνωση emails- ακόμη κι όταν εκείνος δεν παρακολουθεί.

«Η χρήση ενός ψηφιακού βοηθού AI είναι παρόμοια με το να δίνεις σε κάποιον τα κλειδιά σου και μια λίστα υποχρεώσεων. Το πόσο βοηθητικοί είναι -και κατ’ επέκταση πόσο επικίνδυνοι- εξαρτάται από το ποια κλειδιά παραδίδεις», εξηγεί η Βερόνικα Ριβέρα, επίκουρη καθηγήτρια στο Georgia Tech.

Η μη αναστρέψιμη συλλογή δεδομένων, η Apple και η ιδιωτικότητα τρίτων

Όπως προειδοποιεί ο Εμπραχίμ Μπαγκερί, καθηγητής στο Πανεπιστήμιο του Τορόντο, μόλις ένας ψηφιακός βοηθός λάβει πρόσβαση σε στοιχεία (όπως μια πιστωτική κάρτα), απορροφά ακαριαία όλα τα ιστορικά δεδομένα. Παρότι η πρόσβαση μπορεί να αφαιρεθεί εκ των υστέρων, τα δεδομένα που έχει ήδη επεξεργαστεί ο βοηθός στο cloud δεν διαγράφονται αυτόματα.

Η αυξανόμενη αυτή πρόσβαση προκάλεσε την αντίδραση της Apple, η οποία ανακοίνωσε στις 2 Οκτωβρίου νέους μηχανισμούς ελέγχου στο λειτουργικό Mac. Η κίνηση ακολούθησε αναφορά του αρθρογράφου του Inc., Τζέισον Έιτεν, ότι ττ Muse παρακολουθούσε ειδοποιήσεις και μηνύματα στο Mac του χωρίς άδεια. Ο εκπρόσωπος της Meta, Άντι Στόουν, υποστήριξε ότι η ενοποίηση απαιτεί ρητή ενεργοποίηση (Full Disk Access και Messages connector), κάτι που ο Έιτεν αρνήθηκε ότι παραχώρησε.

Τέλος, η Ριβέρα υπογραμμίζει ότι οι κίνδυνοι αγγίζουν ακόμη και όσους δεν χρησιμοποιούν τέτοιους βοηθούς: «Όταν ο ψηφιακός βοηθός σου διαβάζει τα εισερχόμενά σου, διαβάζει επίσης όσα σου έστειλαν οι φίλοι και η οικογένειά σου, ακόμα κι αν εκείνοι δεν συμφώνησαν ποτέ ρητά σε αυτό».

Διαβάστε επίσης:

«Δαίδαλος»: Αυτός είναι ο πανίσχυρος εθνικός υπερυπολογιστής

Κατασκοπεία μέσω online διαφημίσεων: Ισραηλινή εταιρεία έστησε τεράστια επιχείρηση υποκλοπών χωρίς καμία αλληλεπίδραση με τον χρήστη

Ανησυχία για τα χακαρίσματα από AI Agents: Ο Χασάμπης της DeepMind προτείνει την ίδρυση διεθνούς οργανισμού

Ακολουθήστε το topontiki.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, τη στιγμή που συμβαίνουν.