13/08/2020 06:13:07
21.6.2020 / ΥΠΑΤΙΑ ΚΟΚΚΙΝAΚΗ
Δημοσιεύτηκε στο ΠΟΝΤΙΚΙ, τεύχος 2130 στις 18-6-2020

Περισσότερος τεχνολογικός ρατσισμός Όλο και λιγότερη αναγνώριση για έγχρωμους ερευνητές από τις μεγάλες εταιρείες

Περισσότερος τεχνολογικός ρατσισμός  Όλο και λιγότερη αναγνώριση για έγχρωμους ερευνητές από τις μεγάλες εταιρείες - Media

 

Οι έγχρωμες κοινότητες είναι συχνά οι πρώτες που δέχονται προειδοποιήσεις για την τεχνολογία παρακολούθησης και οι τελευταίες που αναγνωρίζονται για όσα κάνουν γι’ αυτήν.
Όταν η Amazon ανακοίνωσε μια μονοετή απαγόρευση των εργαλείων αναγνώρισης προσώπου για την αστυνομία, θα έπρεπε να ήταν μια μεγάλη νίκη για την Ντέμπορα Ράτζι, μια μαύρη ερευνήτρια που βοήθησε στη δημοσίευση μιας μελέτης, επισημαίνοντας τη μεροληψία φυλών και φύλων στην αναγνώριση προσώπου της εν λόγω εταιρείας.


Η εταιρεία κάλεσε προ ημερών τις κυβερνήσεις να θέσουν ισχυρότερους κανονισμούς στην τεχνολογία. Πουθενά στην ανάρτησή της όμως δεν αναγνώρισε το έργο της Ράτζι, το οποίο διαπίστωσε ότι το σύστημα «Rekognition» της Amazon αναγνώριζε εσφαλμένα τις γυναίκες ως άνδρες κατά ποσοστό 19% τη φορά.
«Έγραψαν γι’ αυτό και δεν ανέφεραν τη δουλειά μας ή την προσπάθεια της Αμερικανικής Ένωσης για τις Πολιτικές Ελευθερίες (ACLU) να τους καλέσει για το ζήτημα, ήταν πραγματικά απογοητευτικό για αυτούς να μην αναγνωρίσουν τον ρόλο αυτής της έρευνας» δήλωσε η Ράτζι. 


«Πριν από αυτό το μήνυμα δεν έλεγαν τίποτε για την αναγνώριση προσώπων» πρόσθεσε. «Όταν κάνουν ένα βήμα μπροστά, σχεδόν ποτέ δεν αναφέρουν τα ονόματά μας. Είναι πολύ αποθαρρυντικό να το βλέπεις και να καταλαβαίνεις ότι θα κατονομάζεσαι μόνο σε απαντήσεις για το πρόβλημα» ανέφερε.
Μόλις δύο ημέρες νωρίτερα η εταιρεία τεχνολογίας IBM ανακοίνωσε την απόφασή της να αποχωρήσει από την αγορά «αναγνώρισης προσώπων». Ο διευθύνων σύμβουλος της εταιρείας Άρβιντ Κρίσνα έγραψε σε μια επιστολή προς το Κογκρέσο ότι η εταιρεία ήταν ενάντια στην τεχνολογία που χρησιμοποιήθηκε για φυλετικό προφίλ και μαζική παρακολούθηση κινούμενη στο ίδιο μήκος κύματος με όσα υποστηρίζουν εδώ και χρόνια ακτιβιστές.

Μεγάλη οικονομική επίπτωση
Οι εταιρείες ακολουθούν επιτέλους τις συμβουλές εμπειρογνωμόνων που έχουν προειδοποιήσει για τους κινδύνους προκατάληψης στην αναγνώριση προσώπου και σε ευρύτερες τεχνολογίες παρακολούθησης.
Ωστόσο αποτυγχάνουν στο να αποτίσουν φόρο τιμής στους ανθρώπους – εκ των οποίων πολλοί προέρχονται από έγχρωμες κοινότητες – που επισήμαναν πρώτοι τα προβλήματα. Για παράδειγμα οι ανησυχίες σχετικά με τη μεροληψία δεν ήρθαν έτσι ξαφνικά στην IBM. Ήταν ζητήματα που ήρθαν στο φως από δύο ερευνήτριες, την Τζόι Μπουολαμγουίνι και την Τέμνιτ Γκέμπρου, σε ένα πρότζεκτ του 2018.
Η έρευνα έπαιξε σημαντικό ρόλο στην καθοδήγηση του εθνικού διαλόγου για το σύστημα αναγνώρισης προσώπων.

 
Η αναφορά στην ακαδημαϊκή εργασία είναι σημαντική, αλλά η αναγνώριση στη δημόσια υπεράσπιση είναι ζωτικής σημασίας για την προσέλκυση μελλοντικών ερευνητών και χρηματοδότησης. «Οι άνθρωποι δεν συνειδητοποιούν ότι αυτό που κάνει η διαγραφή μας αφαιρεί τη συλλογική επαναστατική φαντασία μας» δήλωσε στο cnet.com η Μουτάλε Νκόντε, διευθύνουσα σύμβουλος του μη κερδοσκοπικού οργανισμού για την εκπαίδευση των μαύρων κοινοτήτων AI For The People.


«Επιτρέπει σε άλλους ανθρώπους να εισέλθουν και να πάρουν τα εύσημα και ενισχύει αυτήν την ιστορία ότι οι μόνοι άνθρωποι που μπορούν να κινήσουν τον κόσμο είναι πλούσιοι και λευκοί» συμπλήρωσε.
Η τεχνολογία της επιτήρησης και παρακολούθησης έχει μετατραπεί σε βασικό ζήτημα χάρη σε εκατοντάδες διαμαρτυρίες ενάντια στην αστυνομική βαρβαρότητα, οι οποίες ζητούν να μειωθεί η οικονομική ενίσχυση της αστυνομίας μετά τη δολοφονία του Τζορτζ Φλόιντ. Τα πολλά εργαλεία επιτήρησης που διαθέτει η αστυνομία χρησιμοποιούνται σε διαδηλωτές. Αλλά εδώ και χρόνια χρησιμοποιούνται σε βάρος των περιθωριοποιημένων κοινοτήτων.


Η αλλαγή σημαίνει σημαντικές αστυνομικές μεταρρυθμίσεις, όπως η πρόταση νόμου «Δικαιοσύνη στις Δράσεις της Αστυνομίας» (Justice in Policing Act) που εισήγαγε το κόμμα των Δημοκρατικών. Η πρόταση περιλαμβάνει περιορισμούς στην επιτήρηση, όπως η απαγόρευση της χρήσης του συστήματος αναγνώρισης προσώπων χωρίς ένταλμα. 
Αυτή η πρόταση προέρχεται από το έργο ερευνητών όπως οι Μπουολαμγουίνι, Ράτζι και Γκέμπρου, και από ανησυχίες που εγείρονται από τις κοινότητες που επηρεάζονται περισσότερο από αυτήν την τεχνολογία.

Οι φυλετικές διακρίσεις
Οι έγχρωμες κοινότητες – ιδιαίτερα αυτές σε περιοχές με χαμηλό εισόδημα – συχνά χρησιμοποιούνται ως «πεδίο δοκιμών» για την τεχνολογία παρακολούθησης. Και το μεγαλύτερο μέρος αυτού του εξοπλισμού χρηματοδοτείται από τους φορολογούμενους και εγκαθίσταται από την αστυνομία σε αυτές τις γειτονιές.
«Όταν έχεις μια τεχνολογία που χρησιμοποιείται συνήθως από τις αστυνομικές αρχές, θα έχεις επίσης μεγαλύτερο ποσοστό έγχρωμων ατόμων που επηρεάζονται» δήλωσε η διευθύνουσα σύμβουλος του AI For The People, Mutale Nkonde.


Στο Ντιτρόιτ, η αστυνομία παρουσίασε το «Project Green Light» το 2016, μια συνεργασία δημόσιου - ιδιωτικού τομέα μέσω της οποίας οι αξιωματούχοι είχαν πρόσβαση σε βίντεο σε πραγματικό χρόνο από επιχειρήσεις και καταστήματα στην πόλη. Οι κάμερες βρίσκονται τώρα σε περισσότερες από 500 τοποθεσίες στην πόλη, της οποίας το 80% του πληθυσμού είναι μαύροι άνθρωποι. 
Το σύστημα αναγνώρισης προσώπων προσφέρεται τώρα ως πολυτέλεια σε πολυκατοικίες, αλλά στη Νέα Υόρκη, οι ενοικιαστές κατοικιών που ανήκουν στο Δημόσιο έζησαν με αυτό από το 2013. Στο Μπρούκλιν, ενοικιαστές όπως οι Fabian Rogers και Tranae Moran, απέτρεψαν τις εγκαταστάσεις συστήματος αναγνώρισης προσώπων για το συγκρότημα κατοικιών τους.


Και οι δύο είχαν μια προσωπική εμπειρία με την τεχνολογία παρακολούθησης στα σπίτια τους και είναι από τους πρώτους που έδειξαν ότι αυτά τα εργαλεία μπορούν να απομακρυνθούν. Όταν ξεκίνησε για πρώτη φορά η καμπάνια τους, η Moran περίμενε ότι οι ανησυχίες τους δεν θα έπιαναν τόπο. 
Η νίκη ενάντια στο σύστημα αναγνώρισης προσώπων στην πολυκατοικία τους ήταν μια από τις πρώτες φορές που πολίτες κατάφεραν να εναντιωθούν στο εργαλείο παρακολούθησης και να αλλάξουν την πολιτική. Αυτός ο αγώνας έδειξε ότι η δημόσια κατακραυγή μπορεί να οδηγήσει σε αλλαγές κατά των μέτρων επιτήρησης.
 

ΣΧΟΛΙΑ

Το "Π" σέβεται όλες τις απόψεις, αλλά διατηρεί το δικαίωμά του να μην αναρτά υβριστικά σχόλια και διαφημίσεις. Τα σχόλια απηχούν αποκλειστικά τις απόψεις των αναγνωστών.