Αποτελέσματα – σοκ σε έρευνα του ΜΙΤ από 40 εκατ. απαντήσεις για τον υπό διαμόρφωση «Κώδικα Ηθικής» στα λογισμικά των «οχημάτων χωρίς οδηγό»

Τα οχήματα χωρίς οδηγό βρίσκονται στο στάδιο τελειοποίησης και είναι απλώς θέμα – λίγου – χρόνου να μετεξελιχθούν και να εξαπλωθούν ραγδαία. Πριν, όμως, μπουν στην καθημερινότητά μας, η κοινωνία πρέπει να αντιμετωπίσει ένα καινούργιο βάρος: τον προγραμματισμό των «αυτόνομων» Ι.Χ. σχετικά με το ποιες ζωές θα αποτελέσουν προτεραιότητα σε περίπτωση ατυχήματος.

Τα αυτόνομα αυτοκίνητα θα πρέπει να έχουν στο λογισμικό τους προβλέψεις για κάθε σενάριο και περίπτωση που θα μπορούσαν να αντιμετωπίσουν, όπως συμβαίνει με τους κλασικούς οδηγούς – ανθρώπους.

Με άλλα λόγια, σε ένα πραγματικά αυτόνομο όχημα θα πρέπει να έχουν δοθεί «ηθικές» οδηγίες από τους προγραμματιστές του. Επί της ουσίας, δηλαδή, αυτός ο «κώδικας» θα πρέπει να γίνει αποδεκτός πρώτα από τις κυβερνήσεις και κατόπιν απ’ όλες τις αυτοκινητοβιομηχανίες.

Σε ένα αυτοκίνητο με κανονικό οδηγό είναι η ενστικτώδης ανθρώπινη ηθική που δρα ακαριαία. Π.χ. σε περίπτωση που ο οδηγός χάσει τον έλεγχο του αυτοκινήτου του και κατευθύνεται πάνω σε κόσμο, τότε με ένα στρίψιμο του τιμονιού θα προσπαθήσει να αποφύγει κάποιον ή κάποιους. Ποιον θα προτιμήσει να σώσει, όμως;

Σε ένα αυτόνομο όχημα, ελλείψει οδηγού, αυτή η ενστικτώδης ανθρώπινη ηθική που αποφασίζεται στιγμιαία θα πρέπει να προ-καθοριστεί, προ-αποφασιστεί στο λογισμικό του. Έτσι ώστε οι αλγόριθμοι να μπορούν να λάβουν εκ των προτέρων τις αποφάσεις που ένας άνθρωπος – οδηγός θα λάμβανε ενστικτωδώς.

Μηχανή ηθικής

Το συγκεκριμένο πρόβλημα των αυτόνομων οχημάτων έχει ανεβάσει τη ζήτηση των διακεκριμένων φιλοσόφων και ειδικών παγκοσμίως. Το MIT (Massachusetts Institute of Technology) επιχείρησε μια διαφορετική προσέγγιση. Αποφάσισε, αντί να στραφεί σε φιλοσόφους, να συλλέξει τις απαντήσεις του γενικού κοινού, επί της ουσίας της παγκόσμιας κοινής γνώμης.

Ομάδα διακεκριμένων επιστημόνων από το Χάρβαρντ και το MIT δημιούργησαν γι’ αυτόν τον σκοπό το Moral Machine (Μηχανή της Ηθικής). Πρόκειται για μια ιντερνετική πλατφόρμα που προσέφερε στους επισκέπτες σειρά επιλογών για το ποιον να σώσει και ποιον όχι το αυτόνομο Ι.Χ. σε περίπτωση δυστυχήματος.

Για παράδειγμα, ένα ερώτημα: «Αυτόνομο όχημα παρουσιάζει βλάβη στα φρένα μπροστά σε μια διάβαση πεζών. Αν συνεχίσει ευθεία στην προκαθορισμένη του πορεία ένας άντρας, μια γυναίκα και δύο άστεγοι άνθρωποι αδιευκρίνιστου φύλου θα χτυπηθούν από το όχημα. Αν στρίψει, όμως, τότε τα θύματα θα είναι δυο γυναίκες και δύο άντρες στελέχη επιχειρήσεων. Τι πρέπει να κάνει το αυτοκίνητο;».

Ένα άλλο από τα διατυπωμένα ερωτήματα των ερευνητών: «Αν το αυτοκίνητο είναι να χτυπήσει είτε ένα παιδί είτε ένα ενήλικο άτομο ποιον θα προτιμήσετε να σώσει;».

Η ομάδα του MIT προσπάθησε να συγκεντρώσει αποτελέσματα στην πληθώρα παρόμοιων ερωτημάτων – διλημμάτων απ’ όσο περισσότερους ανθρώπους μπορούσε, από ολόκληρο τον κόσμο. Τελικά, η συμμετοχή του κόσμου στην πλατφόρμα ήταν τεράστια κι έτσι η ομάδα συγκέντρωσε 40 εκατομμύρια απαντήσεις από 233 χώρες.

Τα αποτελέσματα παρουσιάστηκαν στο «Nature», το κορυφαίο παγκοσμίως επιστημονικό έντυπο, στις 24 Οκτωβρίου και ήδη δημιουργούν τεράστια αίσθηση.

Πρόκειται για την αποκάλυψη των προτιμήσεων του κόσμου παγκοσμίως στο «ποιος να ζήσει και ποιος να πεθάνει σε περίπτωση δυστυχήματος με αυτόνομο όχημα, δηλαδή όταν θα πρέπει να αποφασίσει το ίδιο το λογισμικό του Ι.Χ. τι θα γίνει».

Οι ισχυρότερες κοινές τάσεις, που εκφράστηκαν από ανθρώπους σε ολόκληρο τον κόσμο, ήταν:

– Να σωθεί ανθρώπινη ζωή παρά ζώο.

– Η προτίμηση, στο πλαίσιο του δυνατού, να σωθούν όσο περισσότεροι άνθρωποι γίνεται.

– Η προτεραιότητα που δίνουν στα παιδιά συγκριτικά με τους ηλικιωμένους.

– Υπήρξαν ασθενέστερες τάσεις που επέλεγαν να σώσουν γυναίκες αντί άντρες ή πεζούς αντί επιβάτες του οχήματος.

– Οι άνθρωποι που έχουν διαπράξει έγκλημα (π.χ. ένας δολοφόνος που τρέχει να διαφύγει και περνάει μπροστά από το όχημα) κατατάχθηκαν, από την πλειονότητα των ερωτηθέντων, χαμηλότερα από τους σκύλους στη λίστα προτεραιοτήτων. Προτιμούσαν να σκοτωθεί εγκληματίας παρά σκύλος. Πάντως, ήταν μια θέση υψηλότερα από τις γάτες.

– Υπάρχει, επίσης, μια παγκοσμίως, μάλλον χρηστική τάση, να προτιμάται να σωθεί η ζωή ενός γιατρού από άλλους ενήλικες. Συγκριτικά, η προτίμηση της ανθρωπότητας απέναντι στους αθλητές είναι ασθενέστερη. Μεταξύ «γιατρού» ή «αθλητή», η πλάστιγγα γέρνει υπέρ του γιατρού.

Η έρευνα γίνεται ανατριχιαστική σε ορισμένα σημεία της. Για παράδειγμα, η πλειονότητα των ερωτηθέντων προτιμά να σκοτώσει έναν υπέρβαρο άνθρωπο από έναν με φυσιολογικό σωματικό βάρος. Όπως επιλέγει να χτυπηθεί θανάσιμα ένας άστεγος, προκειμένου να σωθεί ένα στέλεχος επιχείρησης.

Οι προτιμήσεις του κόσμου διαφέρουν από χώρα σε χώρα. Για παράδειγμα, η προτίμηση να σωθεί μια γυναίκα ήταν ισχυρότερη στις χώρες όπου υπάρχουν υψηλά επίπεδα ισότητας ανάμεσα στα δύο φύλα και πολύ χαμηλότερη στις χώρες που αντιμετωπίζουν τις γυναίκες άνισα.

Οι ερευνητές βρήκαν ότι οι χώρες του κόσμου ουσιαστικά διαχωρίζονταν, βάσει απαντήσεων, σε τρεις ευρείες κατηγορίες:

1. Τις «δυτικές», που καλύπτουν τη Β. Αμερική και την Ευρώπη.

2. Τις «ανατολικές», που περιλαμβάνουν τη Μ. Ανατολή, την Κίνα και την Ινδία.

Και τις «νότιες», που καλύπτουν τη Λατινική Αμερική και πολλές από τις πρώην γαλλικές αποικίες.

Οι άνθρωποι στις χώρες της «ανατολικής» ομάδας έδειξαν μια ασθενέστερη προτίμηση να σώσουν τους νέους αντί τους γηραιότερους, ενώ στις απαντήσεις της «νότιας» ομάδας η προτίμηση να σώζονται άνθρωποι παρά ζώα είναι χαμηλότερη.

Οι άνθρωποι από χώρες όπως η Κίνα, η Ιαπωνία και η Σ. Αραβία δεν δίνουν τόση προτεραιότητα στους νέους έναντι των ηλικιωμένων όσο οι Ευρωπαίοι. Ο κόσμος από αυτές τις χώρες νοιάζεται επίσης σχετικά λιγότερο να σώσει ανθρώπους «υψηλής αξίας» συγκριτικά με τον κόσμο που απάντησε από Ευρώπη και Β. Αμερική.

Άλλο λογισμικό στα σύνορα

Οι επιστήμονες του MIT και του Χάρβαρντ θεωρούν ότι οι συγκεκριμένες προτιμήσεις μάλλον οφείλονται στις διαφορές μεταξύ ατομικιστικής και συλλογικής κουλτούρας. Έτσι, η ασθενέστερη τάση να σωθούν οι νέοι μπορεί να ερμηνευτεί ως αποτέλεσμα της συλλογικής κουλτούρας «που δίνει έμφαση στον σεβασμό στα πιο ηλικιωμένα μέλη μιας κοινότητας».

Αυτές οι παραλλαγές υποδεικνύουν, σύμφωνα με τους επιστήμονες της έρευνας, ότι «η γεωγραφική και η πολιτισμική εγγύτητα μπορεί να επιτρέψει σε χώρες και περιοχές να συγκλίνουν σε κοινές προτιμήσεις όσον αφορά την ηθική των μηχανών».

Πιθανόν τα αυτόνομα οχήματα να χρειάζονται τη δυνατότητα να «κατεβάζουν» στο λογισμικό τους «νέο κώδικα ηθικής» όταν περνάνε εθνικά σύνορα. Διαφορετικά μέρη του κόσμου θα μπορούσαν να καταλήξουν με διαφορετικά ρυθμιστικά καθεστώτα.

Προκύπτουν, όμως, κι άλλοι παράγοντες που σχετίζονται με διαφορές στις απαντήσεις του κόσμου και που δεν είναι γεωγραφικοί.

Οι άνθρωποι από τις λιγότερο πλούσιες χώρες, για παράδειγμα, με χαμηλότερο κατά κεφαλήν ΑΕΠ και ασθενείς θεσμούς, είναι λιγότερο πρόθυμοι να δουν το αυτόνομο Ι.Χ. τους να πατάει έναν αφηρημένο πεζό που περνάει έναν δρόμο με «κόκκινο» φανάρι από έναν πεζό που διασχίζει τον δρόμο κανονικά. «Μάλλον λόγω της εμπειρίας τους σε μια κοινωνία με μικρότερη συμμόρφωση στους κανόνες και ελαφρύτερης τιμωρίας στην παράβαση των κανόνων» σημειώνουν οι ερευνητές.

Πώς θα μετατραπεί η ηθική σε νομοθεσίες

Πόσο κοντά είμαστε στο να χρειαζόμαστε ρυθμίσεις σε τέτοια θέματα; Η αλήθεια είναι ότι, σύμφωνα με τον «Economist», οι ρυθμίσεις έχουν ήδη αρχίσει να κωδικοποιούνται και οι γενικές έστω προτιμήσεις για το ποιον και τι πρέπει ένα αυτόνομο όχημα να προσπαθήσει να προστατέψει έχουν αρχίσει να τοποθετούνται στο λογισμικό τους ακόμη κι αν οι εταιρείες που εμπλέκονται δεν προτιμούν να μιλούν για αυτές δημοσίως.

Το 2014, για παράδειγμα, ο ιδρυτής του Google X Sebastian Thrun είχε δηλώσει ότι τα αυτόνομα οχήματα της εταιρείας προγραμματίζονταν για να επιλέξουν να χτυπήσουν το μικρότερο από δυο αντικείμενα σε περίπτωση ατυχήματος.

Το 2016 ο Chris Urmson της Google διευκρίνισε ότι τα αυτοκίνητά τους «θα προσπαθούσαν να αποφύγουν να χτυπήσουν απροστάτευτους στόχους, δηλαδή πεζούς και ποδηλάτες». Την ίδια χρονιά στέλεχος της Mercedes φέρεται ότι είπε πως τα αυτόνομα οχήματα της εταιρείας θα έδιναν προτεραιότητα στις ζωές των επιβατών σε περίπτωση ατυχήματος, όμως η Mercedes διέψευσε αργότερα αυτή τη δήλωση και την απέδωσε σε παραποιημένη ερμηνεία.

Ακόμη, βέβαια, τα συστήματα αυτόνομης οδήγησης δεν είναι αρκετά εξελιγμένα κι εκλεπτυσμένα ώστε να ξεχωρίζουν μεταξύ, ας πούμε, ενός νεαρού κι ενός ηλικιωμένου ατόμου. Οι ώς τώρα αλγόριθμοι και αισθητήρες τους μπορούν να πραγματοποιούν πιο «προφανείς» (χονδροειδείς) διακρίσεις, όπως μεταξύ μιας γάτας κι ενός πεζού.

Το θέμα είναι ότι όποια ζωή κι αν αποφασίσουν τα αυτόνομα οχήματα πως θα πρέπει να έχει προτεραιότητα, άνθρωποι πάνω από ζώα ή επιβάτες πάνω από πεζούς, θα είναι μια απόφαση που κάποιον θα δυσαρεστήσει. Πρόκειται για πολύ σοβαρά ηθικά διλήμματα στα οποία δεν υπάρχουν εύκολες απαντήσεις.

Ποιες χώρες έχουν πάρει θέση

Προς το παρόν ο ιδιωτικός τομέας κάνει την περισσότερη δουλειά σε αυτό το θέμα, αλλά οι κυβερνήσεις θα πρέπει εν τέλει να εμπλακούν και να αποφασίσουν. Η Ευρωπαϊκή Ένωση ήδη επεξεργάζεται ηθικές οδηγίες τις οποίες θα επιβάλει μέσω ελεγκτικών νομοθεσιών και πιστοποίησης.

Στις ΗΠΑ το Κογκρέσο έχει ήδη εκδώσει κοινές, διακομματικές αρχές, για μελλοντική ρύθμιση και νομοθέτηση, όμως η διαδικασία αναμένεται να είναι αργή, καθώς οι νομοθέτες είναι πολύ διστακτικοί ακόμα στο να βουτήξουν σε τόσο θολά νερά των ηθικών προτιμήσεων σε περιπτώσεις αυτοκινητικών ατυχημάτων.

Η Γερμανία είναι η μόνη χώρα που έχει προτείνει ηθικούς κανόνες για τα αυτόνομα οχήματα. Ένας από αυτούς είναι ότι η διάκριση βάσει της ηλικίας πρέπει να απαγορευτεί. Οι Γερμανοί νομοθέτες επιχείρησαν να λύσουν τον γόρδιο δεσμό του προβλήματος δηλώνοντας ότι κάθε ανθρώπινη ζωή πρέπει να έχει την ίδια αξία
και ότι κάθε διάκριση βάσει προσωπικών χαρακτηριστικών, όπως η ηλικία ή το φύλο, πρέπει να απαγορευτεί.

Ο δρ Iyad Rajwan, ένας από τους επιστήμονες της έρευνας του ΜΙΤ, τόνισε στον «Economist» ότι ενώ τα συγκεκριμένα σενάρια της έρευνας μπορεί να συμβούν σπάνια, στην πραγματική ζωή (όπως άλλωστε και με τα κανονικά αυτοκίνητα) οι αποφάσεις που θα παίρνουν τα αυτόνομα οχήματα θα επηρεάζουν το ποιος θα ζήσει και ποιος θα πεθάνει και άμεσα, αλλά και με έμμεσους στατιστικούς τρόπους.

Μάλιστα έδωσε το παράδειγμα με τις προσπεράσεις των ποδηλατών. «Αν παραμείνεις κοντά στη λωρίδα των ποδηλατών αυξάνεις τις πιθανότητες να χτυπήσεις έναν ποδηλάτη, αλλά μειώνεις τις πιθανότητες να συγκρουστείς με ένα άλλο αυτοκίνητο στη διπλανή λωρίδα. Αν, λοιπόν, επαναλάβουμε αυτή την τάση σε εκατοντάδες εκατομμύρια διαδρομές, θα δούμε μια αλλαγή στα μοτίβα των ατυχημάτων».

Όμως, όπως τονίζουν οι ερευνητές του MIT, αν αυτή η επιλογή τελικά εφαρμοστεί, θα πηγαίνει ενάντια στην ισχυρή προτίμηση της κοινής γνώμης να σώζονται οι ζωές των νεότερων και να θυσιάζονται οι γηραιότεροι. Αν μια κυβέρνηση εφαρμόσει αυτή την πολιτική, ρωτά η ομάδα του MIT, πώς θα χειριστεί την αντίδραση της κοινής γνώμης «που αναπόφευκτα θα υπάρξει όταν ένα αυτόνομο όχημα θυσιάσει παιδιά σε μια περίπτωση διλήμματος»;

Η έρευνα του ΜΙΤ

Η έρευνα παρουσιάζει την πρώτη θεωρητική προτίμηση των ανθρώπων για το ποιον να σώσουν σε ένα τροχαίο, στην περίπτωση που μεταξύ δύο πεζών ο ένας αναγκαστικά θα πεθάνει. Δόθηκαν 40 εκατομμύρια απαντήσεις από κατοίκους 233 χωρών.

Το δίλημμα είναι μεταξύ ενός μέσου ενήλικα και των παρακάτω:

Άτομο με βρεφικό καροτσάκι: 18% παραπάνω προτίμηση να σώσουν τη ζωή του συγκριτικά με τον μέσο ενήλικα.

Κορίτσι: 17%.

Αγόρι: 16%.

Έγκυος γυναίκα: 15%.

Άνδρας γιατρός: 7%.

Γυναίκα γιατρός: 7%.

Γυναίκα αθλήτρια: 3%.

Γυναίκα ανώτερο στέλεχος επιχείρησης: 2%.

Άνδρας αθλητής: 2%.

Άνδρας στέλεχος επιχείρησης: 1%.

Ακολουθεί η προτίμηση των ανθρώπων ποιοι να σκοτωθούν αντί ενός μέσου ενήλικα:

Υπέρβαρη γυναίκα: -1% (δηλαδή 1% παραπάνω προτίμηση να σκοτωθεί αυτή παρά ο μέσος ενήλικας).

Υπέρβαρος άνδρας: -3%.

Άστεγο άτομο: -4%.

Ηλικιωμένος άνδρας: -5%.

Ηλικιωμένη γυναίκα: -5%.

Σκύλος: -12%.

Άνθρωπος που έχει διαπράξει έγκλημα: -13%.

Γάτα: – 16%.

Πηγή έρευνας: «The Moral Machine Experiment» Nature, Economist