Πώς το Διαδίκτυο κρατά τους φτωχούς σε φτωχές γειτονιές

Besykje Ús Ynstrumint Foar It Eliminearjen Fan Problemen

Αυτές οι αόρατες αποφάσεις μας ομαδοποιούν ψηφιακά — και στην πραγματική ζωή.

Τον Οκτώβρη, Δημοσιογράφοι της ProPublica πήγε στο Facebook και αγόρασε μια αγγελία που σχετίζεται με τη στέγαση .

Ήθελαν να αποκαλύψουν πώς το Facebook επέτρεπε στους διαφημιστές να κάνουν διακρίσεις με βάση τη φυλή. Έτσι χρησιμοποίησαν τα διαφημιστικά εργαλεία του Facebook για να αποκλείσουν ορισμένους χρήστες από το να δουν τη διαφήμιση: Αφροαμερικανούς, Ασιατοαμερικανούς και Ισπανόφωνους.

Αυτό ήταν ξεκάθαρα παραβίαση του Νόμος για δίκαιη στέγαση , που λέει ότι οι διαφημίσεις ακινήτων δεν μπορούν να δείχνουν προτίμηση για άτομα με βάση τη φυλή, το χρώμα, τη θρησκεία, το φύλο, την αναπηρία ή την οικογενειακή κατάσταση.

Οι οικιστικές διακρίσεις συμβαίνουν συνεχώς. Αλλά το συγκλονιστικό εδώ ήταν πόσο εμφανώς το εργαλείο επέτρεπε στους διαφημιστές να κάνουν διακρίσεις. Στο Facebook, το μόνο που έπρεπε να κάνουν ήταν να τσεκάρουν ένα πλαίσιο.

Θύμιζε τα απροκάλυπτα συστήματα που ανάγκασαν τον οικιστικό διαχωρισμό στην Αμερική, τώρα και στο παρελθόν. Στη δεκαετία του 1940, η ομοσπονδιακή διοίκηση στέγασης αρνήθηκε να επιστρέψει στεγαστικά δάνεια για μαύρους - και όσους ήθελαν να ζήσουν κοντά μαύροι άνθρωποι.

Σήμερα, είναι συνήθως πιο αποχρώσεις. Όπως επεσήμανε η συνήγορος της στέγασης Έριν Μπογκς, υπάρχουν πόλεις που προτιμούν οικονομικά προσιτή στέγαση στους ανθρώπους που ζουν ήδη εκεί - πράγμα που συχνά σημαίνει ότι οι κυρίως λευκές γειτονιές παραμένουν έτσι:

Μετά τη δημοσίευση της ιστορίας του ProPublica, το Facebook είπε ότι θα λειτουργούσε σε ένα διορθώσετε .

Αυτό ήταν ένα σαφώς ορατό πρόβλημα. Τα τρομακτικά προβλήματα είναι αόρατα.

Κάθε φορά που σας αρέσει κάτι στο Facebook ή αναζητάτε κάτι στο Google, αυτές οι εταιρείες μαθαίνουν λίγα περισσότερα για εσάς — και παρέχουν μια ελαφρώς πιο εξατομικευμένη εμπειρία με βάση αυτό. Και άνθρωποι διαφορετικών φυλών και τάξεων έχουν διαφορετικές ανάγκες και περιορισμούς, επομένως όλοι χρησιμοποιούμε το Διαδίκτυο διαφορετικά. Με τη σειρά μας, έχουμε μια ακόμη πιο εξατομικευμένη εμπειρία.

Αυτό το κινούμενο σχέδιο αφορά τον τρόπο με τον οποίο αυτές οι εξατομικευμένες εμπειρίες επηρεάζουν είτε έχουμε ευκαιρίες στον πραγματικό κόσμο είτε όχι — όπως την ευκαιρία να μετακομίσουμε σε μια καλύτερη γειτονιά. Αυτή η ιστορία θα μπορούσε κάλλιστα να αφορούσε τις λίστες θέσεων εργασίας ή τις διαφημίσεις κολεγίων, αλλά φαίνεται κατάλληλο να μιλήσουμε για το πώς μας έχουν ταξινομήσει οι αλγόριθμοι στο διαδίκτυο και, με τη σειρά τους, στην πραγματική ζωή.

Όταν η φύση της διάκρισης προκύπτει μέσω της εξατομίκευσης, είναι δύσκολο να καταλάβεις ότι υφίστανται διακρίσεις, είπε ο Michael Tschantz, ερευνητής του Carnegie Mellon.

Για παράδειγμα, ας υποθέσουμε ότι ένας προγραμματιστής χτίζει hipster condos και δημιουργεί μια διαφήμιση — και στοχεύει τους θαυμαστές του Pearl Jam.

Το κάνει αυτό γιατί πιστεύει ότι ταιριάζει με την αισθητική. Αυτό από μόνο του είναι καλό.

Αλλά αν οι περισσότεροι θαυμαστές του Pearl Jam είναι λευκοί, τότε η διαφήμιση έχει αποκλείσει τα μη λευκά άτομα από το να δουν τη διαφήμιση.

Αυτό είναι το παράδειγμα που έδωσε η δικηγόρος της Αμερικανικής Ένωσης Πολιτικών Ελευθεριών, Ρέιτσελ Γκούντμαν, όταν περιέγραψε γιατί αυτό το πρόβλημα είναι τόσο δύσκολο: Το περιεχόμενο της διαφήμισης στο Facebook είναι σημαντικό. Αλλά νομίζω ότι υπάρχουν τεράστιες δυνατότητες ακόμη και χωρίς αυτές τις σαφείς κατηγορίες — είτε ηθελημένα είτε ακούσια.

Αυτό θα μπορούσε να επηρεάσει ένα ευρύ φάσμα περιθωριοποιημένων ανθρώπων, αλλά η ομάδα που είναι ιδιαίτερα ευάλωτη στις διακρίσεις για τη στέγαση είναι οι μαύροι Αμερικανοί. Οι ρατσιστικές πολιτικές του παρελθόντος μας δημιούργησαν δύο αποκλίνουσες Αμερικές: σε μεγάλο βαθμό γειτονιές της μεσαίας τάξης για τους λευκούς και γειτονιές της κατώτερης τάξης για τους μαύρους. Και το κίνημα για τα πολιτικά δικαιώματα έκανε λίγα για να βοηθήσει τις μαύρες οικογένειες να ξεπεράσουν αυτές τις διακρίσεις και να φύγουν από τις φτωχές γειτονιές.

Πώς ξέρουμε ότι οι αλγόριθμοι δεν μας δίνουν ίσες ευκαιρίες: ένα πείραμα

Πέρυσι, ο Tschantz και ο συνεργάτης ερευνητής του Carnegie Mellon, Amit Datta, ήθελαν να μάθουν περισσότερα για το πώς αυτές οι διαφημιστικές πλατφόρμες έπαιρναν αποφάσεις σχετικά με τους χρήστες.

«Δεν υπάρχει πολύ καλή κατανόηση ή διαφάνεια για το πώς λαμβάνονται αυτές οι αποφάσεις», μου είπε η Ντάτα.

Αποφάσισαν να δοκιμάστε το οικοσύστημα Google Ad , το οποίο χρησιμοποιεί πληροφορίες που συλλέγει για εσάς για την εμφάνιση εξατομικευμένων διαφημίσεων. Οι ερευνητές ήθελαν να δοκιμάσουν μια απλή ερώτηση: Πώς επηρεάζουν οι υποθέσεις της Google για εμάς τις διαφημίσεις που βλέπουμε;

Ο μόνος τρόπος για να το ανακαλύψετε ήταν να προσομοιώσετε τις εμπειρίες 500 χρηστών του Διαδικτύου χρησιμοποιώντας ένα πρόγραμμα υπολογιστή. Για καθεμία από αυτές τις εμπειρίες, οι ερευνητές βρήκαν τρόπους να πουν στην Google για τον εαυτό τους. Για παράδειγμα, υπήρχε μια εναλλαγή στο μενού ρυθμίσεων για να ορίσετε το φύλο κάθε χρήστη — έτσι ώστε να τους επιτρέπει να δοκιμάσουν πώς οι άνδρες και οι γυναίκες αντιμετώπιζαν διαφορετικά όταν αναζητούσαν εργασία.

Από εκεί, επισκέφτηκαν δύο ειδησεογραφικούς ιστότοπους και παρατήρησαν τι είδους διαφημίσεις τους έδειξε η Google. Αυτό που βρήκαν ήταν μια σαφής διάκριση με βάση το φύλο: Οι άνδρες χρήστες είχαν πολύ περισσότερες πιθανότητες από τις γυναίκες να δουν διαφημίσεις για καθοδήγηση σταδιοδρομίας σε επίπεδο στελεχών.

Ο έλεγχος των διαφορών μεταξύ των φύλων είναι ένα πράγμα, επειδή η Google επέτρεψε την επιλογή ορισμού του φύλου κάποιου. Αλλά η Google δεν ζητά ποτέ τη φυλή σας. Αντίθετα, πιθανότατα λαμβάνει αποφάσεις με βάση τη δραστηριότητά σας στο Διαδίκτυο και τις κοινωνικές σας συνδέσεις.

Έτσι, αν αναζητούσατε το Pearl Jam, ο αλγόριθμος μπορεί να αποφασίσει να σας ομαδοποιήσει με άλλους που έκαναν το ίδιο — οι οποίοι τυχαίνει να είναι κυρίως λευκοί. Και την επόμενη φορά που κάποιος θα διαφημίσει μια κατασκευή hipster condo, οι έγχρωμοι μπορεί να μην έχουν την ευκαιρία να δουν αυτήν τη διαφήμιση.

Πώς αντιμετωπίσαμε τις μεροληπτικές αγγελίες στέγασης στις εφημερίδες

Ένας καλός τρόπος για να σκεφτείτε πώς να καταπολεμήσετε αυτές τις διαφημίσεις που εισάγουν διακρίσεις είναι να κοιτάξετε πώς τις καταπολεμήσαμε στο παρελθόν.

Στα τέλη της δεκαετίας του 1980, σχεδόν όλοι οι άνθρωποι στις διαφημίσεις ακινήτων των New York Times ήταν λευκοί, γεγονός που υπονοούσε ότι αυτές οι γειτονιές ήταν αποκλειστικά για λευκούς.

Σύμφωνα με το Νόμος για δίκαιη στέγαση , ένα έγχρωμο άτομο θα μπορούσε να πει ότι μια διαφήμιση ήταν αποκλειστική — και δεν θα έπρεπε να αποδείξει εάν ο διαφημιζόμενος σκόπευε να κάνει διακρίσεις. (Αυτό το μέρος του νόμου ενισχύθηκε σε πρόσφατο ανώτατο δικαστήριο υπόθεση.)

Αλλά το να κυνηγάς κάθε μεμονωμένο διαφημιστή θα ήταν σαν να παίζαμε το παιχνίδι. Έτσι, το 1989, τέσσερις μαύροι επαγγελματίες άσκησαν μήνυση κατά των Times και είπαν ότι η εφημερίδα θα έπρεπε να είναι υπεύθυνη για αυτές τις μεροληπτικές διαφημίσεις. Οι Times υποστήριξαν ότι το δικαίωμά της να δημοσιεύει αυτές τις διαφημίσεις προστατεύεται βάσει της Πρώτης Τροποποίησης, αλλά ένα ομοσπονδιακό δικαστήριο διαφώνησε και είπε ότι η εφημερίδα ήταν υπεύθυνη.

Αυτό οδήγησε τελικά στους Times συμφωνώντας να ελέγξετε τις διαφημίσεις για φυλετική προτίμηση. Ήταν μια μεγάλη νίκη για τους υποστηρικτές της δίκαιης στέγασης.

«Είναι πολύ πιο εύκολο να μετατοπίσεις την κουλτούρα σε πράγματα όπως η διαφήμιση όταν μπορείς να επιτεθείς στο πρόβλημα ανάντη παρά κατάντη», είπε ο Tom Silverstein, δικηγόρος για το Fair Housing and Community Development Project.

Οι δύο τρόποι που τα αντιμετωπίσαμε στο διαδίκτυο

Με βάση αυτή την υπόθεση των New York Times, υπάρχουν δύο γενικά πρότυπα που μας βοηθούν να αντιμετωπίσουμε τις μεροληπτικές διαφημίσεις στέγασης στο διαδίκτυο.

Το πρώτο είναι ότι οι ιστότοποι προστατεύονται από κάτι που ονομάζεται Communications Decency Act, ο οποίος λέει ότι δεν είναι υπεύθυνοι για το περιεχόμενο που υποβάλλεται από τους χρήστες. Έτσι, αν κάποιος δημοσιεύσει μια αγγελία κατοικίας στο Craigslist που λέει 'μόνο λευκό', το είπαν τα δικαστήρια το 2006 ότι το Craigslist δεν ευθύνεται — και αυτό καθιστά αδύνατη την αντιμετώπιση αυτού του προβλήματος ανάντη.

Το δεύτερο πρότυπο είναι ότι οι ιστότοποι δεν μπορούν να δώσουν στους χρήστες τα συγκεκριμένα εργαλεία για να κάνουν διακρίσεις.

Το 2008, ένας ιστότοπος διαφημίσεων κατοικιών, το Roommates.com, είχε μια δυνατότητα που ρωτούσε τους χρήστες εάν είχαν προτιμήσεις για συγκάτοικο με βάση το φύλο, τον σεξουαλικό προσανατολισμό και την παρουσία παιδιών. Τα δικαστήρια είπαν ότι αυτό το χαρακτηριστικό δεν προστατεύεται από τον νόμο περί ευπρέπειας επικοινωνιών. Αυτό σήμαινε ότι η ίδια προστασία που είχε η Craigslist με τις διαφημίσεις στέγασης δεν θα ίσχυε εάν υπήρχε ένα αναπτυσσόμενο μενού που επέτρεπε στους χρήστες να κάνουν διακρίσεις ανά φυλή ή άλλες προστατευόμενες κατηγορίες.

Αργότερα, ομοσπονδιακό δικαστήριο κυβερνούσε ότι ο νόμος περί δίκαιης στέγασης δεν ίσχυε σε κοινές καταστάσεις διαβίωσης, όπως με το Roommates.com — αλλά αυτή η υπόθεση εξακολουθούσε να δείχνει ότι υπήρχε όριο στην προστασία που είχαν οι ιστότοποι βάσει του νόμου περί ευπρέπειας των επικοινωνιών.

Ωστόσο, εδώ είναι το βασικό: Το Roommates.com είχε επίσης ένα πλαίσιο κειμένου ελεύθερης μορφής, όπως το Craigslist, το οποίο επέτρεπε στους χρήστες να κάνουν επιπλέον σχόλια. Και σε αυτόν τον τομέα, τα δικαστήρια είπαν ότι οι χρήστες μπορούσαν να γράψουν ό,τι ήθελαν - συμπεριλαμβανομένων των προτιμώμενων λευκών συγκάτοικων ή μόνο των θαυμαστών του Pearl Jam - και ο ιστότοπος δεν θα φέρει ευθύνη.

Αυτό είναι χρήσιμο για την αντιμετώπιση κατάφωρων διακρίσεων. Τώρα όμως είναι πιο καταστροφικό.

Όταν το Facebook πιάστηκε να δίνει στους διαφημιστές τη δυνατότητα να κάνουν διακρίσεις με βάση τη φυλή, ήταν μια σπάνια στιγμή κατά την οποία οι υποστηρικτές μπορούσαν να υποδείξουν ρητά εργαλεία που θα μπορούσαν να επιδεινώσουν τις διακρίσεις για τη στέγαση. Ο Tschantz, ο ερευνητής του Carnegie Mellon, είπε ότι αυτές οι περιπτώσεις είναι σχετικά εύκολο να λυθούν προβλήματα. Μπορούμε να εμποδίσουμε τους ανθρώπους να κάνουν κατάφωρες διακρίσεις.

Αλλά παίξτε με το παρακάτω διαδραστικό, το οποίο σας επιτρέπει να στοχεύσετε τις κατοικίες των hipster και μπορείτε να δείτε πώς οι πολιτιστικές μας τάσεις διευκολύνουν τη χρήση αυτών των τύπων εργαλείων για διάκριση:

«Πιστεύω ότι εισερχόμαστε σε μια εποχή όπου οι διακρίσεις μπορεί να είναι πιο ολέθριες», είπε ο Tschantz.

Οι περισσότεροι από τους ειδικούς με τους οποίους μίλησα είπαν ότι αυτό είναι το δύσκολο πρόβλημα. Η αντιμετώπιση αυτού του προβλήματος προϋποθέτει να καταλάβουμε πότε γίνονται διακρίσεις — και στη συνέχεια να καταλάβουμε πώς να λύσουμε το πρόβλημα ανάντη με εταιρείες όπως η Google και το Facebook.

Με ενδιαφέρει να δω πώς το κάνουν, να γίνω πρότυπο για άλλους παρόχους Διαδικτύου να κάνουν το ίδιο πράγμα, είπε ο Joe Rich, συνδιευθυντής του Fair Housing and Community Development Project.

Αυτή η δικαστική υπόθεση θα μπορούσε να μας βοηθήσει να γνωρίζουμε εάν οι αλγόριθμοι κάνουν διακρίσεις

Ακόμα κι αν γνωρίζαμε τι συνέβαινε μέσα σε αυτούς τους στοχευμένους αλγόριθμους διαφήμισης, δεν θα μας έλεγε απαραίτητα αν κάνουν διακρίσεις ή όχι.

Ο τρόπος για να μάθετε είναι με τον ίδιο τρόπο με τον οποίο ανακαλύπτουμε εάν ένα κτηματομεσιτικό γραφείο κάνει διακρίσεις: στέλνετε δοκιμαστικούς χρήστες διαφορετικών εθνοτήτων για να χρησιμοποιήσουν το σύστημα και, στη συνέχεια, δείτε εάν αντιμετωπίζονται διαφορετικά.

«Τα αποτελέσματα σημαίνει ότι η δοκιμή είναι ο τρόπος να καταλάβουμε αν γίνονται διακρίσεις», είπε ο Goodman, ο δικηγόρος της ACLU.

Τόσο στην πραγματική όσο και στην ψηφιακή έκδοση, οι δοκιμαστές δεν ενδιαφέρονται για την πρόθεση. Τους ενδιαφέρει μόνο αν ο αλγόριθμος ή το κτηματομεσιτικό γραφείο έχει προκατάληψη.

Αυτό προσπάθησαν να κάνουν δύο ερευνητές - ο Christian Sandvig του Πανεπιστημίου του Μίσιγκαν και η Karrie Karahalios του Πανεπιστημίου του Ιλινόις -. Ήθελαν να δημιουργήσουν ένα πρόγραμμα υπολογιστή που θα ελέγχει εάν οι ιστοσελίδες ακινήτων κάνουν διακρίσεις κατά των ανθρώπων κατά φυλή.

Αλλά όταν οι ερευνητές προσπάθησαν να πραγματοποιήσουν αυτές τις δοκιμές, συνειδητοποίησαν ότι θα ήταν έγκλημα.

Αυτό οφείλεται στο γεγονός ότι θα έπρεπε να δημιουργήσουν πολλά πλαστά προφίλ για να δοκιμάσουν τις διακρίσεις για διάφορα δημογραφικά στοιχεία, και αυτό θα παραβίαζε τους όρους παροχής υπηρεσιών αυτών των ιστότοπων - ένα έγκλημα βάσει του νόμου περί απάτης και κατάχρησης υπολογιστών.

Έτσι ήρθε ο αγώνας σε αυτό το μέτωπο.

Το ACLU φέτος υπέβαλε καταγγελία εκ μέρους αυτών των ερευνητών, καθώς και άλλων, σε Sandvig κατά Lynch . Αμφισβητούν τον νόμο που καθιστά έγκλημα την παραβίαση των όρων υπηρεσίας ενός ιστότοπου, επειδή, όπως είπε ο Goodman, 'δημιουργεί ένα ανατριχιαστικό αποτέλεσμα για την έρευνα σχετικά με το είδος των διακρίσεων για το οποίο μιλάμε εδώ'.

Ενώ αυτή η υπόθεση είναι ζωτικής σημασίας για την ενδυνάμωση εξωτερικών οντοτήτων να κρατούν υπό έλεγχο αυτά τα συστήματα, αυτή θα μπορούσε να είναι μια άλλη έκδοση του whack-a-mole. Όπως και πριν, το ερώτημα είναι πώς να βρούμε έναν τρόπο να σταματήσουμε αυτές τις διαφημίσεις πριν φτάσουν στους καταναλωτές. Αυτός είναι ο λόγος για τον οποίο αρκετοί υποστηρικτές και ερευνητές με τους οποίους μίλησα είπαν ότι θα είναι σημαντικό να καταλάβουμε πώς οι εταιρείες μπορούν να κάνουν αυτοέλεγχο.

«Αυτά τα συστήματα μεγάλης κλίμακας γίνονται τόσο περίπλοκα που [οι εταιρείες] δυσκολεύονται να τα κυβερνήσουν, είπε ο Tschantz. «Αυτό που ελπίζω να συμβεί είναι ότι αυτές οι εταιρείες αναπτύσσουν εσωτερικούς μηχανισμούς πριν επηρεάσουν πραγματικά εξωτερικούς χρήστες».

Και αν είστε πραγματικά αισιόδοξοι, θα μπορούσατε να δείτε πώς αυτά τα εργαλεία θα μπορούσαν πραγματικά να λειτουργήσουν για την επίλυση των ίδιων των προβλημάτων που μας ανησυχούν.

Για παράδειγμα, ήταν απίστευτα δύσκολο να βοηθηθούν οι μαύροι Αμερικανοί να εγκαταλείψουν τις γειτονιές της συγκεντρωμένης φτώχειας. Αυτό είναι ανησυχητικό γιατί η έρευνα δείχνει τώρα ζώντας σε εκείνα τα μέρη έχει ανόμοιο αντίκτυπο σχεδόν σε όλα: υγεία, εκπαίδευση, ακόμα και ευτυχία. Στην πραγματικότητα, μια μελέτη ορόσημο από τον Patrick Sharkey του NYU έδειξε ότι ακόμη και μετά το κίνημα για τα πολιτικά δικαιώματα, ο αριθμός των μαύρων παιδιών που μεγαλώνουν σε πολύ φτωχές γειτονιές δεν έχει αλλάξει:

Όμως, όπως είπε ο Silverstein, ορισμένα από αυτά τα εργαλεία, εάν χρησιμοποιούνταν σε ένα πλαίσιο συνειδητό για τα πολιτικά δικαιώματα, θα μπορούσαν πραγματικά να είναι χρήσιμα για την άρση των φραγμών στον διαχωρισμό.

Με άλλα λόγια, αυτοί οι αλγόριθμοι έχουν τη δύναμη να εδραιώσουν περαιτέρω το μέρος που ζούμε — έτσι αυτό σημαίνει ότι μπορούμε να τους σχεδιάσουμε ώστε να ωθήσουν και προς την αντίθετη κατεύθυνση.