Kasvojentunnistusalgoritmit testataan yleensä valkoisia kasvoja käyttämällä, mikä johtaa siihen, että tekniikka ei pysty erottelemaan rotuun kuuluvien henkilöiden välillä. (Shutterstock)
Detroitin poliisi pidätti Robert Julian-Borchak Williamsin perusteettomasti tammikuussa 2020 kaksi vuotta aikaisemmin tapahtuneen myymälätapahtuman vuoksi. Vaikka Williamsilla ei ollut mitään tekemistä tapahtuman kanssa, Michiganin osavaltion poliisin käyttämä kasvojentunnistustekniikka “sovitti” hänen kasvonsa rakeiseen kuvaan, joka saatiin myymälässä olevasta valvontavideosta, jossa toinen afrikkalainen amerikkalainen mies otti 3,800 dollarin arvosta kelloja.
Kaksi viikkoa myöhemmin tapaus hylättiin syyttäjän pyynnöstä. Väärin virheelliseen otteluun vedoten poliisi oli kuitenkin jo käsiraudannut ja pidättänyt Williamsin perheensä edessä, pakottanut hänet toimittamaan mukilaskun, sormenjäljet ja näytteen hänen DNA: sta, kuulusteltu häntä ja vangittu hänet yön yli.
Asiantuntijat väittävät, että Williams ei ole yksin ja että muut ovat joutuneet samanlaisiin epäoikeudenmukaisuuksiin. Poliisin jatkuvasta kiistasta Clearview AI: n käytöstä korostaa varmasti kasvojentunnistustekniikan aiheuttamia yksityisyyden riskejä. Mutta on tärkeää ymmärtää se kaikki meistä eivät kanna näitä riskejä yhtä lailla.
Rasististen algoritmien koulutus
Kasvojentunnistustekniikka, joka on harjoiteltu ja viritetty valkoihoisiin kasvoihin identifioi ja merkitsee väärin rodulliset yksilöt: lukuisat tutkimukset ilmoittavat, että kasvojentunnistustekniikka on ”virheellinen ja puolueellinen, huomattavasti korkeammalla virhetasolla värillisiä ihmisiä vastaan"
Tämä heikentää rodullisten henkilöiden yksilöllisyyttä ja inhimillisyyttä jotka tunnistetaan todennäköisemmin väärin rikollisiksi. Teknologia - ja sen tekemät tunnistamisvirheet - heijastavat ja syventävät edelleen pitkäaikaisia sosiaalisia jakoja, jotka ovat syvästi takertuneena rasismiin, seksismiin, homofobiaan, uudisasukkaiden kolonialismiin ja muihin risteyttäviin sortoihin.
{vembed Y = vSuDE6wvQlU}
France24: n tutkimus rodun puolueellisuudesta kasvojentunnistustekniikassa.
Kuinka tekniikka luokittelee käyttäjät
Hänen pelinsä muuttavassa kirjassaan 1993 Panoptic Sort, tutkija Oscar Gandy varoitti, että ”monimutkaisella tekniikalla [joka] sisältää ihmisten ja ryhmien tietojen keräämistä, käsittelyä ja jakamista ja joka syntyy heidän päivittäisestä elämästään - käytetään koordinoimaan ja valvomaan heidän pääsyään tavaroihin ja palveluihin, jotka määrittelevät elämän moderni kapitalistinen talous. ” Lainvalvonta käyttää sitä kitkemään epäiltyjä suurelta yleisöltä, ja yksityiset organisaatiot käyttävät sitä selvittääkseen, onko meillä pääsy sellaisiin asioihin pankkitoiminta ja työllisyys.
Gandy varoitti profeetallisesti, että jos tätä kyberneettistä triaatiota ei pidetä tarkasti, se asettaa räjähdysmäisesti epätasa-arvoisia tasa-arvoa etsivien yhteisöjen jäseniä - esimerkiksi rotuihin osallistuvia tai sosioekonomisesti heikommassa asemassa olevia ryhmiä - sekä suhteessa siihen, mikä heille osoitetaan kuinka he saattavat ymmärtää itsensä.
Noin 25 vuotta myöhemmin, elämme nyt panoptisen tyyppisiä steroideja. Ja esimerkkejä sen kielteisistä vaikutuksista tasa-arvoa etsiviin yhteisöihin on runsaasti, kuten Williamsin virheellinen tunnistaminen.
Aiemmin olemassa oleva puolueellisuus
Tämä algoritmeja käyttävä lajittelu tunkeutuu arjen tärkeimpiin piirteisiin, aiheuttaen sen seurauksena sekä suoraa että rakenteellista väkivaltaa.
Williamsin kokenut suora väkivalta ilmenee välittömästi hänen pidättämistä ja pidättämistä ympäröivissä tapahtumissa. Hänen kokemansa henkilökohtaiset vahingot ovat ilmeisiä, ja ne voidaan jäljittää poliisin toimintaan, joka päätti luottaa tekniikan "otteluun" pidätykseen. Salaperäisempi on rakenteellinen väkivalta syyllistynyt kasvojentunnistustekniikkaan ja muut digitaalitekniikat luokitella, luokitella ja lajitella yksilöitä tavalla, joka suurentaa olemassa olevia syrjiviä malleja.
Rakenteelliset väkivaltaiset vahingot ovat vähemmän ilmeisiä ja vähemmän suoria ja aiheuttavat tasa-arvoa pyrkiville ryhmille vahinkoa järjestelmällisesti kieltäytymällä vallasta, resursseista ja mahdollisuuksista. Samanaikaisesti se lisää suoraa riskiä ja haittaa kyseisten ryhmien yksittäisille jäsenille.
Ennustava poliisikäyttö historiallisen datan algoritminen käsittely ennustamaan, milloin ja missä uusia rikoksia todennäköisesti esiintyy, osoittaa poliisin resurssit vastaavasti ja sisällyttää tehostetun poliisivalvonnan yhteisöihin, yleensä pienituloisimpiin ja rasistisiin alueisiin. Tämä lisää mahdollisuuksia, että kaikki rikolliset toimet - mukaan lukien vähemmän vakavat rikolliset toimet, jotka eivät muuten edellytä poliisin vastausta - havaitaan ja rangaistaan, mikä lopulta rajoittaa ympäristössä asuvien ihmisten mahdollisuuksia elää.
Ja todisteita epätasa-arvoisuudesta muilla aloilla jatkuu. Sadat opiskelijat Iso-Britanniassa protestoi 16. elokuuta Epäoikeudenmukainen, virheellinen algoritmi, jota Yhdistyneen kuningaskunnan hallitus käytti määrittäessään, mitkä opiskelijat pätevät yliopistoon. Vuonna 2019 Facebookin mikrosuunnittelumainospalvelu auttoi kymmeniä julkisen ja yksityisen sektorin työnantajia sulkea ihmiset pois työpaikkailmoituksista iän ja sukupuolen perusteella. ProPublican suorittama tutkimus on dokumentoitu rotuun perustuva online-tuotteiden hintasyrjintä. Ja hakukoneet tuottavat säännöllisesti rasistisia ja seksistisiä tuloksia.
Pysyvä sorto
Nämä tulokset ovat tärkeitä, koska ne jatkavat ja syventävät olemassa olevaa epätasa-arvoa rotuun, sukupuoleen ja ikään perustuvien ominaisuuksien perusteella. Niillä on merkitystä myös siksi, että ne vaikuttavat syvästi siihen, kuinka me tutustumme itseemme ja ympäröivään maailmaan, joskus tietojen esivalinta saamme tavalla, joka vahvistaa stereotyyppisiä käsityksiä. Jopa teknologiayritykset tunnustavat itse kiireellisyys pysäyttää algoritmeja jatkamasta syrjintää.
Tähän mennessä teknologiayritysten itsensä suorittamien ad hoc -tutkimusten menestys on ollut epäjohdonmukaista. Toisinaan syrjivien järjestelmien tuottamiseen osallistuvat yritykset vetävät ne markkinoilta, esimerkiksi milloin Clearview AI ilmoitti, ettei se enää tarjoa kasvojentunnistustekniikkaa Kanadassa. Mutta usein tällaiset päätökset johtuvat pelkästään sääntelyn valvonnasta tai julkisesta väkivallasta jälkeen tasa-arvoa etsivien yhteisöjen jäsenille on jo tehty vahinko.
On aika antaa sääntelylaitoksillemme välineet, joita ne tarvitsevat ongelman ratkaisemiseksi. Yksinkertaisia yksityisyydensuojaa, joka riippuu henkilökohtaisen suostumuksen saamisesta, jotta yritykset voivat tarttua ja kerätä tietoja, ei voida erottaa käytön syrjivistä tuloksista. Tämä pätee erityisesti aikakaudella, jolloin suurin osa meistä (mukaan lukien teknologiayritykset itse) ei voi täysin ymmärtää mitä algoritmit tekevät tai miksi ne tuottavat erityisiä tuloksia.
Yksityisyys on ihmisoikeus
Osa ratkaisusta edellyttää nykyisten sääntelysiilojen hajottamista, joissa yksityisyyttä ja ihmisoikeuksia käsitellään erillisinä kysymyksinä. Hyväksyntäpohjaiseen tietosuojamalliin vedoten noudatetaan perusperiaatetta, jonka mukaan yksityisyys ja tasa-arvo ovat molemmat ihmisoikeuksia, joita ei voida sulkea pois.
Jopa Kanadan digitaalinen peruskirja - liittovaltion hallituksen viimeisin yritys vastata digitaalisen ympäristön nykytilan puutteisiin - säilyttää nämä käsitteelliset erot. Se käsittelee vihaa ja ääriliikkeitä, hallintaa ja suostumusta sekä vahvaa demokratiaa erillisinä kategorioina.
Algoritmisen syrjinnän torjumiseksi meidän on tunnustettava ja kehitettävä sekä yksityisyys että tasa-arvo ihmisoikeuksiksi. Ja meidän on luotava infrastruktuuri, joka on yhtä tarkkaavainen ja asiantunteva molemmissa. Ilman tällaisia ponnisteluja matematiikan ja tieteen kiiltävä kiilto jatkaa AI: n syrjivien puolueiden naamioimista, ja Williamsin kaltaisten kauppojen voidaan odottaa lisääntyvän.
Tietoja Tekijät
Jane Bailey, lakiprofessori ja eQuality-projektin johtaja, L'Université d'Ottawa / Ottawan yliopisto; Jacquelyn Burkell, apulaisjohtaja, tutkimus, Länsi-yliopistoja Valerie Steeves, täydellinen professori, L'Université d'Ottawa / Ottawan yliopisto
Tämä artikkeli julkaistaan uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.
Kirjat epätasa-arvosta Amazonin bestseller-luettelosta
"Kasti: tyytymättömyytemme alkuperä"
Kirjailija Isabel Wilkerson
Tässä kirjassa Isabel Wilkerson tutkii kastijärjestelmien historiaa yhteiskunnissa ympäri maailmaa, myös Yhdysvalloissa. Kirja tutkii kastien vaikutusta yksilöihin ja yhteiskuntaan ja tarjoaa puitteet eriarvoisuuden ymmärtämiselle ja käsittelemiselle.
Klikkaa saadaksesi lisätietoja tai tilataksesi
"Lain väri: unohdettu historia siitä, kuinka hallituksemme erotti Amerikan"
kirjoittanut Richard Rothstein
Tässä kirjassa Richard Rothstein tutkii hallituksen politiikan historiaa, joka loi ja vahvisti rotuerottelua Yhdysvalloissa. Kirja tarkastelee näiden politiikkojen vaikutuksia yksilöihin ja yhteisöihin ja tarjoaa toimintakehotuksen jatkuvan eriarvoisuuden poistamiseksi.
Klikkaa saadaksesi lisätietoja tai tilataksesi
"Meidän summa: mitä rasismi maksaa kaikille ja kuinka voimme menestyä yhdessä"
Kirjailija: Heather McGhee
Tässä kirjassa Heather McGhee tutkii rasismin taloudellisia ja sosiaalisia kustannuksia ja tarjoaa näkemyksen oikeudenmukaisemmalta ja vauraammalta yhteiskunnalta. Kirja sisältää tarinoita eriarvoisuutta haastavista yksilöistä ja yhteisöistä sekä käytännön ratkaisuja osallistavamman yhteiskunnan luomiseen.
Klikkaa saadaksesi lisätietoja tai tilataksesi
"Alijäämämyytti: moderni rahateoria ja kansantalouden synty"
Kirjailija: Stephanie Kelton
Tässä kirjassa Stephanie Kelton haastaa perinteiset ajatukset julkisista menoista ja kansantalouden alijäämästä ja tarjoaa uudet puitteet talouspolitiikan ymmärtämiselle. Kirja sisältää käytännöllisiä ratkaisuja eriarvoisuuden torjumiseen ja tasa-arvoisemman talouden luomiseen.
Klikkaa saadaksesi lisätietoja tai tilataksesi
"Uusi Jim Crow: Joukkovankeus värisokeuden aikakaudella"
kirjoittanut Michelle Alexander
Tässä kirjassa Michelle Alexander tutkii tapoja, joilla rikosoikeusjärjestelmä ylläpitää rodullista eriarvoisuutta ja syrjintää erityisesti mustia amerikkalaisia kohtaan. Kirja sisältää historiallisen analyysin järjestelmästä ja sen vaikutuksista sekä kehotuksen uudistukseen.
