Uusi digitaalinen jako on ihmisten välillä, jotka jättävät pois algoritmeista ja ihmisistä, jotka eivät Tiedätkö mitä tapahtuu, kun jaat tietojasi? mtkang / shutterstock.com

Jokainen elämän osa voidaan ohjata keinotekoisten älykkyysalgoritmien avulla - valita, mitä reittiä aamulla kuljettaa, päättää, kuka ottaa päivämäärän, monimutkaisiin oikeudellisiin ja oikeudellisiin asioihin, kuten ennakoivaan poliisitoimintaan.

Suuret teknologiayritykset, kuten Google ja Facebook, käyttävät AI: tä saadakseen oivalluksia niiden yksityiskohtaisista yksityiskohtaisista asiakastiedoista. Näin he voivat ansaita käyttäjien kollektiiviset mieltymykset käytäntöjen, kuten mikro-kohdistamisen, avulla, jota mainostajat käyttävät tiettyjen käyttäjäryhmien kohdentamisessa.

Samanaikaisesti useat ihmiset luottavat nyt foorumeihin ja algoritmeihin enemmän kuin omien hallitustensa ja kansalaisyhteiskunnansa. Lokakuun 2018-tutkimuksessa ehdotettiin, että ihmiset osoittavat "algoritmin arvostus, ”Siinä määrin, että ne luottaisivat enemmän neuvontaan, kun he ajattelevat, että kyseessä on algoritmi kuin ihmisestä.

Aiemmin teknologian asiantuntijat ovat huolissaan a "Digitaalinen jako" niiden välillä, jotka voisivat käyttää tietokoneita ja Internetiä, sekä niitä, jotka eivät pystyneet. Kotitaloudet, joilla on vähemmän digitaalista teknologiaa, ovat epäedullisessa asemassa ansaita rahaa ja kerää taitoja.


sisäinen tilausgrafiikka


Mutta kun digitaaliset laitteet lisääntyvät, jakauma ei ole enää vain pääsy. Miten ihmiset käsittelevät informaation ylikuormitusta ja lukuisia algoritmisia päätöksiä, jotka läpäisevät jokaisen elämän osa-alueensa?

Savvier-käyttäjät siirtyvät pois laitteista ja tietävät, miten algoritmit vaikuttavat heidän elämäänsä. Samaan aikaan vähemmän informaatiota käyttävät kuluttajat luottavat entistä enemmän algoritmeihin ohjaamaan päätöksiä.

Jos pysyt yhteydessä - tai irrota pistoke? pryzmat / shutterstock.com

Salainen kastike keinotekoisen älykkyyden takana

Uuden digitaalisen kuilun tärkein syy, mielestäni henkilö, joka opiskelee tietojärjestelmiä, on se niin harvat ymmärtävät, miten algoritmit toimivat. Useimmille käyttäjille algoritmeja pidetään mustana laatikkona.

AI-algoritmit ottavat dataa, sovittavat ne matemaattiseen malliin ja antavat ennusteen aina mitä kappaleita saatat nauttia että kuinka monta vuotta joku pitäisi viettää vankilassa. Nämä mallit on kehitetty ja muokattu aiempien tietojen ja aiempien mallien onnistumisen perusteella. Useimmat ihmiset - jopa joskus itse algoritmin suunnittelijat - eivät todellakaan tiedä, mitä mallin sisällä on.

Tutkijat ovat jo pitkään olleet huolissaan algoritmisesta oikeudenmukaisuudesta. Esimerkiksi Amazonin AI-pohjainen rekrytointityökalu osoittautui hylätä naisehdokkaita. Amazonin järjestelmä oli valikoiva poiminta implisiittisesti sukupuoleen perustuvat sanat - sanat, joita miehet käyttävät todennäköisemmin jokapäiväisessä puheessa, kuten "teloitettu" ja "kaapattu".

Muut opinnot ovat osoittaneet, että oikeudelliset algoritmit ovat rasistisesti puolueellisia ja tuomitsevat huonoja mustia vastaajia kauemmin kuin toiset.

Osana äskettäin hyväksyttyä Euroopan unionin yleistä tietosuojaa koskevaa asetusta ihmiset ovat "Oikeus selitykseen" kriteerit, joita algoritmit käyttävät päätöksissään. Tämä lainsäädäntö käsittelee algoritmisen päätöksenteon prosessia kuin reseptikirjaa. Ajatellaan, että jos ymmärrät reseptin, voit ymmärtää, miten algoritmi vaikuttaa elämäänne.

Samaan aikaan jotkut AI-tutkijat ovat ajaneet algoritmeja oikeudenmukainen, vastuullinen ja avoinSekä interpretable, mikä tarkoittaa, että heidän pitäisi tehdä päätöksensä prosessien kautta, joita ihmiset voivat ymmärtää ja luottaa.

Mitä vaikutuksia avoimuus vaikuttaa? Sisään Yhdessä tutkimuksessa, opiskelijat luokiteltiin algoritmilla ja tarjosivat erilaisia ​​selityksiä siitä, miten heidän ikäisensä tulokset on mukautettu saadakseen lopullisen arvosanan. Opiskelijat, joilla on avoimemmat selitykset, luottivat algoritmiin vähemmän. Tämä viittaa jälleen digitaaliseen kuiluun: algoritminen tietoisuus ei johda enemmän luottamukseen järjestelmään.

Mutta avoimuus ei ole ihmelääke. Vaikka algoritmin kokonaisprosessi on luonnosteltu, yksityiskohdat voivat silti olla liian monimutkaisia jotta käyttäjät voivat ymmärtää. Avoimuus auttaa vain käyttäjiä, jotka ovat riittävän kehittyneitä ymmärtämään algoritmien monimutkaisuutta.

Esimerkiksi 2014issa Ben Bernanke, entinen Federal Reserve -jäsen, oli alun perin kieltäytyi asuntolainojen jälleenrahoituksesta automatisoidulla järjestelmällä. Useimmat yksityishenkilöt, jotka hakevat tällaista asuntolainan jälleenrahoitusta, eivät ymmärrä, miten algoritmit voisivat määrittää niiden luottokelpoisuuden.

Mitä algoritmi sanoo tehdä tänään? Maria Savenko / shutterstock.com

Uuden tiedon ekosysteemin poistaminen

Vaikka algoritmit vaikuttavat niin paljon ihmisten elämään, vain pieni osa osallistujista on tarpeeksi hienostunut, jotta he voivat osallistua täysin miten algoritmit vaikuttavat heidän elämäänsä.

Algoritmia tuntevien ihmisten lukumäärästä ei ole paljon tilastoja. Tutkimukset ovat löytäneet todisteita algoritminen ahdistus, joka johtaa syvään epätasapainoon algoritmeja käyttävien alustojen välillä käyttäjistä, jotka ovat niistä riippuvaisia.

Tutkimus Facebookin käytöstä havaitsi, että kun osallistujat saivat tietää Facebookin algoritmista uutislähetysten kuraatiolle, noin 83% osallistujista muutti käyttäytymistään yrittäessään hyödyntää algoritmia, kun taas noin 10: ssa noin vähensi Facebookin käyttöä.

Pew Research Centerin marraskuun 2018-raportti totesi, että suurella yleisöllä oli huomattavia huolenaiheita algoritmien käytöstä tiettyihin käyttötarkoituksiin. Se havaitsi, että 66%: n mielestä ei olisi oikeudenmukaista, että algoritmit laskisivat henkilökohtaisia ​​rahoituspisteitä, kun taas 57% sanoi saman automatisoidun seulonnan jatkamisesta.

Pieni osa yksilöistä hallitsee jonkin verran sitä, miten algoritmit käyttävät henkilötietojaan. Esimerkiksi Hu-Manity -ympäristö mahdollistaa käyttäjien mahdollisuus hallita, kuinka paljon tietoja kerätään. Online-tietosanakirja Everipedia tarjoaa käyttäjille mahdollisuuden olla sidosryhmä kurssiprosessissa, mikä tarkoittaa, että käyttäjät voivat myös ohjata, miten tiedot kootaan ja esitetään heille.

Suurin osa alustoista ei kuitenkaan tarjoa loppukäyttäjille tällaista joustavuutta tai oikeutta valita, miten algoritmi käyttää heidän mieltymyksiään uutislähetyksensä kuromisessa tai niiden suosituksessa. Jos on vaihtoehtoja, käyttäjät eivät ehkä tiedä niistä. Noin 74% Facebookin käyttäjistä sanoi kyselyssä, että he olivat ei ole tietoinen siitä, miten foorumi luonnehtii heidän henkilökohtaisia ​​etujaan.

Uuden digitaalisen lukutaidon ei mielestäni käytetä tietokonetta tai internetiä, vaan ymmärretään ja arvioidaan aina aina kytkettyyn elämäntapaan liittyviä seurauksia.

Tämä elämäntapa vaikuttaa merkittävästi miten ihmiset ovat vuorovaikutuksessa muiden kanssa; niiden kyvystä kiinnitä huomiota uuteen tietoon; ja edelleen päätöksentekoprosessien monimutkaisuus.

Myös algoritmisen ahdistuksen lisääntymistä voi kuvata talouden rinnakkaiset muutokset. Pieni joukko yksilöitä on automatisoinnista saatavien voittojen kerääminen, kun taas monet työntekijät ovat a epävarmassa asemassa.

Algoritmisesta kuraatiosta poistuminen on ylellisyyttä - ja se voisi jonain päivänä olla vain valitun muutaman käytettävissä olevan vaurauden symboli. Kysymys on sitten siitä, mitkä ovat mitattavissa olevat haitat niille, jotka ovat digitaalisen kuilun väärällä puolella.

Author

Anjana Susarla, tietojärjestelmien dosentti, Michigan State University

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.

Liittyvät kirjat

at InnerSelf Market ja Amazon