Ahmet Misirligul / Shutterstock

Lyhytelokuva Slaughterbots kuvaa lähitulevaisuutta, jossa mikroherroneiden parvat salamurhaavat tuhansia ihmisiä heidän poliittisen vakaumuksensa vuoksi. Julkaistu marraskuussa 2017 akateemikot ja aktivistit varoittivat kehittyneen tekoälyn vaaroista, se meni nopeasti virukselliseksi, houkutteleen tähän mennessä yli 3m-näkymiä. Se auttoi kipinä a julkista keskustelua itsenäisten aseiden tulevaisuudesta ja painostaa Yhdistyneissä Kansakunnissa kokoontuvia diplomaatteja Perinteisiä aseita koskeva yleissopimus.

Mutta tällainen spekulatiivinen tieteiskirjallisuuskertomus ei ole vain hyödyllinen huomion herättämisessä. Ihmiset, jotka suunnittelevat ja rakentavat edistynyttä tekniikkaa, voivat käyttää tarinoita pohtiakseen työnsä seurauksia ja varmistaakseen, että sitä käytetään hyväksi. Ja uskomme, että tällainen ”tieteiskirjallisuuden prototyyppi” tai “muotoilukappale” voisi auttaa estämään ihmisten ennakkoluuloja työskentelemästä uuteen tekniikkaan, kiinnittäen entisestään yhteiskunnan ennakkoluuloja ja epäoikeudenmukaisuuksia.

{vembed Y = 9CO6M2HsoIA}

Harha voi johtaa joidenkin luokkien (tulosten, ihmisten tai ideoiden) mielivaltaiseen mieltymiseen toisten kanssa. Esimerkiksi jotkut ihmiset voivat olla puolueellisia naisten palkkaamiseen johtotehtäviin riippumatta siitä, ovatko he tietoisia siitä tai ei.

Tällaista vääristymää tallentavan tiedon ympärille rakennettu tekniikka voi päätyä toistaa ongelman. Esimerkiksi rekrytointiohjelmisto, joka on suunniteltu valitsemaan tietyn työn parhaat CV: t, voidaan ohjelmoida etsimään ominaisuuksia, jotka heijastavat tajutonta miehitystä. Tällöin algoritmi suosii lopulta miesten ansioluetteloita. Ja tämä ei ole teoreettista - se todella tapahtui Amazonille.

Algoritmit suunnitellaan ottamatta huomioon mahdollisia kielteisiä vaikutuksia on verrattu lääkäreille, jotka “kirjoittavat tietyn hoidon eduista ja sivuuttavat sivuvaikutukset täysin riippumatta siitä, kuinka vakavat ne ovat”.

Jotkut teknologiayritykset ja tutkijat yrittävät puuttua asiaan. Esimerkiksi Google laati a joukko eettisiä periaatteita ohjaamaan AI: n kehitystä. Ja Ison-Britannian tutkijat ovat käynnistäneet aloitteen nimeltä Ei-Equal tavoitteena on edistää oikeudenmukaisuutta ja oikeudenmukaisuutta tekniikan suunnittelussa ja käytössä.

Ongelmana on, että yrityksillä on yleensä julkinen vain positiivinen näkemys lähitulevaisuuden teknologioiden mahdollisista seurauksista. Esimerkiksi kuljettajattomia autoja kuvataan usein ratkaisevan kaikki kuljetuskysymyksemme kustannuksista turvallisuuteen, huomioimatta lisääntyneet kyberrikoksen vaarat tai se, että he voisivat kannustaa ihmisiä kävele tai pyöräile vähemmän.

Digitaalitekniikan toimivuuden ymmärtämisen vaikeudet, etenkin sellaisten, joita epäselvät algoritmit johtavat voimakkaasti, vaikeuttavat myös sitä, että ihmisillä on monimutkainen ja kattava näkemys aiheista. Tämä tilanne tuottaa jännityksen rauhoittavan positiivisen kertomuksen ja epämääräisen epäilyn välillä, jonka mukaan puolueellisuudet ovat upotettu jossain määrin ympärillämme olevaan tekniikkaan. Tässä mielestämme tarinankerronta muotoilukappaleen kautta voi tulla mukaan.

Tarinat ovat luonnollinen menetelmä ajatella mahdollisuuksia ja monimutkaisia ​​tilanteita, ja olemme kuulleet niitä koko elämämme. Tieteiskirjallisuus voi auttaa meitä spekuloimaan lähitulevaisuuden teknologioiden vaikutuksista yhteiskuntaan, kuten Slaughterbots tekee. Tähän voi kuulua jopa sosiaalisen oikeudenmukaisuuden kysymyksiä, kuten tapa, jolla tietyt ryhmät, kuten pakolaiset ja maahanmuuttajat, voivat olla suljettu pois digitaaliset innovaatiot.

(Mahdollisen) tulevaisuuden paljastaminen

Suunnittele fiktio tarinoita tarjoavat suunnittelijoille, insinööreille ja futuristeille (muun muassa) uuden tavan ajatella teknologian vaikutuksia ihmisen näkökulmasta ja yhdistää sen mahdollisiin tulevaisuuden tarpeisiin. Loogisen ja mielikuvituksen yhdistelmällä muotoilukappale voi paljastaa näkökulmia tekniikan omaksumiseen ja käyttöön, aloittamalla keskustelut sen tekniikasta. tulevat seuraukset.

Esimerkiksi novelli “Rikos-sourcing”Selvittää, mitä voi tapahtua, jos AI käyttäisi joukkotietoisia tietoja ja rikostietokantaa ennustamaan, kuka voi tehdä murhan. Tutkijat havaitsivat, että koska tietokanta oli täynnä etnisiin vähemmistöryhmiin kuuluvia ihmisiä, jotka sosiaalisista syistä olivat tilastollisesti todennäköisemmin uudestaan, "rikoksen hankinta" -malli todennäköisemmin epäilevät vähemmistöjä väärin kuin valkoiset ihmiset.

Sinun ei tarvitse olla lahjakas kirjailija tai tehdä liukas elokuva tuottaakseen muotoilukappaletta. Aivoriihi, johon liittyy kortteja ja kuvakäsikirjoja on käytetty kehittää muotoilukappaleita ja auttaa tarinankerrontaa. Tämän tyyppisiä työkaluja käyttävien työpajojen yleistyminen mahdollistaisi sen, että useammat insinöörit, yrittäjät ja päätöksentekijät käyttäisivät tätä arviointimenetelmää. Ja tuloksena olevan työn julkistaminen auttaisi paljastamaan teknologioiden mahdollisia vääristymiä ennen kuin ne vaikuttavat yhteiskuntaan.

Suunnittelijoiden rohkaiseminen luomaan ja jakamaan lisää tarinoita tällä tavalla takaisi uuden tekniikan taustalla olevan kertomuksen, joka ei tarjoa vain positiivista kuvaa, eikä myöskään äärimmäisen negatiivista tai dystopiaa. Sen sijaan ihmiset kykenevät arvioimaan ympärillämme tapahtuvan molemmat näkökohdat.

Tietoja Tekijät

Alessio Malizia, Käyttäjäkokemuksen suunnittelun professori, Hertfordshiren yliopisto ja Silvio Carta, Taiteen ja suunnittelun päällikkö ja suunnittelututkimusryhmän puheenjohtaja, Hertfordshiren yliopisto

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.