Kuva: Norbert Aepli, Sveitsi (Käyttäjä: Noebu)

2016issa itseohjautuvat autot menivät valtavirtaan. Uberin autonomiset ajoneuvot tuli kaikkialla asuinalueilla, joissa asun Pittsburghissa, ja lyhyesti San Franciscossa. Yhdysvaltain liikenneministeriö myönsi uusia sääntelyohjeita heille. lukematon paperit ja sarakkeet keskusteltiin siitä, miten autolla ajavat autot shouldnt ratkaista eettiset viat kun asiat menevät pieleen. Ja valitettavasti 2016 näki myös ensimmäinen kuolema, johon liittyy itsenäinen ajoneuvo.

Autonomiset teknologiat leviävät nopeasti kuljetussektorin ulkopuolelle terveydenhuolto, kehittynyt tietoverkkosuoja ja jopa autonomiset aseet. 2017issa meidän on päätettävä, voimmeko luottaa näihin teknologioihin. Se tulee olemaan paljon vaikeampaa kuin odotamme.

Luottamus on monimutkainen ja monipuolinen, mutta myös tärkeä osa elämäämme. Luotamme usein tekniikkaan perustuu ennustettavuuteen: Luotan siihen, jos tiedän, mitä se tekee tietyssä tilanteessa, vaikka en tiedä miksi. Luotan esimerkiksi tietokoneeseen, koska tiedän, miten se toimii, myös silloin, kun se hajoaa. Luotan siihen, jos se alkaa käyttäytyä eri tavalla tai yllättäen.

Sitä vastoin minun luottamukseni vaimoani perustuu ymmärtää hänen uskomuksia, arvoja ja persoonallisuutta. Yleisemmin ihmissuhdevarmuus ei tarkoita sitä, mitä toinen henkilö tekee - vaimoni varmasti yllättää minua joskus! - vaan pikemminkin miksi he toimivat niin kuin ne tekevät. Ja tietysti voimme luottaa johonkin (tai jotain) molempiin suuntiin, jos tiedämme, mitä he tekevät ja miksi.

Olen tutkinut mahdollisia perusteita luottamuksellemme itseohjautuviin autoihin ja muihin itsenäisiin teknologioihin sekä eettisistä että psykologisista näkökulmista. Nämä ovat laitteita, joten ennustettavuus saattaa tuntua avaimelta. Itsenäisyytensä vuoksi meidän on kuitenkin pohdittava, kuinka tärkeää ja arvo - ja haaste - on oppia luottamaan niihin tavalla, jolla luotamme muihin ihmisiin.

Autonomia ja ennustettavuus

Haluamme, että teknologiamme, myös itse ajavat autot, käyttäytyvät tavalla, jolla voimme ennustaa ja odottaa. Tietenkin nämä järjestelmät voivat olla varsin herkkiä kontekstille, mukaan lukien muut ajoneuvot, jalankulkijat, sääolosuhteet ja niin edelleen. Yleisesti ottaen voisimme kuitenkin olettaa, että itse ajaa autoa, joka on toistuvasti sijoitettu samaan ympäristöön, pitäisi oletettavasti käyttäytyä samalla tavalla joka kerta. Mutta missä mielessä nämä hyvin ennustettavissa olevat autot ovat itsenäisiä eikä pelkästään automaattisia?

Siellä on ollut monet eri yrityksiä että määritellä autonomiamutta heillä kaikilla on tämä yhteinen: autonomiset järjestelmät voivat tehdä omia (aineellisia) päätöksiä ja suunnitelmia, ja siten ne voivat toimia eri tavalla kuin odotettiin.

Itse asiassa yksi syy käyttää itsemääräämisoikeutta (erillään automaatiosta) on juuri se, että nämä järjestelmät voivat jatkaa odottamattomia ja yllättäviä, vaikkakin perusteltuja toimia. Esimerkiksi, DeepMindin AlphaGo voitti toisen pelin viimeisimmässä Go-sarjassaan Lee Sedolia vastaan ​​osittain muutos, jota kukaan ihmisen pelaaja ei koskaan tekisi, mutta oli kuitenkin oikea siirto. Mutta nämä samat yllätykset vaikeuttavat ennustettavuuteen perustuvan luottamuksen muodostamista. Vahva luottamus, joka perustuu pelkästään ennustettavuuteen, on väistämättä mahdollista vain automatisoiduissa tai automaattisissa järjestelmissä juuri siksi, että ne ovat ennustettavissa (olettaen, että järjestelmä toimii normaalisti).

Yllätyksiä

Tietenkin muut ihmiset yllättävät meitä usein, ja silti voimme luottaa niihin merkittävästi, jopa antamalla heille elämän ja kuoleman vallan. Sotilaat luottavat tovereihinsa monimutkaisissa, vihamielisissä ympäristöissä; potilas luottaa kirurgiinsa tuumorin kasvattamiseen; ja tavallisemmassa laskussa vaimoni luottaa minuun ajamaan turvallisesti. Tämä ihmissuhteiden luottamus antaa meille mahdollisuuden yllättää yllätyksiä, joten ehkäpä voisimme kehittää jotain henkilökohtaista luottamusta itsekulkeviin autoihin?

Yleisesti ottaen ihmissuhteiden luottamus edellyttää ymmärrystä siitä, miksi joku on toiminut tietyllä tavalla, vaikka et voi ennustaa tarkkaa päätöstä. Vaimoni ei ehkä tiedä tarkalleen, miten aion ajaa, mutta hän tietää, millaisia ​​päättelyjä käytän ajon aikana. Ja oikeastaan ​​on melko helppo ymmärtää, miksi joku muu tekee jotain juuri siksi, että me kaikki ajattelemme ja ajattelemme suunnilleen samankaltaisesti, vaikka eri raaka-aineilla - uskomuksemme, toiveemme ja kokemuksemme.

Itse asiassa teemme jatkuvasti ja alitajuisesti päätelmiä muiden ihmisten uskomuksista ja toiveista, jotka perustuvat heidän toimintaansa, suurelta osin olettaen, että he ajattelevat, perustelevat ja päättävät karkeasti kuin teemme. Kaikki nämä päätelmät ja perustelut, jotka perustuvat yhteiseen (ihmisen) kognitioon, auttavat meitä ymmärtämään jonkun toisen syitä ja siten rakentamaan ihmissuhteiden luottamusta ajan myötä.

Ajatteleminen kuin ihmiset?

Autonomiset teknologiat - erityisesti autolla ajavat autot - eivät ajattele ja päättää kuten ihmiset. Molemmat ovat ponnistelleet Ohi ja äskettäinen, kehittää tietokonejärjestelmiä, jotka ajattelevat ja ajattelevat ihmisten tavoin. Koneen oppimisen yksi johdonmukainen teema viimeisten kahden vuosikymmenen aikana on kuitenkin ollut valtavia hyötyjä, joita ei ole tarvinnut keinotekoisten älykäsjärjestelmien toimivan ihmisen tavoin. Sen sijaan koneen oppimisalgoritmit ja -järjestelmät, kuten AlphaGo, ovat usein voineet ylittää ihmisten asiantuntijat keskittymällä erityisiin, paikallisiin ongelmiin ja ratkaisemalla ne sitten eri tavoin kuin ihmiset.

Tämän seurauksena pyrkimykset tulkita itsenäistä teknologiaa ihmisen kaltaisten uskomusten ja toiveiden suhteen voivat olla upeita. Kun ihmisen kuljettaja näkee palloa tiellä, useimmat meistä hidastuvat automaattisesti merkittävästi, jotta vältetään lyömästä lapsi, joka saattaa jahtaa sen jälkeen. Jos ajamme autonomisella autolla ja näemme pallorullan kadulle, odotamme auton tunnistavan sen ja olemaan valmiita pysähtymään lasten juoksemiseen. Auto saattaa kuitenkin nähdä vain esteen. Jos se paisuu ilman hidastumista, aluksella olevat ihmiset saattavat olla huolissaan - ja lapsi saattaa olla vaarassa.

Päätelmämme autolla ajavan auton "uskomuksista" ja "toiveista" ovat lähes varmasti virheellisiä tärkeillä tavoilla juuri siksi, että autolla ei ole ihmisen kaltaisia ​​uskomuksia tai toiveita. Emme voi kehittää ihmissuhdetta luottavaan autoon yksinkertaisesti katsomalla sen ajamista, koska emme tule oikein seuraamaan toimiensa takana.

Tietysti yhteiskunta tai markkinapaikan asiakkaat voisivat vaatia massiivisesti, että itse kuljettavilla autoilla on ihmisen kaltaisia ​​(psykologisia) ominaisuuksia, jotta voisimme ymmärtää ja kehittää ihmissuhteiden luottamusta niihin. Tämä strategia antaisi täysin uuden merkityksen ”ihmiskeskeinen muotoilu, ”Koska järjestelmät suunnitellaan nimenomaan siten, että niiden toimet ovat ihmisten tulkittavissa. Mutta se vaatisi myös romaanin algoritmit ja tekniikat itse kuljettavassa autossa, jotka kaikki johtaisivat valtavaan muutokseen nykyisistä itsensä ajavien autojen ja muiden itsenäisten teknologioiden tutkimus- ja kehittämisstrategioista.

Itsekulkevilla autoilla on mahdollisuus muokata radikaalisti liikenneinfrastruktuuriamme monilla hyödyllisillä tavoilla, mutta vain, jos voimme luottaa niihin riittävän tehokkaasti käyttämään niitä. Ja ironista kyllä, juuri se ominaisuus, joka tekee itsekulkevista autoista arvokkaita - joustava, itsenäinen päätöksenteko eri tilanteissa - on juuri sitä, mitä on vaikea luottaa niihin.

authirhere

David Danks, filosofian ja psykologian professori, Carnegie Mellon University

Tämä artikkeli julkaistiin alunperin Conversation. Lue alkuperäinen artikkeli.

Liittyvät kirjat:

at InnerSelf Market ja Amazon