Vaikka luulet olevasi hyvä analysoimaan kasvoja, tutkimus osoittaa monet ihmiset eivät pysty luotettavasti erottamaan todellisista kasvoista otettuja kuvia tietokoneella luotuista kuvista. Tämä on erityisen ongelmallista nyt, kun tietokonejärjestelmät voivat luoda realistisia kuvia ihmisistä, joita ei ole olemassa.

Äskettäin väärennetty LinkedIn-profiili, jossa oli tietokoneella luotu profiilikuva, teki uutisen, koska se onnistuneesti yhteydessä Yhdysvaltain viranomaisiin ja muihin vaikutusvaltaisiin henkilöihin esimerkiksi verkkoalustalla. Vastatiedusteluasiantuntijat sanovat jopa, että vakoojat luovat rutiininomaisesti haamuprofiileja tällaisista kuvista päästä ulkomaisiin kohteisiin sosiaalisessa mediassa.

Nämä syvät väärennökset ovat yleistymässä jokapäiväisessä kulttuurissa, mikä tarkoittaa, että ihmisten pitäisi olla tietoisempia siitä, miten niitä käytetään markkinoinnissa, mainonnassa ja sosiaalisessa mediassa. Kuvia käytetään myös haitallisiin tarkoituksiin, kuten poliittiseen propagandaan, vakoiluun ja informaatiosodaan.

Niiden tekemiseen liittyy niin sanottu syvä neuroverkko, tietokonejärjestelmä, joka jäljittelee tapaa, jolla aivot oppivat. Tämä on "koulutettu" altistamalla se yhä suuremmille todellisten kasvojen tietojoukoille.

Itse asiassa kaksi syvää neuroverkkoa asettuvat toisiaan vastaan, ja ne kilpailevat realistisimpien kuvien tuottamisesta. Tämän seurauksena lopputuotteita kutsutaan GAN-kuviksi, jossa GAN tarkoittaa Generative Adversarial Networks. Prosessi tuottaa uusia kuvia, joita ei tilastollisesti voi erottaa harjoituskuvista.

iSciencessä julkaistussa tutkimuksessamme, osoitimme, että kyvyttömyys erottaa näitä keinotekoisia kasvoja aidoista asioista vaikuttaa verkkokäyttäytymiseemme. Tutkimuksemme viittaa siihen, että väärennetyt kuvat voivat heikentää luottamustamme muihin ja muuttaa perinpohjaisesti tapaamme kommunikoida verkossa.

Kollegani ja minä huomasimme, että ihmiset pitivät GAN-kasvot jopa aidon näköisinä kuin aidot valokuvat oikeista ihmisten kasvoista. Vaikka ei ole vielä selvää, miksi näin on, tämä havainto tekee korostaa viimeaikaista teknologian kehitystä käytetään keinotekoisten kuvien luomiseen.

Löysimme myös mielenkiintoisen linkin houkuttelevuuteen: vähemmän houkutteleviksi arvioidut kasvot arvioitiin myös todellisemmiksi. Vähemmän houkuttelevia kasvoja voidaan pitää tyypillisempänä ja tyypillisiä kasvoja voidaan käyttää viitteenä jota vastaan ​​kaikki kasvot arvioidaan. Siksi nämä GAN-kasvot näyttäisivät todellisemmilta, koska ne muistuttavat enemmän ihmisten arjesta rakentamia henkisiä malleja.

Mutta näiden keinotekoisten kasvojen näkeminen aitoina voi vaikuttaa myös yleiseen luottamustasoon, jonka laajennamme tuntemattomien ihmisten piiriin – käsite, joka tunnetaan nimellä "sosiaalinen luottamus".

Luemme usein liian paljon näkemistämme kasvoista ja muodostamamme ensivaikutelma ohjaa sosiaalista vuorovaikutustamme. Toisessa kokeessa, joka oli osa viimeisintä tutkimustamme, havaitsimme, että ihmiset luottavat todennäköisemmin tietoihin, joita he olivat aiemmin arvioineet todellisiksi, vaikka ne olisi luotu keinotekoisesti.

Ei ole yllättävää, että ihmiset luottavat enemmän kasvoihin, jotka he uskovat olevan todellisia. Mutta huomasimme, että luottamus heikkeni, kun ihmisille kerrottiin keinotekoisten kasvojen mahdollisesta esiintymisestä verkkovuorovaikutuksessa. Sitten he osoittivat heikompaa luottamusta yleisesti - riippumatta siitä, olivatko kasvot todellisia vai eivät.

Tätä tulosta voidaan pitää jollain tapaa hyödyllisenä, koska se teki ihmiset epäluuloisemmiksi ympäristössä, jossa valekäyttäjät voivat toimia. Toisesta näkökulmasta katsottuna se voi kuitenkin vähitellen heikentää viestintätapamme luonnetta.

Yleensä meillä on tapana toimia oletusoletus, että muut ihmiset ovat periaatteessa totuudenmukaisia ​​ja luotettavia. Väärennettyjen profiilien ja muun keinotekoisen verkkosisällön kasvu herättää kysymyksen siitä, kuinka paljon heidän läsnäolonsa ja tietomme niistä voivat muuttaa tätä "totuuden oletustilaa" ja lopulta heikentää yhteiskunnan luottamusta.

Oletusasetusten muuttaminen

Siirtyminen maailmaan, jossa sitä, mikä on todellista, ei voi erottaa siitä, mikä ei ole, voi myös muuttaa kulttuurimaiseman ensisijaisesti totuudenmukaisesta ensisijaisesti keinotekoiseksi ja petolliseksi.

Jos kyseenalaistamme säännöllisesti verkossa kokemamme todenperäisyyden, se saattaa vaatia meidän käyttämään henkistä ponnisteluamme uudelleen itse viestien käsittelystä viestintuojan identiteetin käsittelyyn. Toisin sanoen erittäin realistisen, mutta keinotekoisen verkkosisällön laaja käyttö saattaa vaatia meidät ajattelemaan toisin – tavoilla, joita emme olleet odottaneet.

Psykologiassa käytämme termiä "todellisuuden seuranta" siitä, kuinka tunnistamme oikein, tuleeko jokin ulkopuolisesta maailmasta vai aivoistamme. Teknologioiden kehittyminen, jotka voivat tuottaa vääriä, mutta erittäin realistisia kasvoja, kuvia ja videopuheluita, tarkoittaa, että todellisuuden seurannan on perustuttava muihin tietoihin kuin omiin arvioihimme. Se vaatii myös laajempaa keskustelua siitä, onko ihmiskunnalla vielä varaa tyytyä totuuteen.

On ratkaisevan tärkeää, että ihmiset ovat kriittisempiä arvioidessaan digitaalisia kasvoja. Tämä voi sisältää käänteisen kuvahaun käyttämisen kuvien aitojen tarkistamiseksi, varovaisuutta sosiaalisen median profiileissa, joissa on vähän henkilökohtaisia ​​tietoja tai paljon seuraajia, ja tietoisuutta syväväärennösteknologian mahdollisuudesta käyttää ilkeisiin tarkoituksiin.

Tämän alueen seuraava raja olisi parannetut algoritmit väärennettyjen digitaalisten kasvojen havaitsemiseksi. Nämä voitaisiin sitten upottaa sosiaalisen median alustoihin, jotta voimme erottaa todellisen väärennöksestä, kun kyse on uusien yhteyksien kasvoista.

Author

Manos Tsakiris, psykologian professori, Tunnepolitiikan keskuksen johtaja, Royal Holloway University of London

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.