Deepfakejen ja poliittisten kampanjoiden epävakaa yhdistelmä on hyvä syy olla varuillaan. Sean Anthony Eddy Creative/E+ Getty Imagesin kautta
Kuvittele Lokakuun yllätys vertaansa vailla: Vain viikkoa ennen 5. marraskuuta 2024 videotallenne paljastaa Joe Bidenin ja Volodymyr Zelenskyyn salaisen tapaamisen. Yhdysvaltain ja Ukrainan presidentit sopivat käynnistävänsä välittömästi Ukrainan Natoon "erityisen hätäjäsenyysprotokollan" mukaisesti ja valmistautuvansa ydinaseiskuon Venäjää vastaan. Yhtäkkiä maailma on Harmagedonin kynnyksellä.
Vaikka toimittajat voisivat huomauttaa siitä sellaista protokollaa ei ole olemassa ja sosiaalisen median käyttäjät saattavat huomata videossa outoja videopelimäisiä ominaisuuksia, muut saattavat tuntea sen heidän pahimpia pelkoaan on vahvistettu. Kun vaalipäivä koittaa, nämä huolestuneet kansalaiset voivat antaa videon vaikuttaa äänensä tietämättä, että heitä on juuri manipuloinut tilanne deepfake -tapahtumalla, jota ei koskaan tapahtunut.
Tilanteen syväväärennökset edustavat teknologioiden seuraavaa vaihetta on jo järkytti yleisön käsitystä todellisuudesta. Tutkimuksessamme osoitteessa DeFake-projekti, kollegani Rochester Institute of Technology, The Mississippin yliopisto, Michigan State University ja minä tutkia kuinka syväväärennöksiä tehdään ja mihin toimiin äänestäjät voivat puolustautua niiltä.
Kuvittele tapahtumia, joita ei koskaan tapahtunut
Deepfake syntyy, kun joku käyttää erityisesti tekoälytyökalua syvä oppiminen, manipuloida tai luoda a tehdä, The ääni tai – nousun myötä suuria kielimalleja pitää ChatGPT - keskustelukieli. Nämä voidaan yhdistää "tilanteen syvällisiksi väärennöksiksi".
Tilannedeepfaken perusidea ja tekniikka ovat samat kuin minkä tahansa muun deepfaken, mutta rohkeammalla tavoitteella: manipuloida todellista tapahtumaa tai keksiä sellainen tyhjästä. Esimerkkejä ovat kuvat Donald Trumpin oikea kävely ja Trump halaa Anthony Faucia, joista kumpaakaan ei tapahtunut. Halauslaukausta edisti a Twitter-tili liittyy presidentinvaalikampanjaan Trumpin kilpailija Ron DeSantis. An hyökkäysmainos Republikaanien kansalliskomitean julkaisema Joe Bidenin vuoden 2024 kampanja oli kohdistettu tehty kokonaan tekoälyllä.
At DeFake-projektiMeidän tutkimus on löytänyt että syväväärennökset, mukaan lukien tilanteet, syntyvät tyypillisesti jonkin sekoituksen avulla yhden median lisääminen toiseen; käyttämällä videota animoidaksesi kuvan tai muuttaaksesi toista videota, äänitetty nukketeatteriksi; median loihtiminen olemassaoloon, tyypillisesti käyttämällä generatiivinen tekoäly; tai jokin näiden tekniikoiden yhdistelmä.
Selvyyden vuoksi monet tilanteen syväväärennökset on tehty viattomiin tarkoituksiin. Esimerkiksi, Infinite Odyssey -lehti tuottaa väärennettyjä still-kuvia elokuvista ei koskaan tuotettu or ei olisi koskaan voinut olla olemassa. Mutta viattomatkin väärennökset antavat aihetta tauolle, kuten lähes uskottavien väärennettyjen valokuvien tapauksessa, jotka kuvaavat Apollo Moon laskeutuu elokuvatuotantona.
Vaalien tekosyitä
Asetu nyt sellaiseen asemaan, että joku yrittää vaikuttaa tuleviin vaaleihin. Mitä mahdollisia tilanteita saatat haluta luoda?
Ensinnäkin sillä olisi väliä, haluatko kallistaa äänestämistä tiettyä tulosta kohti vai pois siitä. Ehkä kuvaisit ehdokasta sankarillisesti vetämällä jalankulkijan pois ylinopeutta ajavan auton tieltä tai päinvastoin tekemällä jotain loukkaavaa tai rikollista. Myös tilanteen deepfake-muodolla olisi merkitystä. Videon sijasta se voi olla valokuva, jossa on ehkä älypuhelimen kameraa simuloiva sumeus ja kuvakulmat tai uutistoimiston väärennetty logo.
Kohdeyleisösi olisi avainasemassa. Sen sijaan, että tähdäisit yleiseen äänestäjäkuntaan tai puolueen tukikohtaan, voit kohdistaa kohteen salaliittoteoreetikot keskeisissä äänestyspiireissä. Voit kuvata ehdokkaan tai hänen perheenjäsentensä osallistuvan a saatanallinen rituaali, osallistuu festivaaleille eksklusiivinen ja kiistanalainen Bohemian Grovetai joilla on salainen tapaaminen maan ulkopuolisen kanssa.
Jos sinulla on siihen kunnianhimoa ja kykyjä, voit jopa yrittää huijata itse vaaleja. Kesäkuussa 2023 Venäjän televisio- ja radioasemia hakkeroitiin ja lähettää täyden mobilisointikäskyn by Venäjän presidentin Vladimir Putinin väärennös. Vaikka tämä olisi vaikeampi tehdä Yhdysvaltain vaaleissa, periaatteessa mikä tahansa uutiskanava voitaisiin hakkeroida lähettämään ankkureidensa vääriä tuloksia tai ehdokasta, joka luovuttaa.
Todellisuuden puolustaminen
On olemassa useita teknisiä ja psykologisia tapoja havaita ja puolustautua tilanteen syväväärennöksiä vastaan.
Teknologisella rintamalla kaikki syväväärennökset sisältävät todisteita niiden todellisesta luonteesta. Jotkut näistä kertomuksista voidaan nähdä ihmissilmällä - kuten liian sileä iho tai outo valaistus tai arkkitehtuuri - kun taas toiset voivat olla havaittavissa vain syvää väärennöksiä etsivällä tekoälyllä.
Rakennamme Faken ilmaisin käyttää tekoälyä syvän väärennösten ilmaisimien merkkien havaitsemiseen, ja pyrimme saamaan sen valmiiksi ajoissa vuoden 2024 vaaleja varten. Mutta vaikka meidän kaltaistamme riittävän tehokasta syväväärennösten ilmaisinta ei voida ottaa käyttöön vaalipäivään mennessä, on olemassa psykologisia työkaluja, joiden avulla sinä äänestäjä voit tunnistaa syväväärennöksiä: taustatietoa, uteliaisuutta ja tervettä skeptisyyttä.
Jos kohtaat mediasisältöä henkilöstä, paikasta tai tapahtumasta, joka vaikuttaa epätyypilliseltä, luota taustatietoihisi. Esimerkiksi kohdassa a äskettäinen huijaus Pentagonin tulipalosta, esitetty rakennus näyttää enemmän neliömäiseltä kuin viisikulmaiselta, mikä voisi olla lahja.
Älä kuitenkaan luota täysin taustatietoihisi, jotka voivat olla virheellisiä tai hajanaisia. Älä koskaan pelkää oppia lisää luotettavista lähteistä, kuten faktatarkistetuista uutisraporteista, vertaisarvioiduista akateemisista artikkeleista tai valtuutettujen asiantuntijoiden haastatteluista.
Muista lisäksi, että syväväärennösten avulla voidaan hyödyntää sitä, mitä olet taipuvainen uskomaan henkilöstä, paikasta tai tapahtumasta. Yksi parhaista tavoista käsitellä tätä on yksinkertaisesti ole tietoinen ennakkoluuloistasi ja ole varovainen kaikesta mediasisällöstä, joka näyttää vahvistavan ne.
Vaikka olisikin mahdollista luoda täydellisiä tilannedeepfakeja, niiden aiheen uskottavuus jää todennäköisesti heidän akilleen kantapäähän. Joten, teknologisella ratkaisulla tai ilman, sinulla on edelleen valta puolustaa vaaleja väärennettyjen tapahtumien vaikutukselta.
Author
Christopher Schwartz, Computing Securityn tutkijatohtori, Rochester Institute of Technology
Tämä artikkeli julkaistaan uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.
Liittyvät kirjat:
Tyrannysta: kaksikymmentä oppituntia XNUMX. vuosisadalta
Kirjailija: Timothy Snyder
Tämä kirja tarjoaa historian oppitunteja demokratian säilyttämiseksi ja puolustamiseksi, mukaan lukien instituutioiden merkitys, yksittäisten kansalaisten rooli ja autoritaarisuuden vaarat.
Klikkaa saadaksesi lisätietoja tai tilataksesi
Meidän aikamme on nyt: voima, tarkoitus ja taistelu reilusta Amerikasta
Kirjailija: Stacey Abrams
Kirjoittaja, poliitikko ja aktivisti, jakaa näkemyksensä osallistavammasta ja oikeudenmukaisemmasta demokratiasta ja tarjoaa käytännön strategioita poliittiseen sitoutumiseen ja äänestäjien mobilisointiin.
Klikkaa saadaksesi lisätietoja tai tilataksesi
Kuinka demokratiat kuolevat
Steven Levitsky ja Daniel Ziblatt
Tämä kirja tutkii demokratian hajoamisen varoitusmerkkejä ja syitä hyödyntäen tapaustutkimuksia eri puolilta maailmaa tarjotakseen näkemyksiä demokratian turvaamisesta.
Klikkaa saadaksesi lisätietoja tai tilataksesi
Ihmiset, nro: Antipopulismin lyhyt historia
Kirjailija: Thomas Frank
Kirjoittaja tarjoaa historian populistisista liikkeistä Yhdysvalloissa ja arvostelee "antipopulistista" ideologiaa, jonka hän väittää tukahduttaneen demokraattisen uudistuksen ja edistyksen.
Klikkaa saadaksesi lisätietoja tai tilataksesi
Demokratia yhdessä kirjassa tai vähemmän: miten se toimii, miksi se ei toimi ja miksi sen korjaaminen on helpompaa kuin luulet
Kirjailija: David Litt
Tämä kirja tarjoaa yleiskatsauksen demokratiaan, mukaan lukien sen vahvuudet ja heikkoudet, ja ehdottaa uudistuksia, jotta järjestelmästä tulee reagoivampi ja vastuullisempi.
