Kuinka tutkijat valmistautuvat syväväärennetyn propagandan tulevalle aallolle

Kuinka tutkijat valmistautuvat syväväärennetyn propagandan tulevalle aallolle
Tekoälyllä toimivat ilmaisimet ovat parhaat työkalut tekoälyn tuottamien väärennettyjen videoiden havaitsemiseen.
Washington Postin kautta Getty Images

Tutkiva toimittaja saa videon nimettömältä ilmiantajalta. Se osoittaa, että presidenttiehdokas myöntää laitonta toimintaa. Mutta onko tämä video todellinen? Jos näin on, se olisi valtava uutinen - kauhu koko elämästä - ja se voisi kääntyä täysin tulevien vaalien ympäri. Mutta toimittaja suorittaa videon erikoistuneella työkalulla, joka kertoo hänelle, että video ei ole miltä se näyttää. Itse asiassa se ondeepfake, Video, joka on tehty tekoälyä käyttäen syvä oppiminen.

Toimittajat ympäri maailmaa voisivat pian käyttää tällaista työkalua. Muutaman vuoden kuluttua kaikki voivat jopa käyttää tällaista työkalua väärennetyn sisällön kitkemiseksi sosiaalisen median syötteistään.

As Tutkijat jotka ovat tutkineet syväväärennösten havaitsemista ja kehitämme työkalua toimittajille, näemme tulevaisuuden näille työkaluille. Ne eivät kuitenkaan ratkaise kaikkia ongelmiamme, ja ne ovat vain yksi osa arsenaalia laajemmassa disinformaation torjunnassa.

Syväväärennösten ongelma

Useimmat ihmiset tietävät, että et voi uskoa kaikkea, mitä näet. Viimeisen vuosikymmenen aikana tajujen uutisten kuluttajat ovat tottuneet näkemään kuvia, joita on manipuloitu valokuvien muokkausohjelmalla. Videot ovat kuitenkin toinen tarina. Hollywoodin ohjaajat voivat käyttää miljoonia dollareita erikoistehosteisiin muodostaakseen realistisen kohtauksen. Mutta syväväärennösten avulla harrastajat, joilla on muutama tuhat dollaria tietokonelaitteita ja muutama viikko viettää, voivat tehdä jotain melkein yhtä totta elämästä.

Deepfakesin avulla ihmiset voidaan sijoittaa elokuviin, joissa he eivät koskaan olleet - ajattele Tom Cruise pelaa Iron Mania - mikä tekee viihdyttävistä videoista. Valitettavasti se mahdollistaa myös luomisen pornografia ilman suostumusta kuvatuista ihmisistä. Toistaiseksi nuo ihmiset, melkein kaikki naiset, ovat suurimmat uhrit, kun syvävaletekniikkaa käytetään väärin.

Deepfake-tiedostoja voidaan käyttää myös videoiden luomiseen poliittisista johtajista, jotka sanovat asioita, joita he eivät ole koskaan sanoneet. Belgian sosialistipuolue julkaisi heikkolaatuisen, mutta silti väärennetyn videon Presidentti Trump loukkaa Belgiaa, joka sai tarpeeksi reaktion osoittamaan korkealaatuisempien väärennösten mahdolliset riskit.


Kalifornian yliopisto, Berkeleyn Hany Farid kertoo kuinka syvävalheita tehdään.

 Hanki viimeisin InnerSelfistä


Ehkä pelottavin kaikista, niitä voidaan käyttää luomiseen epäillä todellisten videoiden sisältöä, ehdottamalla, että ne voivat olla syväpetoksia.

Nämä riskit huomioon ottaen olisi erittäin arvokasta pystyä havaitsemaan syväpetokset ja merkitä ne selvästi. Näin varmistettaisiin, että väärennetyt videot eivät huijata yleisöä ja että todelliset videot voidaan vastaanottaa aitona.

Väärennösten havaitseminen

Deepfake-havaitseminen tutkimusalana aloitettiin hieman yli kolme vuotta sitten. Varhainen työ keskittyi havaitsemaan videoissa näkyviä ongelmia, kuten syväväärennökset, jotka eivät vilku. Ajan myötä väärennökset ovat parantuneet todellisten videoiden jäljittelemisessä, ja niiden on vaikeampi havaita sekä ihmisille että tunnistustyökaluille.

On olemassa kaksi pääryhmää syväväärennösten havaitsemiseen. Ensimmäiseen liittyy katsomalla ihmisten käyttäytymistä videoissa. Oletetaan, että sinulla on paljon videoita joku kuuluisa, kuten presidentti Obama. Tekoäly voi käyttää tätä videota oppimaan hänen kuvionsa, käsiliikkeistä puhepausiin. Se voi sitten katsella syvää väärennöstä hänestä ja huomaa, missä se ei vastaa näitä malleja. Tällä lähestymistavalla on se etu, että se toimii mahdollisesti, vaikka videon laatu itsessään olisi olennaisesti täydellinen.


SRI Internationalin Aaron Lawson kuvaa yhtä lähestymistapaa syvän väärennösten havaitsemiseen.

Muut tutkijat, mukaan lukien tiimimme, ovat keskittyneet erot että kaikilla syväfakeilla on verrattuna todellisiin videoihin. Deepfake-videot luodaan usein yhdistämällä yksilöllisesti kehitetyt kehykset videoiksi. Kun tämä otetaan huomioon, tiimimme menetelmät poimivat olennaiset tiedot videon kasvojen yksittäisistä kehyksistä ja seuraavat ne sitten samanaikaisten kehysten sarjoilla. Tämän avulla voimme havaita epäjohdonmukaisuuksia tiedonkulussa kehyksestä toiseen. Käytämme samanlaista lähestymistapaa myös väärennetyn äänentunnistusjärjestelmän kanssa.

Näitä hienovaraisia ​​yksityiskohtia on vaikea nähdä ihmisille, mutta ne osoittavat kuinka syväväärennökset eivät ole aivan täydellinen vielä. Tällaiset ilmaisimet voivat toimia kaikille ihmisille, ei vain harvoille maailman johtajille. Loppujen lopuksi voi olla, että tarvitaan molempia syväfake-ilmaisimia.

Viimeaikaiset tunnistusjärjestelmät toimivat erittäin hyvin videoissa, jotka on kerätty erityisesti työkalujen arviointia varten. Valitettavasti jopa parhaat mallit tekevät huonosti verkossa löydetyistä videoista. Näiden työkalujen parantaminen vakaammiksi ja hyödyllisemmiksi on avain seuraava askel.

Kenen tulisi käyttää syväfake-ilmaisimia?

Ihannetapauksessa deepfake-vahvistustyökalun pitäisi olla kaikkien saatavilla. Tämä tekniikka on kuitenkin alkuvaiheessa. Tutkijoiden on parannettava työkaluja ja suojattava hakkereilta, ennen kuin heidät vapautetaan laajasti.

Samalla kuitenkin työkalut syväväärennösten tekoon ovat kaikkien saatavilla, jotka haluavat huijata yleisöä. Vieressä istuminen ei ole vaihtoehto. Tiimimme kannalta oikea tasapaino oli työskennellä toimittajien kanssa, koska he ovat ensimmäinen puolustuslinja väärän tiedon leviämistä vastaan.

Ennen tarinoiden julkaisemista toimittajien on tarkistettava tiedot. Heillä on jo kokeiltuja menetelmiä, kuten tarkistaminen lähteistä ja useamman kuin yhden henkilön saaminen vahvistamaan tärkeimmät tosiasiat. Joten antamalla työkalun heidän käsiinsä annamme heille enemmän tietoa, ja tiedämme, että he eivät luota pelkästään tekniikkaan, koska se voi tehdä virheitä.

Voivatko ilmaisimet voittaa asevarustelun?

On rohkaisevaa nähdä joukkueita Facebook että Microsoft investoimalla tekniikkaan syvien väärennösten ymmärtämiseksi ja havaitsemiseksi. Tämä ala tarvitsee lisää tutkimusta pysyäkseen syväfake-tekniikan kehityksen vauhdissa.

Toimittajien ja sosiaalisen median alustojen on myös selvitettävä, kuinka parhaiten varoittaa ihmisiä syväväärennöksistä, kun ne havaitaan. Tutkimukset ovat osoittaneet sen ihmiset muistavat valheen, mutta ei tosiasia, että se oli valhe. Onko sama totta myös väärennetyissä videoissa? Pelkkä "Deepfake" -otsikon lisääminen otsikkoon ei välttämättä riitä torjumaan tietyntyyppistä disinformaatiota.

Deepfakes ovat täällä jäädäkseen. Disinformaation hallinta ja yleisön suojeleminen ovat haastavampia kuin koskaan, kun tekoäly tehostuu. Olemme osa kasvavaa tutkimusyhteisöä, joka ottaa vastaan ​​tämän uhan, jossa havaitseminen on vasta ensimmäinen askel.Conversation

Tietoja Tekijät

John Sohrawardi, tietojenkäsittelytieteen tohtoriopiskelija, Rochester Institute of Technology ja tietotekniikan professori Matthew Wright, Rochester Institute of Technology

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

seuraa InnerSelfia

facebook-kuvakeTwitter-kuvakeRSS-kuvake

 Hanki uusimmat sähköpostitse

{Emailcloak = off}

TOIMITTAJAT

InnerSelf-uutiskirje: marraskuu 29, 2020
by InnerSelfin henkilökunta
Tällä viikolla keskitymme näkemään asiat toisin ... katsomaan toisesta näkökulmasta, avoimella mielellä ja avoimella sydämellä.
Miksi minun pitäisi jättää huomiotta COVID-19 ja miksi en
by Robert Jennings, InnerSelf.com
Vaimoni Marie ja minä olemme sekapari. Hän on kanadalainen ja minä amerikkalainen. Viimeiset 15 vuotta olemme viettäneet talvemme Floridassa ja kesämme Nova Scotiassa.
InnerSelf-uutiskirje: marraskuu 15, 2020
by InnerSelfin henkilökunta
Tällä viikolla pohdimme kysymystä: "minne mennään täältä?" Aivan kuten minkä tahansa siirtymisrituaalin kohdalla, olipa kyseessä valmistuminen, avioliitto, lapsen syntymä, keskeiset vaalit tai lapsen menettäminen (tai löytäminen)…
Amerikka: Vaunumme kiinnittäminen maailmalle ja tähdille
by Marie T Russell ja Robert Jennings, InnerSelf.com
No, Yhdysvaltain presidentinvaalit ovat nyt takanamme ja on aika tehdä tilannekatsaus. Meidän on löydettävä yhteinen kanta nuorten ja vanhojen, demokraattien ja republikaanien, liberaalien ja konservatiivien välillä, jotta voimme todella tehdä…
InnerSelf-uutiskirje: lokakuu 25, 2020
by InnerSelfin henkilökunta
InnerSelf-verkkosivuston "iskulause" tai alaotsikko on "Uudet asenteet - uudet mahdollisuudet", ja se on täsmälleen tämän viikon uutiskirjeen teema. Artikkeleidemme ja kirjoittajiemme tarkoituksena on…