syvät väärennökset kylvävät epäilyksiä 4 14
 Teknologiaa, jolla voidaan tuottaa syväväärennöksiä, on laajalti saatavilla. (Shutterstock)

Maaliskuun alussa a manipuloitu video Ukrainan presidentistä Volodymyr Zelenskyystä levitettiin. Siinä digitaalisesti luotu Zelenskyy käski Ukrainan kansallista armeijaa antautua. Videota levitettiin verkossa, mutta se paljastettiin nopeasti syvälle väärennökseksi – hyperrealistiseksi, mutta väärennetyksi ja manipuloiduksi videoksi, joka on tuotettu tekoälyllä.

Vaikka venäläisellä disinformaatiolla näyttää olevan rajallinen vaikutus, tämä hälyttävä esimerkki havainnollisti syväväärennösten mahdollisia seurauksia.

Deepfakeja käytetään kuitenkin menestyksekkäästi aputekniikassa. Esimerkiksi, Parkinsonin taudista kärsivät ihmiset voivat käyttää puhekloonausta kommunikoidakseen.

Deepfakeja käytetään koulutuksessa: Irlantilainen puhesynteesiyritys CereProc loi synteettisen äänen John F. Kennedylle, herättää hänet henkiin pitämään historiallisen puheensa.

sisäinen tilausgrafiikka

Silti jokaisella kolikolla on kaksi puolta. Deepfake voi olla hyperrealistinen ja periaatteessa ihmissilmä ei havaitse.

Siksi samaa äänen kloonaustekniikkaa voitaisiin käyttää tietojenkalasteluun, kunnianloukkaukseen ja kiristykseen. Kun syväväärennöksiä käytetään tarkoituksella yleisen mielipiteen muokkaamiseen, sosiaalisten konfliktien lietsomiseen ja vaalien manipulointiin, ne voivat heikentää demokratiaa.

Washingtonin yliopiston tutkijat tekivät Barack Obaman syvän väärennöksen.

Aiheuttaa kaaosta

Deepfakes perustuvat teknologiaan, joka tunnetaan nimellä generatiiviset vastakkaiset verkot jossa kaksi algoritmia harjoittelevat toisiaan tuottamaan kuvia.

Vaikka syvän väärennöksen takana oleva tekniikka saattaa kuulostaa monimutkaiselta, sellaisen valmistaminen on yksinkertaista. Netistä löytyy lukuisia sovelluksia, mm Kasvojen vaihto ja ZAO Deepswap joka voi tuottaa syväväärennöksiä muutamassa minuutissa.

Google Colaboratory – useiden ohjelmointikielien koodin online-varasto – sisältää esimerkkejä koodista voidaan käyttää väärennettyjen kuvien ja videoiden luomiseen. Tämän saatavilla olevan ohjelmiston avulla on helppo nähdä, kuinka tavalliset käyttäjät voivat aiheuttaa tuhoa syväväärennöksillä ymmärtämättä mahdollisia tietoturvariskejä.

Kasvojenvaihtosovellusten ja verkkopalvelujen suosio, kuten Syvä nostalgia osoittavat, kuinka nopeasti ja laajalti syväväärennökset voivat omaksua suuren yleisön. Vuonna 2019 Noin 15,000 XNUMX syväväärennöstä käyttävää videota havaittiin. Ja tämän määrän odotetaan kasvavan.

Deepfakes ovat täydellinen työkalu disinformaatiokampanjoihin, koska ne tuottavat uskottavia valeuutisia, joiden paljastaminen vie aikaa. Sillä välin syväväärennösten aiheuttamat vahingot – erityisesti ne, jotka vaikuttavat ihmisten maineeseen – ovat usein pitkäaikaisia ​​ja peruuttamattomia.

Onko näkeminen uskomista?

Deepfakejen ehkä vaarallisin seuraus on se, miten ne levittävät disinformaatiota poliittisissa kampanjoissa.

Näimme tämän, kun Donald Trump nimesi kaiken epämiellyttävän medianäkyvyyden "fake uutiset.” Syyttämällä arvostelijoitaan valeuutisten levittämisestä Trump saattoi käyttää väärää tietoa rikkomustensa puolustamiseen ja propagandan välineenä.

Trumpin strategia antaa hänelle mahdollisuuden ylläpitää tukea epäluottamuksen ja disinformaation täyttämässä ympäristössä väittämällä "että tositapahtumat ja tarinat ovat valeuutisia tai syvällisiä väärennöksiä"

Viranomaisten ja tiedotusvälineiden uskottavuus heikkeneeluoden epäluottamuksen ilmapiirin. Ja syvän väärennösten lisääntyessä poliitikot voivat helposti kieltää syyllisyytensä uusiin skandaaleihin. Kuinka jonkun videolla näkyvä henkilöllisyys voidaan vahvistaa, jos hän kiistää sen?

Disinformaation torjunta on kuitenkin aina ollut haaste demokratioille, kun ne yrittävät puolustaa sananvapautta. Ihmisten ja tekoälyn kumppanuudet voivat auttaa hallitsemaan kasvavaa syväväärennösten riskiä pyytämällä ihmisiä tarkistamaan tiedot. Voidaan myös harkita uuden lainsäädännön käyttöönottoa tai olemassa olevien lakien soveltamista syväväärennösten tuottajien rankaisemiseksi tietojen väärentämisestä ja henkilönä esiintymisestä.

Kansainvälisten ja kansallisten hallitusten, yksityisten yritysten ja muiden organisaatioiden monitieteiset lähestymistavat ovat kaikki elintärkeitä demokraattisten yhteiskuntien suojelemiseksi vääriltä tiedoilta.Conversation

Author

Sze-Fung Lee, tutkimusassistentti, informaatiotutkimuksen laitos, McGill University ja Benjamin CM Fung, professori ja Kanadan kyberturvallisuuden tiedonlouhinnan tutkimusjohtaja, McGill University

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.