Jonkun äänen kloonaaminen on helpompaa kuin koskaan. D-Keine/iStock Getty Imagesin kautta
Olet juuri palannut kotiin pitkän työpäivän jälkeen ja olet istumassa illalliselle, kun yhtäkkiä puhelimesi alkaa surisemaan. Toisessa päässä on rakastettu, ehkä vanhempi, lapsi tai lapsuudenystävä, joka pyytää sinua lähettämään hänelle rahaa välittömästi.
Esität heille kysymyksiä ja yrität ymmärtää. Heidän vastauksissaan, jotka ovat joko epämääräisiä tai luonteeltaan epämääräisiä, on jotain epäselvää, ja joskus niissä on erikoinen viive, melkein kuin he ajattelisivat hieman liian hitaasti. Olet kuitenkin varma, että rakkaasi puhuu ehdottomasti: kuulet hänen äänensä, ja soittajan numero näyttää hänen numeronsa. Osoittaaksesi heidän paniikkinsa kummallisuutensa, lähetät rahat velvollisuudentuntoisesti heidän sinulle antamalle pankkitilille.
Seuraavana päivänä soitat heille takaisin varmistaaksesi, että kaikki on hyvin. Rakkaallasi ei ole aavistustakaan, mistä puhut. Tämä johtuu siitä, että he eivät koskaan soittaneet sinulle – tekniikka on huijannut sinua: äänen syväfake. Tuhansia ihmisiä oli huijattiin tällä tavalla vuonna 2022.
Mahdollisuus kloonata ihmisen ääni on yhä useammin kaikkien tietokoneen käytössä olevien ulottuvilla.
As tietoturva Tutkijat, huomaamme, että jatkuvat edistysaskeleet syväoppimisalgoritmeissa, äänen editoinnissa ja suunnittelussa sekä synteettisessä äänen luomisessa ovat merkinneet sitä, että on yhä enemmän mahdollista simuloida vakuuttavasti henkilön ääntä.
Vielä pahempaa, chatbotit, kuten ChatGPT, alkavat tuottaa realistisia skriptejä mukautuvilla reaaliaikaisilla vastauksilla. Tekijä: yhdistämällä nämä tekniikat äänentuotantoon, deepfake muuttuu staattisesta tallenteesta eläväksi, todenmukaiseksi avatariksi, joka voi vakuuttavasti käydä puhelinkeskustelun.
Äänen kloonaaminen
Kiinnostavan korkealaatuisen syväfake-videon tai äänen luominen ei ole helpoin asia. Se vaatii runsaasti taiteellisia ja teknisiä taitoja, tehokkaan laitteiston ja melko mojovan näytteen kohdeäänestä.
Tarjolla on kasvava määrä palveluita tuottaa kohtuullisen tai korkealaatuisia ääniklooneja maksua vastaan, ja jotkin äänen syväväärennöstyökalut tarvitsevat näytteen vain minuutin pituinen, tai jopa vain muutama sekunti, tuottaa äänikloonin, joka voi olla tarpeeksi vakuuttava huijatakseen jonkun. Rakkaan vakuuttaminen – esimerkiksi käyttäminen toisena henkilönä esiintymishuijauksessa – vaatisi kuitenkin todennäköisesti huomattavasti suuremman otoksen.
Tutkijat ovat onnistuneet kloonaamaan ääniä vain viiden sekunnin äänityksellä.
Hanki uusimmat sähköpostitse
Suojaa huijauksilta ja disinformaatiolta
Kaikesta sanotusta huolimatta me olemme DeFake-projekti Rochester Institute of Technologyn, Mississippin yliopiston ja Michigan State Universityn tutkijat ja muut tutkijat tekevät lujasti töitä pystyäkseen havaitsemaan video- ja ääniväärennöksiä ja rajoittamaan niiden aiheuttamaa haittaa. On myös yksinkertaisia ja jokapäiväisiä toimia, joilla voit suojella itseäsi.
Alkajaisiksi, äänen tietojenkalastelu, tai "vishing", yllä kuvatun kaltaiset huijaukset ovat todennäköisimpiä ääniväärennöksiä, joita saatat kohdata jokapäiväisessä elämässä, sekä töissä että kotona. Vuonna 2019 an energiayhtiö huijattiin 243,000 XNUMX dollarista kun rikolliset simuloivat sen emoyhtiön pomon ääntä käskemään työntekijän siirtämään varoja toimittajalle. Vuonna 2022 ihmiset olivat huijattiin arviolta 11 miljoonasta dollarista simuloiduilla äänillä, mukaan lukien läheiset henkilökohtaiset yhteydet.
Mitä voit tehdä?
Ole tietoinen odottamattomista puheluista, jopa tuntemiltasi ihmisiltä. Tämä ei tarkoita sitä, että sinun pitäisi ajoittaa jokainen puhelu, mutta se auttaa ainakin lähettämään sähköpostia tai tekstiviestiä eteenpäin. Älä myöskään luota soittajan tunnukseen, koska sekin voidaan väärentää. Jos esimerkiksi saat puhelun henkilöltä, joka väittää edustavansa pankkiasi, katkaise puhelu ja soita suoraan pankkiin vahvistaaksesi puhelun laillisuus. Muista käyttää numeroa, jonka olet kirjoittanut muistiin, tallentanut yhteystietoluetteloosi tai jonka löydät Googlesta.
Lisäksi ole varovainen henkilökohtaisten tunnistetietojen, kuten sosiaaliturvatunnuksen, kotiosoitteen, syntymäajan, puhelinnumeron, toisen nimen ja jopa lasten ja lemmikkieläinten nimien kanssa. Huijarit voivat käyttää näitä tietoja esiintyäkseen sinusta pankkien, kiinteistönvälittäjien ja muiden silmissä ja rikastuakseen samalla kun he ajavat sinut konkurssiin tai tuhoavat luottotietosi.
Tässä on toinen neuvo: tunne itsesi. Erityisesti tiedä älylliset ja emotionaaliset ennakkoluulosi ja haavoittuvuutesi. Tämä on yleensä hyvä elämänohje, mutta se on avainasemassa suojella itseäsi manipuloinnilta. Huijarit pyrkivät tavallisesti selvittämään ja sitten saalistamaan taloudellisia huoliasi, poliittisia kiintymyksiäsi tai muita taipumuksiasi, olivatpa ne mitä tahansa.
Tämä valppaus on myös kunnollinen suoja disinformaatiota vastaan äänen syväväärennöksillä. Deepfakeja voidaan käyttää hyödyksi vahvistusvinouma, tai mitä olet taipuvainen uskomaan jostakin.
Jos kuulet tärkeän henkilön, olipa se sitten paikkakunnalta tai hallitukselta, sanovan jotain, joka joko näyttää hänelle hyvin epätyypilliseltä tai vahvistaa pahimpia epäilyjäsi heistä, sinun on viisasta olla varovainen.
Tietoja kirjoittajista
Matthew Wright, laskentaturvallisuuden professori, Rochester Institute of Technology ja Christopher Schwartz, Computing Securityn tutkijatohtori, Rochester Institute of Technology
Tämä artikkeli julkaistaan uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.
