William Perugini/Shutterstockmonista"suuria riskejä yhteiskunnalle ja ihmiskunnalle", jotka ovat saaneet tekniikan asiantuntijat huolissaan tekoälystä (AI), väärennettyjen kuvien leviäminen on jokapäiväisille internetin käyttäjille tuttua.
Deepfake -videoita tai valokuvia, joissa jonkun kasvoja tai vartaloa on muutettu digitaalisesti siten, että hän näyttää tekevän jotain, mitä hän ei tee, on jo käytetty levittämiseen poliittinen disinformaatio ja väärennettyä pornografiaa.
Nämä kuvat ovat tyypillisesti haitallisia, ja niitä käytetään aiheen häpäisemiseen. Mitä tulee syvään fake-pornografiaan, Suurin osa uhreista on naisia. Generatiivinen AI – tekniikka, jota käytetään tekstin, kuvien ja videon luomiseen – on jo tekemässä kuviin perustuva seksuaalinen hyväksikäyttö on helpompi syyllistyä.
Uusi joukko lakeja Yhdistyneessä kuningaskunnassa kriminalisoi syväpornografian jakamisen. Mutta kun kiinnitetään huomiota tekoälyyn ja syväväärennöksiin, emme voi unohtaa, kuinka vähemmän kehittynyttä tekniikkaa voidaan käyttää hyväksikäytön välineenä, jolla on tuhoisia seurauksia uhreille.
Tekniikka ja ohjaus
Kun aloin tutkimaan väkivaltaisten suhteiden teknologiaa, syväväärennökset olivat vain silmänräpäys horisontissa. Työni keskittyi älypuhelimien rooli hallitsevia suhteita paenneiden naisten hyväksikäytössä. Huomasin, että perheväkivallan tekijät käyttivät teknologiaa laajentaakseen valtaansa ja hallintaansa kumppaniensa suhteen. paljon aikaisemmin älypuhelimet olivat joka taskussa.
Matkapuhelimia voidaan käyttää suoraan monitorointiin ja ohjaukseen käyttämällä GPS-seurantaa tai pommittamalla uhria teksteillä, videoilla ja äänipuheluilla. Yksi osallistujani tutkimus vuonna 2019 selitti, kuinka hänen väkivaltainen kumppaninsa käytti puhelintaan päästäkseen sosiaaliseen mediaan, lähettäen hänelle loukkaavia kuvia Instagramin kautta sekä jatkuvia ja loukkaavia WhatsApp-viestejä.
Kun hän oli ulkona ystäviensä kanssa, hän lähetti ensin tekstiviestin, soitti ja sitten videosoitti hänelle jatkuvasti tarkistaakseen missä hän on ja kenen kanssa hän oli. Kun osallistuja sammutti puhelimensa, hänen silloinen kumppaninsa otti yhteyttä ystäviinsa ja pommitti heitä teksteillä ja puheluilla.
Tämä osallistuja tunsi itsensä liian nolostuneeksi sopiakseen tapaamisesta vertaisryhmänsä kanssa, joten hän lopetti ulkoilun. Muut samanlaisissa tilanteissa olevat voivat jäädä sosiaalisten suunnitelmien ulkopuolelle, jos ystävät haluavat välttää ystävänsä hyväksikäyttäjän yhteydenottoja. Tällainen sosiaalinen eristäytyminen on usein osa perheväkivaltaa ja tärkeä indikaattori ihmissuhteiden hallitsemisesta.
Perheväkivaltajärjestön Refugen mukaan yli 72% sen palveluita käyttävistä ihmisistä ilmoittaa teknologian väärinkäytöstä.
Matkapuhelimet ovat portti muihin vempaimiin "esineiden internetin" kautta – laitteisiin, jotka ovat yhteydessä verkkoon ja voivat vaihtaa tietoja. Myös väärinkäyttäjät voivat aseistaa näitä työkaluja. Esimerkiksi matkapuhelimia käyttämällä muuttaa lämpötila-asetuksia kotitalouksien termostaatilla, mikä luo äärimmäisyyksiä tunnista toiseen.
Tästä hämmentyneenä ihmiset etsivät selityksiä kumppaniltaan vain saadakseen tietää, että tämän täytyy olla heidän mielikuvituksensa tuotetta. Kaasuvalotekniikat Tällainen saa uhrit kyseenalaistamaan omaa järkeään, mikä heikentää heidän luottamustaan omaan arvostelukykyynsä.
Moderni panoptikoni
Napin painalluksella matkapuhelimet mahdollistavat ennennäkemättömän muiden valvonnan. Tekijän taskussa niitä voidaan käyttää nykyisten ja entisten kumppaneiden seuraamiseen milloin tahansa, missä tahansa ja - signaalin salliessa - missä tahansa. Tämä antaa tekijöille a kaikkivaltiuden voima, jolloin uhrit uskovat, että heitä tarkkaillaan, vaikka he eivät.
Tämä tuo mieleen 18-luvun filosofin Jeremy Benthamin työn, joka esitteli "panoptikumin" käsitteen. Bentham ehdotti "täydellistä" vankilajärjestelmää, jossa vartiotorni sijaitsee keskellä yksittäisten sellien ympäröimänä.
Eristettyinä toisistaan vangit näkivät vain tornin – jatkuva muistutus siitä, että heitä tarkkaillaan jatkuvasti, vaikka he eivät näe vartijaa siinä. Bentham uskoi, että tällainen rakenne johtaisi vankien itsevalvontaan, kunnes lopulta lukkoja tai tankoja ei tarvita.
Viimeisin tutkimukseni osoittaa, että matkapuhelimet ovat luoneet samanlaista dynamiikkaa väkivaltaisissa suhteissa. Puhelimet ovat tornin roolissa ja tekijät sen sisällä olevat vartijat.
Tässä modernissa panoptikumissa uhrit voivat olla ulkona ja nähtävillä tuntemattomille, ystäville ja perheelle. Silti puhelimen läsnäolon vuoksi he tuntevat olevansa edelleen väkivaltaisten kumppaniensa tarkkailemassa ja hallitsemassa heitä.
Kuten eräs osallistuja sanoi: ”Sinusta tuntuu, ettei ole vapautta edes ollessasi ulkona. Sinusta tuntuu, että olet lukittu jonnekin, sinulla ei ole vapautta, joku hallitsee sinua.”
Pahoinpitelystä selvinneet seuraavat itseään, vaikka tekijät eivät olisi paikalla. He toimivat tavoilla, joiden he uskovat miellyttävän (tai ei ainakaan vihaavan) hyväksikäyttäjiään.
Muut pitävät tätä käyttäytymistä usein oudona ja liian helposti hylättävänä vainoharhaisuus, ahdistus tai vakavammat mielenterveysongelmat. Keskitytään uhrin käytökseen ja sivuutetaan syy – kumppanin hyväksikäyttö tai rikollinen käyttäytyminen.
Kun tekniikka kehittyy, väärinkäyttäjien käytettävissä olevat työkalut ja strategiat kehittyvät edelleen. Tämä laajentaa tekijöiden ulottuvuutta ja tarjoaa uusia mahdollisuuksia valvontaan, kaasuvalaistukseen ja väärinkäyttöön.
Kunnes teknologiayritykset ottavat huomioon perheväkivallasta selviytyneiden kokemukset ja rakentavat turvamekanismeja tuotteidensa suunnitteluun, väärinkäyttö jatkuu. piilossa näkyville.
Tirion Havard, sosiaalityön apulaisprofessori, Lontoon South Bankin yliopisto
Tämä artikkeli julkaistaan uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.
