Tyypillinen sosiaalinen bottitili. CC B

Sosiaalisen median alustoista on tullut enemmän kuin pelkkä viestintäväline. Ne ovat kehittyneet vilkkaiksi areenoiksi, joilla totuus ja valhe kohtaavat. Näistä alustoista X erottuu joukosta a näkyvä taistelukenttä. Se on paikka, jossa disinformaatiokampanjat kukoistavat, ja niitä ylläpitävät tekoälyllä toimivien robottien armeijat, jotka on ohjelmoitu horjuttamaan yleistä mielipidettä ja manipuloimaan tarinoita.

Tekoälyllä toimivat robotit ovat automatisoituja tilejä, jotka on suunniteltu jäljittelemään ihmisten käyttäytymistä. Botit sosiaalisessa mediassa, chat-alustoissa ja keskustelupalstojen tekoäly ovat olennainen osa nykyaikaista elämää. Niitä tarvitaan esimerkiksi AI-sovellusten tehokkaaseen toimintaan.

Mutta jotkut robotit on valmistettu pahantahtoisella tarkoituksella. Järkyttävää kyllä, botit muodostavat merkittävän osan X:n käyttäjäkunnasta. Vuonna 2017 se arvioitiin että sosiaalisia robotteja oli noin 23 miljoonaa eli 8.5 % kaikista käyttäjistä. Yli kaksi kolmasosaa twiiteistä peräisin näistä automaattisista tileistä, mikä lisää disinformaation ulottuvuutta ja sotkee ​​julkisen keskustelun vesiä.

Miten botit toimivat

Sosiaalinen vaikutusvalta on nykyään hyödyke, jonka voi hankkia ostamalla botteja. Yritykset myyvät väärennettyjä seuraajia lisätäkseen keinotekoisesti tilien suosiota. Nämä seuraajat ovat saatavilla huomattavan alhaisilla hinnoilla, ja ostajien joukossa on monia julkkiksia.

Tutkimuksemme aikana esimerkiksi kollegamme ja minä havaitsimme botin, joka oli julkaissut 100 twiittiä tarjoten seuraajia myyntiin.

Tekoälymenetelmien ja teoreettisen lähestymistavan avulla ns näyttelijä-verkkoteoria, kollegani ja minä pohdimme, kuinka haitalliset sosiaaliset robotit manipuloivat sosiaalista mediaa ja vaikuttavat siihen, mitä ihmiset ajattelevat ja miten he toimivat hälyttävän tehokkaasti. Voimme kertoa 79.7 prosentin tarkkuudella, onko valeuutisten luoma ihminen vai botti. On ratkaisevan tärkeää ymmärtää, kuinka sekä ihmiset että tekoäly levittävät disinformaatiota, jotta voidaan ymmärtää tapoja, joilla ihmiset hyödyntävät tekoälyä levittääkseen väärää tietoa.

Esimerkkinä tarkastelimme "True Trumpers" -nimisen tilin toimintaa Twitterissä.

Tili perustettiin elokuussa 2017, sillä ei ole seuraajia eikä profiilikuvaa, mutta se oli tutkimuksen aikaan lähettänyt 4,423 XNUMX twiittiä. Näihin sisältyi sarja täysin keksittyjä tarinoita. On syytä huomata, että tämä botti on kotoisin Itä-Euroopan maasta.

Valeuutisten virta bottitililtä. Buzzfeed, CC BY

Tämän kaltainen tutkimus vaikutti X:ään rajoittamaan sosiaalisten robottien toimintaa. Vastauksena sosiaalisen median manipuloinnin uhkaan X on ottanut käyttöön väliaikaiset lukurajoitukset rajoittaakseen tietojen kaapimista ja manipulointia. Vahvistetut tilit on rajoitettu lukemaan 6,000 600 viestiä päivässä, kun taas vahvistamattomat tilit voivat lukea XNUMX viestiä päivässä. Tämä on uusi päivitys, joten emme vielä tiedä, onko se tehonnut.

Voimmeko suojella itseämme?

Viime kädessä käyttäjien on kuitenkin oltava varovaisia ​​ja erottaa totuus valheesta, erityisesti vaalikausien aikana. Arvioimalla tietoja kriittisesti ja tarkistamalla lähteitä käyttäjät voivat osallistua demokraattisten prosessien eheyden suojelemiseen X:n bottien hyökkäyksiltä ja disinformaatiokampanjoilta. Jokainen käyttäjä on itse asiassa totuuden ja demokratian etulinjan puolustaja. Valppaus, kriittinen ajattelu ja terve annos skeptisyyttä ovat välttämättömiä panssareita.

Sosiaalisen median käyttäjien on tärkeää ymmärtää haitallisten tilien käyttämät strategiat.

Haitalliset toimijat käyttävät usein robottiverkostoja vahvistaakseen vääriä kertomuksia, manipuloidakseen trendejä ja levittääkseen nopeasti väärää tietoa. Käyttäjien tulee olla varovaisia, kun he kohtaavat tilejä, jotka osoittavat epäilyttävää toimintaa, kuten liiallista lähettämistä tai toistuvia viestejä.

Disinformaatiota levitetään usein myös valeuutissivustojen kautta. Nämä on suunniteltu jäljittelemään uskottavia uutislähteitä. Käyttäjiä kehotetaan varmistamaan uutislähteiden aitous vertaamalla tietoja hyvämaineisiin lähteisiin ja ottamalla yhteyttä faktantarkistusorganisaatioihin.

Itsetietoisuus on toinen suojamuoto, erityisesti sosiaalisen suunnittelun taktiikilta. Psykologista manipulointia käytetään usein huijaamaan käyttäjiä uskomaan valheita tai ryhtymään tiettyihin toimiin. Käyttäjien tulee pysyä valppaina ja arvioida kriittisesti kohtaamaansa sisältöä erityisesti herkempinä aikoina, kuten vaaleissa.

Pysymällä ajan tasalla, osallistumalla kansalaiskeskusteluun ja puolustamalla avoimuutta ja vastuullisuutta voimme yhdessä muodostaa digitaalisen ekosysteemin, joka edistää luottamusta, avoimuutta ja tietoista päätöksentekoa.

Nick Hajli, tekoälystrategi ja digitaalistrategian professori, Loughborough University

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.

Liittyvät kirjat:

Tyrannysta: kaksikymmentä oppituntia XNUMX. vuosisadalta

Kirjailija: Timothy Snyder

Tämä kirja tarjoaa historian oppitunteja demokratian säilyttämiseksi ja puolustamiseksi, mukaan lukien instituutioiden merkitys, yksittäisten kansalaisten rooli ja autoritaarisuuden vaarat.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Meidän aikamme on nyt: voima, tarkoitus ja taistelu reilusta Amerikasta

Kirjailija: Stacey Abrams

Kirjoittaja, poliitikko ja aktivisti, jakaa näkemyksensä osallistavammasta ja oikeudenmukaisemmasta demokratiasta ja tarjoaa käytännön strategioita poliittiseen sitoutumiseen ja äänestäjien mobilisointiin.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Kuinka demokratiat kuolevat

Steven Levitsky ja Daniel Ziblatt

Tämä kirja tutkii demokratian hajoamisen varoitusmerkkejä ja syitä hyödyntäen tapaustutkimuksia eri puolilta maailmaa tarjotakseen näkemyksiä demokratian turvaamisesta.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Ihmiset, nro: Antipopulismin lyhyt historia

Kirjailija: Thomas Frank

Kirjoittaja tarjoaa historian populistisista liikkeistä Yhdysvalloissa ja arvostelee "antipopulistista" ideologiaa, jonka hän väittää tukahduttaneen demokraattisen uudistuksen ja edistyksen.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Demokratia yhdessä kirjassa tai vähemmän: miten se toimii, miksi se ei toimi ja miksi sen korjaaminen on helpompaa kuin luulet

Kirjailija: David Litt

Tämä kirja tarjoaa yleiskatsauksen demokratiaan, mukaan lukien sen vahvuudet ja heikkoudet, ja ehdottaa uudistuksia, jotta järjestelmästä tulee reagoivampi ja vastuullisempi.

Klikkaa saadaksesi lisätietoja tai tilataksesi