”Epäonnistu elämässä. Mene pommi itse. ”

Tämän kaltaiset kommentit, jotka löytyvät CNN-artikkelista siitä, miten naiset kokevat itsensä, ovat nykyään yleisiä Internetissä, olipa kyseessä sitten Facebook, Reddit tai uutissivusto. Tällainen käyttäytyminen voi vaihdella profaniteetista ja nimikutsusta henkilökohtaisiin hyökkäyksiin, seksuaaliseen häirintään tai vihamieliseen puhumiseen.

Tuore Pew Internet Survey havaitsi, että neljä 10-verkosta on online-ahdisteltu verkossa, ja he ovat todenneet enemmän tällaista käyttäytymistä. Uistelu on tullut niin valtavaksi, että useat sivustot ovat jopa turvautuneet poistaa kommentit kokonaan.

Monet uskovat, että uistelua tekee pieni, ääni-vähemmistö sosiopaattisista yksilöistä. Tämä usko on vahvistettu paitsi tiedotusvälineet, mutta myös aikaisemmissa uistelua koskevissa tutkimuksissa, joissa keskityttiin näiden henkilöiden haastatteluun. Jotkut tutkimukset osoittivat jopa, että trollit ovat alttiita henkilökohtaiset ja biologiset ominaisuudet, kuten sadismi ja taipumus pyrkiä liialliseen stimulaatioon.

Mutta entä jos kaikki trollit eivät syntyisi trolleja? Entä jos he ovat tavallisia ihmisiä kuin sinä ja minä? Sisään tutkimuksemme, huomasimme, että ihmisiä voidaan vaikuttaa vetämään toisia oikeisiin olosuhteisiin online-yhteisössä. Analysoimalla CNN.com-sivustolla tehtyjä 16 miljoonia kommentteja ja suorittaessamme online-ohjattua kokeilua tunnistimme kaksi keskeistä tekijää, jotka voivat johtaa tavallisiin ihmisiin.

Mikä tekee trollista?

Rekrytoimme 667-osallistujat online-crowdsourcing-alustan kautta ja pyysimme heitä ottamaan ensin tietokilpailun, lukemaan artikkelin ja keskustelemaan. Jokainen osallistuja näki saman artikkelin, mutta joillekin annettiin keskustelu, joka alkoi trollien kommenteilla, joissa muut näkivät neutraaleja kommentteja. Tällöin uistelu määritettiin käyttämällä tavallisia yhteisöohjeita - esim. Nimipuhelu, röyhkeys, rasismi tai häirintä. Aikaisemmin annettu tietokilpailu vaihteli myös helposti tai vaikeaksi.

Analyysi CNN.comin kommenteista auttoi todentamaan ja laajentamaan näitä kokeellisia havaintoja.

Ensimmäinen tekijä, joka näyttää vaikuttavan uisteluun, on henkilön mieliala. Kokemuksessamme negatiivisiin mieliin panostetut ihmiset alkoivat paljon enemmän vetoa. Huomasimme myös, että uistelu pyörii ja virtaa vuorokauden ja viikonpäivän kanssa synkronoituna luonnolliset inhimilliset mielialat. Uistelu on yleisintä myöhään yöllä, ja vähiten harvoin aamulla. Uistelu huipentuu myös maanantaina työpäivän alussa.

Lisäksi huomasimme, että kielteinen mieliala voi säilyä niiden tunteiden ylittävien tapahtumien ulkopuolella. Oletetaan, että henkilö osallistuu keskusteluun, jossa muut ihmiset kirjoittivat trollin kommentteja. Jos kyseinen henkilö jatkaa osallistumattomana keskusteluna, he ovat myös todennäköisemmin trollissa tässä keskustelussa.

Toinen tekijä on keskustelun tausta. Jos keskustelu alkaa ”troll-kommentilla”, niin muut osallistujat joutuvat sen jälkeen kaksi kertaa todennäköisemmin uistumaan verrattuna keskusteluun, joka ei aloita troll-kommenttia.

Itse asiassa nämä troll-kommentit voivat lisätä. Mitä enemmän troll kommentoi keskustelussa, sitä todennäköisemmin tulevien osallistujien on keskusteltava. Kaiken kaikkiaan nämä tulokset osoittavat, miten keskustelun ensimmäiset kommentit ovat vahva ja kestävä ennakkotapaus myöhempää uistelua varten.

Mietimme, voisimme näiden kahden tekijän avulla ennustaa, milloin uistelu tapahtuisi. Koneen oppimisalgoritmeja käyttäen pystyi ennustamaan, aikooko henkilö trollata 80-prosenttiosuutta ajasta.

Mielenkiintoista on, että mieliala- ja keskustelutilanne olivat yhdessä paljon voimakkaampi trollin indikaattori kuin yksilöiden tunnistaminen trolleiksi. Toisin sanoen uistelua aiheuttaa enemmän ihmisen ympäristö kuin mikään luontainen ominaisuus.

Koska uistelu on tilannekohtaista ja tavallisia ihmisiä voi vaikuttaa trolliin, tällainen käyttäytyminen voi päätyä henkiin. Yksi trollin kommentti keskustelussa, jonka on ehkä kirjoittanut henkilö, joka heräsi sängyn väärällä puolella, voi johtaa huonompiin tunnelmiin muiden osallistujien keskuudessa ja vielä enemmän troll-kommentteja muualla. Koska tämä negatiivinen käyttäytyminen leviää edelleen, uistelu voi päätyä normiksi yhteisöissä, jos niitä ei ole valittu.

Taistelu takaisin

Näistä sujuvista tuloksista huolimatta tämä tutkimus voi auttaa meitä luomaan parempia online-tiloja julkiseen keskusteluun.

Ymmärtämällä, mikä johtaa uisteluun, voimme nyt paremmin ennustaa, milloin vetouistelu todennäköisesti tapahtuu. Näin voimme tunnistaa mahdollisesti kiistanalaiset keskustelut etukäteen ja varoittaa ennakkoluulottomasti moderaattoreita, jotka voivat sitten puuttua näihin aggressiivisiin tilanteisiin.

Koneen oppimisalgoritmit voivat myös lajitella miljoonia viestejä paljon nopeammin kuin mikään ihminen. Kouluttamalla tietokoneita pelleilemiseen, voimme tunnistaa ja suodattaa ei-toivotun sisällön paljon nopeammin.

Sosiaaliset toimenpiteet voivat myös vähentää uistelua. Jos sallimme ihmisten vetäytyä äskettäin lähetetyistä kommenteista, saatamme pystyä minimoimaan paheksuntaa lähettämästä hetken lämpöä. Keskustelun kontekstin muuttaminen priorisoimalla rakentavia kommentteja voi lisätä uskottavuutta. Jopa vain keskustelun sivujen yläosassa olevan viestin kiinnittäminen yhteisön sääntöihin auttaa, kuten viimeinen kokeilu suoritettiin Redditissä.

On kuitenkin tehtävä paljon enemmän, jotta uistelu voidaan ratkaista. Järjestäytyneen uistelun roolin ymmärtäminen voi rajoittaa eräitä ei-toivottuja käyttäytymismuotoja.

Vetovoima voi myös vaihdella vakavuudeltaan kiroamisesta kohdennettuun kiusaamiseen, mikä edellyttää erilaisia ​​vastauksia.

On myös tärkeää erottaa troll-kommentin vaikutus tekijän tahdon mukaan: Onko trollin tarkoitus vahingoittaa muita tai yritti vain ilmaista eri näkökulmaa? Tämä voi auttaa erottamaan ei-toivotut yksilöt niistä, jotka tarvitsevat apua heidän ideoidensa välittämisessä.

Kun online-keskustelut hajoavat, ei vain sosiopaatteja syytä. Olemme myös syyllisiä. Monet ”trollit” ovat vain sellaisia ​​ihmisiä, joilla on huono päivä. Ymmärtämys siitä, että olemme vastuussa sekä innostavista että masentavista keskusteluista verkossa, on avainasemassa tuottavampien keskustelujen saamisessa.

Author

Justin Cheng, tietojenkäsittelytieteen tohtori, Stanfordin yliopisto; Cristian Danescu-Niculescu-Mizil, tietotekniikan apulaisprofessori, Cornell University, ja tietotekniikan professori Michael Bernstein, Stanfordin yliopisto, Jure Leskovec Stanfordin yliopistossa osallistui myös tähän artikkeliin.

Tämä artikkeli julkaistiin alunperin Conversation. Lue alkuperäinen artikkeli.

Liittyvät kirjat

at InnerSelf Market ja Amazon