Voiko tekniikka säästää meidät epämuodostumasta sosiaalisen median avulla?

Jos saat uutiset sosiaalisesta mediasta, kuten useimmat amerikkalaiset tekevät, olet alttiina päivittäiselle annokselle huijauksia, huhuja, salaliittoteorioita ja harhaanjohtavia uutisia. Kun kaikki sekoittuu luotettaviin tietoihin rehellisistä lähteistä, totuus voi olla hyvin vaikea havaita.

Itse tutkimusryhmäni analysoi Columbian yliopiston tietoja Emergent huhu seuraaja ehdottaa, että tämä väärää tietoa on yhtä todennäköistä kuin virus luotettavia tietoja.

Monet kysyvät, onko tämä digitaalisen väärän informaation hyökkäys vaikutti tulokseen 2016: n Yhdysvaltain vaaleissa. Totuus on, ettemme tiedä, vaikka on syytä uskoa, että se on täysin mahdollista aikaisempi analyysi ja muiden maiden tilit. Jokainen väärän informaation osa edistää mielipiteidemme muotoilua. Kaiken kaikkiaan haitta voi olla hyvin todellinen.

Tiedän, että tietojenkäsittelyn leviämisen tutkijana sosiaalisen median välityksellä tiedän, että uutisfilereiden kyky myydä mainoksia on hiljattain ilmoitettu Google ja Facebook, on askel oikeaan suuntaan. Se ei kuitenkaan rajoita poliittisten motiivien aiheuttamia väärinkäytöksiä.

Sosiaalisen median hyödyntäminen

Noin 10-vuotta sitten kollegani ja minä juoksin kokeilu jossa opimme 72-prosenttiosuuden opiskelijoista luotetuista linkeistä, jotka olivat peräisin ystäviltä - jopa siihen pisteeseen, että henkilökohtaiset kirjautumistiedot syötetään phishing-sivustoille. Tämä laajalle levinnyt haavoittuvuus ehdotti toisenlaista haittaohjelman manipulointia: ihmiset saattavat myös uskoa, että he saavat väärää tietoa, kun he napsauttavat sosiaalisen yhteyden linkkiä.

Voit tutustua tähän ajatukseen luomaan a väärennetty verkkosivu satunnaisilla, tietokoneella tuotetuilla juorutuuteilla - sellaisina kuin ”Celebrity X on kiinni sängyssä Celebrity Y: n kanssa!” Käyttäjä, joka etsii nimeä, laukaisi käsikirjoituksen valmistamaan automaattisesti tarinan ihmisestä. Olen sisällyttänyt sivustoon vastuuvapauslausekkeen, jossa mainitsin, että sivusto sisälsi merkityksettömiä tekstejä ja valmiita "faktoja". Sain myös mainoksia sivulle. Kuukauden lopussa sain shekki postissa, jossa oli tuloja mainoksista. Tämä oli minun todistus: Fake-uutiset voisivat ansaita rahaa saastuttamalla internetin valheilla.


sisäinen tilausgrafiikka


Valitettavasti en ollut ainoa, jolla oli tämä ajatus. Kymmenen vuotta myöhemmin meillä on väärennettyjä uutisia ja digitaalinen väärää tietoa. Clickbait-sivustot valmistavat huijauksia ansaita rahaa mainoksista, kun taas ns. Hyperpartisan-sivustot julkaisevat ja levittävät huhuja ja salaliittoteorioita vaikuttamaan yleiseen mielipiteeseen.

Tätä teollisuutta tukee se, kuinka helppoa on luoda sosiaaliset botit, väärennettyjä tilejä, joita ohjataan ohjelmilla, jotka näyttävät todellisilta ihmisiltä ja joilla voi olla todellista vaikutusta. Tutkimus minun laboratorio paljastui monia esimerkkejä väärennettyjen ruohonjuuritason kampanjoista, joita kutsutaan myös poliittinen astroturfing.

Vastauksena kehitimme BotOrNot työkalu sosiaalisten robottien havaitsemiseksi. Se ei ole täydellinen, mutta tarpeeksi tarkka paljastaa vakuuttavia kampanjoita Brexit- ja antivax-liikkeissä. Käyttämällä BotOrNotia kollegamme totesivat, että a suuri osa online-chatteria 2016-vaaleista tuotti robotit.

Tiedotuskuplien luominen

Me ihmiset ovat alttiita digitaalisen väärän tiedon manipuloinnille monimutkaisen joukon sosiaalisia, kognitiivisia, taloudellisia ja algoritmisia puolueita. Jotkut näistä ovat kehittyneet hyvistä syistä: Sosiaalipiirien signaalien luottaminen ja kokemusten hylkäämisen hylkääminen antoivat meille hyvin, kun lajimme sopeutuivat välttämään saalistajia. Mutta nykyisissä kutistuvissa verkkoverkoissa sosiaalinen verkostoyhteys salaliittoteoristiin planeetan toisella puolella ei auta antamaan mielipiteitäni.

Ystävillemme kopioiminen ja erilaisten mielipiteiden laiminlyönti antavat meille niin kaikuja polarisoitunut että tutkijat voivat kertoa tarkasti, oletko liberaali tai konservatiivinen katsomalla vain ystäviäsi. Verkon rakenne on niin tiheä että mikä tahansa väärää tietoa leviää lähes välittömästi ryhmän sisällä ja niin erottuu, että se ei saavuta toista.

Kuplan sisällä olemme valikoivasti alttiina uskomuksemme mukaisille tiedoille. Se on ihanteellinen skenaario sitoutumisen maksimoimiseksi, mutta se on haitallinen terveellistä skeptisyyttä kehittävälle. Vahvistus johtaa meidät jakamaan otsikon lukematta artikkeli.

Meidän laboratoriossamme oli henkilökohtainen oppitunti, kun oma tutkimusprojekti tuli a pahoinvointikampanja 2014 USA: n puolivälissä pidettäviin vaaleihin. Kun tutkimme, mitä tapahtui, löysimme väärennettyjä uutisia siitä, että tutkimuksemme ovat pääsääntöisesti jakaneet Twitter-käyttäjiä yhden partisan kaikuhuoneessa, joka on suuri ja homogeeninen poliittisesti aktiivisten käyttäjien yhteisö. Nämä ihmiset olivat nopeasti retweet ja läpäisemättömiä debunking tietoja.

Viruksen väistämättömyys

Tutkimuksemme osoittaa, että kun otetaan huomioon sosiaalisten verkostojamme rakenne ja rajoitettu huomiomme, se on väistämätön että jotkut meemit menee virukseen riippumatta niiden laadusta. Vaikka yksilöt pyrkivät jakamaan laadukkaampia tietoja, verkko ei kokonaisuudessaan ole tehokas syrjimään luotettavia ja valmistettuja tietoja. Tämä auttaa selittämään kaikki virukselliset huijaukset, joita havaitsemme luonnossa.

- huomiota huolehtii muusta: Jos kiinnitämme huomiota tiettyyn aiheeseen, tuotetaan lisää tietoa aiheesta. On halvempaa valmistaa tietoa ja välittää se tosiasiallisesti kuin se on raportoida todellista totuutta. Ja valmistus voidaan räätälöidä kullekin ryhmälle: Konservatiivit lukivat, että paavi hyväksyi Trumpin, liberaalit lukivat, että hän hyväksyi Clintonin. Hän ei tehnyt kumpaakaan.

Katso algoritmeja

Koska emme voi kiinnittää huomiota kaikkiin syötteisiin, algoritmit määrittävät, mitä näemme ja mitä emme. Sosiaalisen median alustojen nykyisin käyttämät algoritmit on suunniteltu priorisoimaan kiinnostavia viestejä - niitä, joita todennäköisesti todennäköisesti napsautetaan, reagoimme ja jaetaan. Mutta äskettäin tehty analyysi, jossa havaittiin tarkoituksellisesti harhaanjohtavia sivuja, sai ainakin niin paljon online-jakamista ja reaktio todellisena uutisena.

Tämä algoritminen harhautuminen kohti totuuden vahvistamista vahvistaa sosiaalisia ja kognitiivisia puolueettomuutemme. Tämän seurauksena, kun seuraamme sosiaalisen median jaettuja linkkejä, käytämme pienempää, homogeenisempi joukko lähteitä kuin silloin, kun suoritamme haun ja vierailemme huipputuloksissa.

Olemassa olevat tutkimukset osoittavat, että kaikuhuoneessa voi olla ihmisiä enemmän herkkä hyväksymättömien huhujen hyväksymisestä. Mutta meidän on tiedettävä paljon enemmän siitä, miten erilaiset ihmiset reagoivat yhteen huijaukseen: jotkut jakavat sen heti, toiset tosiasiallisesti tarkistavat sen ensin.

Me olemme simuloida sosiaalista verkostoa tutkia tätä kilpailunjakoa jakamisen ja tietojen tarkistamisen välillä. Toivomme auttaa poistamaan ristiriitaisia ​​todisteita kun tosiasiavalvonta auttaa pysäyttämään huijauksia leviämisen ja milloin se ei ole. Alustavat tulokset viittaavat siihen, että mitä kauempana hoax-uskovien yhteisö on, sitä kauemmin hoax säilyy. Jälleen, se ei koske pelkästään hoaxia vaan myös verkkoa.

Monet ihmiset yrittävät selvittää mitä tehdä kaiken tämän kanssa. Mark Zuckerbergin viimeisimmän ilmoitusFacebook-tiimit testaavat mahdollisia vaihtoehtoja. Ja ryhmä oppilaita on ehdottanut tapaa yksinkertaisesti merkitä jaetut linkit "vahvistettu" tai ei.

Jotkut ratkaisut jäävät saavuttamattomiksi, ainakin tällä hetkellä. Emme voi esimerkiksi opettaa keinotekoisia älykkäitä järjestelmiä erottaa totuus ja valhe. Mutta voimme kertoa sijoitusalgoritmeille, että ne antavat enemmän etusijaa luotettavammille lähteille.

Tutkitaan väärennettyjen uutisten leviämistä

Voimme torjua väärennettyjä uutisia tehokkaammin, jos ymmärrämme paremmin, kuinka huonot tiedot leviävät. Jos esimerkiksi botit ovat vastuussa monista valheista, voimme kiinnittää huomion niihin. Jos vaihtoehtoisesti ongelma koskee kaiun kammioita, ehkäpä voisimme suunnitella suositusjärjestelmiä, jotka eivät sulje pois erilaisia ​​näkemyksiä.

Tätä tarkoitusta varten laboratorio rakentaa nimeltään alustan Hoaxy seurata ja visualisoida todentamattomien vaateiden leviämistä ja vastaavaa tosiasiallisuutta sosiaalisen median avulla. Se antaa meille todellisia tietoja, joiden avulla voimme ilmoittaa simuloidut sosiaaliset verkostomme. Sitten voimme testata mahdollisia tapoja torjua väärennettyjä uutisia.

Hoaxy voi myös pystyä osoittamaan ihmisille, kuinka helposti heidän mielipiteensä manipuloivat online-tiedot - ja jopa kuinka todennäköisesti jotkut meistä jakavat valheita verkossa. Hoaxy liittyy joukko työkaluja meidän Sosiaalisen median observatorio, jonka avulla kuka tahansa voi nähdä, miten memeet leviävät Twitteriin. Tällaisten työkalujen yhdistäminen ihmisen tosiasiallisiin tarkastajiin ja sosiaalisen median alustoihin voisi helpottaa päällekkäisyyksien minimointia ja tuki toisiaan.

On välttämätöntä, että investoimme resursseja tämän ilmiön tutkimukseen. Tarvitsemme kaikki kädet kannelle: Tietotekniikan tutkijoiden, yhteiskuntatieteilijöiden, taloustieteilijöiden, toimittajien ja teollisuuskumppaneiden täytyy työskennellä yhdessä vastustaa väärien tietojen leviämistä.

Conversation

Author

Filippo Menczer, tietojenkäsittelytieteen ja informatiikan professori; Monimutkaisten verkkojen ja järjestelmätutkimuksen keskuksen johtaja, \ t Indiana-yliopisto, Bloomington

Tämä artikkeli julkaistiin alunperin Conversation. Lue alkuperäinen artikkeli.

Liittyvät kirjat:

at InnerSelf Market ja Amazon