Hakukoneet tarjoavat usein vääristävän sekoituksen tietoa ja väärää tietoa. Crispin la valiente / Moment Getty Imagesin kautta, CC BY-ND

Hakukoneet ovat yksi yhteiskunnan ensisijaisista portteista tietoon ja ihmisiin, mutta ne ovat myös kanavia väärää tietoa varten. Samanlainen kuin ongelmalliset sosiaalisen median algoritmit, hakukoneet oppivat palvelemaan sinua, mitä sinä ja muut olet napsauttanut aiemmin. Koska ihmisiä kiinnostaa sensaatiomainen, tämä algoritmien ja ihmisluonnon välinen tanssi voi edistää väärän tiedon leviämistä.

Hakukoneyritykset, kuten useimmat verkkopalvelut, ansaitsevat rahaa paitsi myymällä mainoksia myös seuraamalla käyttäjiä ja myymällä heidän tietojaan reaaliaikaisen tarjoamisen avulla sen päällä. Ihmiset johtavat usein väärään tietoon, koska he haluavat sensaatiomaisia ​​ja viihdyttäviä uutisia sekä tietoja, jotka ovat joko kiistanalaisia ​​tai vahvistavat heidän näkemyksiään. Eräässä tutkimuksessa todettiin, että suositumpia YouTube-videoita diabeteksesta ovat vähemmän todennäköisesti lääketieteellisesti päteviä tietoja kuin esimerkiksi vähemmän suosittuja videoita aiheesta.

Mainoslähtöiset hakukoneet, kuten sosiaalisen median alustat, on suunniteltu palkitsemaan houkuttelevia linkkejä, koska se auttaa hakukoneyrityksiä parantamaan liiketoimintatietojaan. Tutkijana, joka tutkii haku- ja suositusjärjestelmiä, Minä ja kollegani osoittavat, että tämä vaarallinen yhdistelmä yritysten voittomotiiveja ja yksilöllistä alttiutta vaikeuttaa ongelman korjaamista.

Kuinka hakutulokset menevät pieleen

Kun napsautat hakutulosta, hakualgoritmi saa tietää, että napsauttamasi linkki on osuva hakulausekkeellesi. Tätä kutsutaan relevanssipalaute. Tämä palaute auttaa hakukoneita painottamaan tätä linkkiä kyselylle tulevaisuudessa. Jos tarpeeksi ihmisiä napsauttaa linkkiä riittävän monta kertaa, mikä antaa vahvaa palautetta asiaankuuluvuudesta, kyseinen verkkosivusto alkaa nousta korkeammalle kyseisen ja siihen liittyvien kyselyjen hakutuloksissa.

Ihmiset ovat napsauttaa todennäköisemmin korkeammalla näkyviä linkkejä hakutulossivulla. Tämä luo positiivisen palautesilmukan - mitä korkeammalle verkkosivusto näkyy, sitä enemmän napsautuksia on, ja tämä puolestaan ​​saa kyseisen verkkosivuston liikkumaan korkeammalle tai pitämään sen korkeammalla. Hakukoneoptimointitekniikat käyttävät tätä tietoa verkkosivustojen näkyvyyden parantamiseen.

Tässä väärätieto-ongelmassa on kaksi näkökohtaa: miten hakualgoritmi arvioidaan ja miten ihmiset reagoivat otsikoihin, otsikoihin ja katkelmiin. Hakukoneet, kuten useimmat verkkopalvelut, arvioidaan käyttämällä joukkoa mittareita, joista yksi on käyttäjien sitoutuminen. Hakukoneyritysten etujen mukaista on antaa sinulle asioita, joita haluat lukea, katsella tai yksinkertaisesti napsauttaa. Siksi, kun hakukone tai mikä tahansa suositusjärjestelmä luo luettelon esitettävistä kohteista, se laskee todennäköisyyden, että napsautat kohteita.

Perinteisesti tämän oli tarkoitus tuoda esille tärkeimmät tiedot. Asiaankuuluvuuden käsite on kuitenkin hämärtynyt, koska ihmiset ovat käyttäneet hakua etsintään viihdyttäviä hakutuloksia sekä todella olennaisia ​​tietoja.

Kuvittele, että etsit pianoviritintä. Jos joku näyttää videon kissasta, joka soittaa pianoa, napsautatko sitä? Monet tekisivät, vaikka sillä ei olisi mitään tekemistä pianon virityksen kanssa. Hakupalvelu tuntuu varmennetulta positiivisella merkityksellisellä palautteella ja oppii, että on hyvä näyttää kissalle soittava piano, kun ihmiset etsivät pianovirittimiä.

Itse asiassa se on jopa parempi kuin näyttää asiaankuuluvat tulokset monissa tapauksissa. Ihmiset haluavat katsella hauskoja kissavideoita, ja hakujärjestelmä saa enemmän napsautuksia ja käyttäjien sitoutumista.

Tämä saattaa tuntua vaarattomalta. Joten mitä jos ihmiset häiritsevät toisinaan ja napsauttavat tuloksia, jotka eivät liity hakulausekkeeseen? Ongelmana on, että ihmisiä kiinnostaa jännittävät kuvat ja sensaatiomainen otsikot. Ne yleensä napsauttaa salaliittoteorioita ja sensaatiomaisia ​​uutisia, ei vain kissat, jotka soittavat pianoa, ja tee niin enemmän kuin napsauttamalla todellisia uutisia tai asiaankuuluvia tietoja.

Kuuluisia mutta väärennettyjä hämähäkkejä

Vuonna 2018 haut "uusi tappava hämähäkki" piikki Google seurauksena Facebook-viesti, joka väitti uuden tappavan hämähäkin, tappoi useita ihmisiä useissa osavaltioissa. Kollegani ja minä analysoimme Google-haun 100 parhaan tuloksen haulle "uusi tappava hämähäkki" tämän trendikyselyn ensimmäisen viikon aikana.

Elokuussa 2018 (tummennetut alueet) löytyneiden uusien tappavien hämähäkkien Google-hakutulosten kaksi ensimmäistä sivua liittyivät kyseistä aihetta koskevaan alkuperäiseen väärennettyyn uutislähetykseen, ei paljastamatta tai muuten tosiasioihin liittyvää tietoa. Chirag Shah, CC BY-ND

Kävi ilmi tämä tarina oli väärennös, mutta sitä etsivät ihmiset altistuivat suurelta osin väärälle tiedolle, joka liittyi alkuperäiseen väärennettyyn viestiin. Kun ihmiset napsauttivat ja jakivat väärää tietoa, Google jatkoi kyseisten sivujen tarjoamista hakutulosten yläosassa.

Tämä jännittävien ja vahvistamattomien tarinoiden esiin tuleva malli ja ihmiset, jotka napsauttavat niitä, jatkuu. Ihmiset ilmeisesti joko eivät välitä totuudesta tai uskovat, että jos luotettu palvelu, kuten Google-haku, näyttää nämä tarinat heille, tarinoiden on oltava totta. Viime aikoina a kumottu mietintö väittäen Kiinan antaneen koronaviruksen vuodon laboratoriosta, se sai vetovoiman hakukoneissa tämän noidankehän takia.

Huomaa väärät tiedot

Testataksemme kuinka hyvin ihmiset erottavat tarkan ja väärän tiedon, suunnittelemme yksinkertaisen pelin nimeltäGoogle tai ei. ” Tämä online-peli näyttää kaksi tulosarjaa samalle kyselylle. Tavoite on yksinkertainen - valitse luotettava, luotettava tai tärkein sarja.

Testeissä noin puolet ajasta ihmiset eivät osaa erottaa väärää tietoa sisältävien Google-hakutulosten ja vain luotettavien tulosten välillä. Chirag Shah, CC BY-ND

Yhdellä näistä kahdesta joukosta on yksi tai kaksi tulosta, jotka joko vahvistetaan ja merkitään vääriksi tiedoiksi tai puretuksi tarinaksi. Teimme pelin julkisesti saataville ja mainostimme sosiaalisen median eri kanavien kautta. Kaiken kaikkiaan keräsimme 2,100 vastausta yli 30 maasta.

Kun analysoimme tuloksia, havaitsimme sen noin puolet ajasta, jonka ihmiset valitsivat vahingossa sarjan luotettavaksi yhdellä tai kahdella väärän tiedon tuloksella. Kokeilumme satojen muiden käyttäjien kanssa monien iteraatioiden aikana ovat johtaneet samanlaisiin havaintoihin. Toisin sanoen noin puolet ajasta ihmiset valitsevat tuloksia, jotka sisältävät salaliittoteorioita ja valeuutisia. Kun useammat ihmiset valitsevat nämä epätarkat ja harhaanjohtavat tulokset, hakukoneet oppivat, että ihmiset haluavat sitä.

Big Tech -sääntelyn ja itsesääntelyn kysymyksiä lukuun ottamatta on tärkeää, että ihmiset ymmärtävät, miten nämä järjestelmät toimivat ja miten he ansaitsevat rahaa. Muuten markkinataloudet ja ihmisten luonnollinen taipumus houkutella huomiota herättäviä linkkejä pitävät noidankehän yllä.

Author

Chirag Shah, tietojenkäsittelytieteen apulaisprofessori, Washingtonin yliopisto

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.