Shutterstock

Facebook on ensimmäistä kertaa antanut tietoja väärinkäytösten perusteella lähetetty sen sivustoon. Tämä on saattanut tapahtua organisaatioiden kasvavassa painostuksessa sosiaalisen median yrityksille online-väärinkäytöstätai saada uskottavuutta sen jälkeen Cambridge Analytican tietojen skandaali. Joka tapauksessa luvut eivät anna miellyttävää lukemista.

In kuuden kuukauden ajan 2017: stä maaliskuuhun 20178, 21m: n seksuaalisesti selkeät kuvat, 3.5m-graafisesti väkivaltaiset viestit ja 2.5m-vihamielisen puhemuodon muodot poistettiin sen sivustosta. Nämä luvut auttavat paljastamaan joitakin silmiinpistäviä kohtia.

Kuten odotettiin, tiedot osoittavat, että ongelma pahenee. Esimerkiksi tammikuun ja maaliskuun välisenä aikana arvioitiin, että 10,000: n ja 22: n välillä oli jokaisen 27-viestin verkossa graafinen väkivalta, 16ista 19iin viimeisten kolmen kuukauden aikana. Tämä helpottaa huomattavasti sitä, että Yhdistyneessä kuningaskunnassa online-väärinkäytösten syytteeseenpano on vähentynyt, kuten alla olevassa kaaviossa osoitetaan.

Mutta mitä Facebook ei ole kertonut meille, on yhtä merkittävä.

Sosiaalinen verkosto on ollut kasvavassa paineessa torjumaan väärinkäytöksiä erityisesti sivustollaan terroristipropagandan tapahtumien jälkeen, kuten 2017 Westminsterin hyökkäys ja Manchester Arena -pommitukset. Täällä yhtiö on ollut ennakoiva. Tammikuun ja maaliskuun välisenä aikana Facebook poistti 2018m-viestit, jotka rohkaisivat terroristien propagandaa, 1.9-kommenttien kasvua edellisiin kolmeen kuukauteen verrattuna. Näiden viestien 800,000% oli sijoitettu edistyksellisen teknologian avulla.

Ensi silmäyksellä näyttää siltä, ​​että Facebook on kehittänyt ohjelmiston, joka voi poistaa tämän sisällön palvelimelta. Mutta Facebook ei ole julkaissut tietoja siitä, miten yleinen terroristi propaganda on sen sivustolla. Joten emme todellakaan tiedä kuinka onnistunut ohjelmisto on tässä suhteessa.

Väkivaltaisten virkojen poistaminen

Facebook on myös käyttänyt teknologiaa tukemaan graafisen väkivallan poistamista sivustostaan. Kahden kolmen kuukauden jaksojen välillä poistettiin poistettujen virkojen määrä 183%, jotka oli merkitty graafisesti väkivaltaisiksi. Tietokonejärjestelmä merkitsi yhteensä 86% näistä kommenteista.

Tiedämme kuitenkin myös, että Facebookin luvut osoittavat myös, että 27: iin asti jokaisesta 10,000-kommentista, jotka ovat tehneet sen havaintoteknologian ohi, oli graafista väkivaltaa. Se ei kuulosta monilta, mutta kannattaa harkita, kuinka paljon sivustossa on enemmän kuin 2 miljardia aktiivista käyttäjää. Yksi arvio ehdottaa, että 510,000-kommentit lähetetään joka minuutti. Jos se on oikein, 1,982,880-väkivaltaiset kommentit lähetetään jokaista 24-tuntia.

Korjataakseen havaitsemisohjelmansa viat Facebook, kuten muutkin sosiaaliset verkostot, on vuosien ajan luottanut itsesääntelyyn, ja käyttäjiä kannustetaan raportoi kommentteja heidän mielestään ei pitäisi olla sivustolla. Esimerkiksi tammikuun ja maaliskuun välisenä aikana 2018, Facebook poistti 2.5m-kommentit, joita pidettiin vihamielisenä, mutta vain 950,000 (38%) näistä viesteistä oli merkinnyt sen järjestelmän. muut 62% käyttäjille. Tämä osoittaa, että Facebookin teknologia ei pysty torjumaan vihamielistä verkkoaan riittävästi, vaikka sosiaalisen verkostoitumisen sivustot ovat yhä huolestuneempia ovat polttoaineita vihaavat rikollisuutta todellisessa maailmassa.

Kuinka monta kommenttia ilmoitetaan?

Tämä tuo meidät toiseen merkittävään lukuun, joka ei sisälly Facebookin julkaisemiin tietoihin: käyttäjien ilmoittamien kommenttien kokonaismäärä. Koska tämä on keskeinen mekanismi verkkoon kohdistuvan väärinkäytön torjumiseksi, yritykselle annettavien raporttien määrä olisi julkistettava. Tämä antaa meille mahdollisuuden ymmärtää verkossa tapahtuvan väärinkäyttölomakkeen koko laajuuden, samalla kun selvitetään, kuinka paljon Facebookia ei poisteta sivustosta.

Facebookin päätös julkaista tietoja, jotka paljastavat väärinkäytön laajuuden, on merkittävä askel eteenpäin. Twitteriä pyydettiin sitä vastoin vastaaviin tietoihin mutta kieltäytyi vapauttaa se, väittäen, että se olisi harhaanjohtavaa. On selvää, että kaikki sosiaalisen verkostoitumisen sivustojen käyttäjien merkitsemät kommentit eivät riko sen ehtoja. Mutta Twitterin epäonnistuminen julkaista näitä tietoja viittaa siihen, että yritys ei halua paljastaa väärinkäytön laajuutta omalla sivustollaan.

Jopa Facebookilla on kuitenkin vielä pitkä matka päästä täydelliseen avoimuuteen. Ihannetapauksessa kaikki sosiaalisen verkostoitumisen sivustot julkaisisivat vuosiraportteja siitä, miten ne käsittelevät väärinkäyttöä verkossa. Tämä antaisi sääntelyviranomaisille ja yleisölle mahdollisuuden pitää yritykset suoremmin vastuussa epäonnistumisesta poistaa verkkopalvelun väärinkäyttö palvelimiltaan.

Author

Laura Bliss, sosiaalisen median lakiasiainjohtaja, Edge Hill University

Tämä artikkeli julkaistiin alunperin Conversation. Lue alkuperäinen artikkeli.

Liittyvät kirjat:

at InnerSelf Market ja Amazon