Miksi se on virhe viettää Crackdown On Vihaa Websites

Miksi se on virhe viettää Crackdown On Vihaa Websites Yksityiset yritykset valvovat online-vihamielisyyttä ilman itsenäistä valvontaa tai sääntelyä, jolla on vakavia seurauksia ja jotka uhkaavat perusihmisoikeuksia ja -vapauksia. (Shutterstock)

Armeijan valkoisten ylivaltaisten, hiljattain Charlottesvillessä, Va., Soihdutettu valaistus jatkaa keskustelua siitä, miten viharyhmiä olisi säänneltävä. Kasvavan julkisen painostuksen jälkeen internet-yritykset ryntäsivät poistamaan alustaltaan väkivaltaista vihamielistä puhetta.

GoDaddy päätti toimialueensa palvelut neo-natsin verkkosivuille The Daily Stormer, samoin google. Cloudflare, yritys, joka suojaa verkkosivustoja myös online-hyökkäyksiltä kielletty vihamielinen verkkosivusto sen alustalta. Venäjä määräsi paikan vanhentuneeksi olla isäntämaassa.

Tutkimukseni ja minun kirjani Chokepoints: maailmanlaajuinen yksityinen sääntely Internetissä osoittavat, että monet Internet-yritykset poistavat jo sisällön ja kieltävät käyttäjiä "vapaaehtoisesti" - toisin sanoen ilman lainsäädäntöä tai oikeudellisia prosesseja. Tärkeimmät välittäjät, kuten Google, PayPal, GoDaddy, Twitter ja Facebook, poliisivat vapaaehtoisesti lapsen seksuaalista hyväksikäyttöä, ekstremismia ja väärennettyjen tavaroiden laitonta kauppaa.

Monet ihmiset ymmärtävät ymmärrettävästi nämä pyrkimykset purkaa vihamielistä ja muuta kielteistä sisältöä. Internet-yritysten pyrkimykset de facto sääntelyviranomaisiksi herättävät kuitenkin vakavia kysymyksiä: Miten online-sisältöä pitäisi säännellä? Kenen?

En kannata valkoisia ylimielisyyksiä, enkä kiistä tällaista puheenvuoroa. Pikemminkin sanon, että meidän on harkittava vakavasti, miten säännellä online-sisältöä, koska seuraava tapa ei välttämättä ole yhtä selkeä.

Voimakkaiden yritysten käyttäminen Internetin poliisitoiminnassa on merkittäviä ongelmia, koska niiden täytäntöönpanotoimet ovat huolestuttavia ja mielivaltaisia ​​tulkintoja.

Häiritsevä ennakkotapaus

Huippuvastaisessa kontrastissa Internet-yritysten piristymiseen heidän julkisesta vastustuksestaan ​​Daily Stormeriin, Cloudflaren toimitusjohtaja Matthew Prince tarjosi hienovaraisen, varoittavan näkökulman ja varoitti, että palveluiden poistaminen vihamielisistä ryhmistä julkiseen paineeseen asettaa häikäisevän ennakkotapauksen verkkopuheiden valvonnassa .


Hanki viimeisin InnerSelfistä


Jonkin sisällä blogi selittäessään Cloudflaren toimia Daily Stormeria vastaan, Prince väitti, että yritys pitää asianmukaista prosessia "tärkeämpää periaatetta" kuin sananvapautta. Hänen mukaansa asianmukainen prosessi tarkoittaa, että "sinun pitäisi pystyä tuntemaan säännöt, joita järjestelmä seuraa, jos osallistut järjestelmään." Tämä lausunto osuu kattavasti siihen, että välittäjät työskentelevät sisällön ja online-käyttäytymisen de facto sääntelijöinä.

Aikaisemmin tänä vuonna, Shopify työntekijöitä ja satoja tuhansia ihmisiä kehotti ja vetosi online-kaupankäyntialusta lopettaa oikeanpuoleisen Breitbart Median verkkokaupan. Palautetaan johtoryhmän puheenjohtaja Stephen Bannon puhelut Breitbart “alusta oikealle.” Niin sanottu "alt-oikea" - termi, jota Richard Bertrand Spencer - kattaa valkoisen ylivaltaisen, separatistisen, uusnatsilaisen, fasistisen, rasistisen, antisemitistisen, islamofobisen ja populistisen konservatiivisen ideologian yhdistelmän.

Shopify toimitusjohtaja Tobias Lütke sanoi olevansa puolustamassa vapaata puhetta Ottawan yritys jatkoi Breitbartin verkkokaupan vastaanottamista työntekijät eroavat. Julkisen jälkeen paine ja ruohonjuuritason kampanja #DeleteShopify johti tutkimukseen, joka paljasti enemmän kyseenalainen liiketoiminta, Shopify oli pakko- hyväksyä ”Hyväksyttävän käytön käytäntö.”

Päinvastaiset esimerkit The Daily Stormerista ja sen poistamisesta Internet-yrityksistä ja Shopifen vankka tuki Breitbartille osoittavat äärimmäisyyksiä ongelmasta, joka vain lupaa tehostaa.

Mielivaltainen politiikka, sääntely

Internet-välittäjillä on mahdollisuus olla tehokkaita sääntelyviranomaisia ​​monissa eri asioissa, koska ne voivat toimia nopeasti ja ilman tuomioistuinten määräyksiä. Tärkeää on, että heillä on vapaus sensuroida sisältöä tai kieltää käyttäjiä niiden käyttöehtosopimusten mukaisesti.

PayPal pidättää oikeuden lopettaa palvelunsa käyttäjille.mistä tahansa syystä ja milloin tahansa, ”Kieli, joka toistuu useimmissa välittäjien palvelusopimuksissa. Siten mielivaltaisen sääntelyn kapasiteetti sisällytetään välittäjien sisäisiin sääntöihin.

Prince varoitti, että Cloudflaren Daily Stormeria vastaan ​​nostama kanne asettaa ennakkotapauksen välittäjille poliisin puheeksi ilman tuomioistuinten määräyksiä, joissa heitä vaaditaan tekemään niin.

Nämä välittäjät toimivat usein sellaisten hallitusten pyynnöstä, jotka suosivat yrityksiä Internet-sääntelyn julkisina (mutta suurelta osin vastuuttomina). Nämä yritykset ovat yleensä huonosti valmiita erottamaan laillisuuden laittomuudesta, mikä aiheuttaa väärinkäytöksiä ja kohdistuu virheellisesti lailliseen käyttäytymiseen.

Yhtä ongelmallista: Välittäjien valvontaprosessit ovat usein läpinäkymättömiä, koska niiden sisällön moderaattorit tulkitsevat mielivaltaisesti niiden monimutkaisia ​​ja nopeasti muuttuvia sisäisiä sääntöjään. Näitä ongelmia lisäävät välittäjien lisääntynyt automatisoitujen työkalujen käyttö ongelmallisten sisältöjen tunnistamiseksi ja poistamiseksi alustoillaan.

Myös ns. Lähetyskierros on huolissaan, kun sääntöjä, jotka on ensin otettu käyttöön lasten hyväksikäytön tai terrorismin torjumiseksi - huomattavia katalysaattoreita täytäntöönpanotoimissa - sovelletaan myöhemmin muihin selvästi vähemmän haitallisiin kysymyksiin, kuten tekijänoikeudella suojatun sisällön luvattomaan lataamiseen.

Dystopian tulevaisuus on täällä

Sääntelyponnistelut laajenevat usein väkivaltaisten vihamielisten puhelujen sensuroimisesta muuhun puheeseen, jota jotkut pitävät kiistanalaisina, kuten Black Lives Matterin. Myös hallitukset painostavat maailmanlaajuisesti säännöllisesti välittäjiä sensuroida ja seurata kriitikot ja poliittiset vastustajat.

Kun suuret välittäjät ovat siirtymässä sääntelyviranomaisiin, jotka ovat vastuussa sisällön valvonnasta hallitusten puolesta tai vastauksena korkean profiilin protesteihin, niiden jo huomattava teho kasvaa. Yhdysvalloissa toimivat internet-yritykset ovat jo hallitsevia monilla teollisuudenaloilla, kuten haku, mainonta, verkkotunnusten rekisteröinti, maksu ja sosiaalinen media. Cloudflare's Prince on oikein varoitti että ”pieni joukko yrityksiä” riippuu ”muutamasta jättiläisverkosta riippuen suurelta osin siitä, mitä voi ja ei voi olla verkossa”.

Tämä dystopinen tulevaisuus on jo täällä.

Daily Stormerin poistaminen tekee maailmasta epäilemättä paremman paikan. Mutta haluammeko todella, että Facebookin ja Twitterin kaltaiset yritykset päättävät itsenäisesti, mielivaltaisesti ja salaa - mitä sisältöä voimme käyttää ja jakaa?

Näiden näennäisesti ongelmattomien ongelmien vuoksi mitä voimme tehdä? Ensinnäkin meidän on vältettävä hallintaa protestien tai tiedotusvälineiden painostuksen perusteella. Sen sijaan, tarvitsemme selkeät säännöt jotta välittäjät voisivat reagoida johdonmukaisesti, avoimesti ja kunnioittaen asianmukaista menettelyä, kuten Prince suositteli.

Hallitusten olisi selvennettävä välittäjien sääntelyvastuun luonnetta ja tärkeimpiä rajoituksia. Lopuksi meidän on lopetettava hallinnointi vastauksena tiettyihin kriiseihin - niin sanottuihin "väärennettyihin uutisiin", terrorismin ja vihamielisten ryhmien - ja sen sijaan ajattelemaan kriittisesti sitä, miten voimme ja meidän pitäisi hallita Internetiä.Conversation

Author

Natasha Tusikov, apulaisprofessori, kriminologia, yhteiskuntatieteiden laitos, Yorkin yliopisto, Kanada

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.

Liittyvät kirjat

{amazonWS: searchindex = Kirjat; avainsanat = vihamielinen puhuminen; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

seuraa InnerSelfia

facebook-kuvakeTwitter-kuvakeRSS-kuvake

Hanki uusimmat sähköpostitse

{Emailcloak = off}