Miten keinotekoiset älykäsjärjestelmät voisivat uhata demokratiaa

yksityisyys

Yhdysvaltain teknologian jättiläinen Microsoft on yhdistynyt kiinalaisen sotilasyliopiston kanssa kehittää keinotekoiset älykäsjärjestelmät jotka voisivat mahdollisesti parantaa valtion valvontaa ja sensuuria. Kaksi Yhdysvaltain senaattorit tuomitsivat julkisesti kumppanuus, mutta mitä Kiinan puolustusteknologian yliopisto haluaa Microsoftilta ei ole ainoa huolenaihe.

As minun tutkimusni osoittaaDigitaalisten tukahdutusten syntyminen vaikuttaa syvästi kansalaisen ja valtion välinen suhde. Uudet teknologiat asettavat hallituksia, joilla on ennennäkemättömät mahdollisuudet seurata, seurata ja seurata yksittäisiä ihmisiä. Jopa hallitukset demokratioissa, joilla on vahvat perinteet oikeusvaltion joutuvat kiusaukseen käyttää väärin nämä uudet kyvyt.

Valtioissa, joissa vastuuton toimielimet ja usein ihmisoikeusloukkauksetAI-järjestelmät aiheuttavat todennäköisesti suurempia vahinkoja. Kiina on merkittävä esimerkki. Sen johto on innostunut AI-teknologioista ja on perustanut maailman kaikkein kehittynein valvontatila in Xinjiangin maakunnassa, seurataan kansalaisten päivittäisiä liikkeitä ja älypuhelinten käyttöä.

Sen hyödyntäminen näissä teknologioissa esittelee jäähdytysmallin autokratuille ja uhkaa suoraa uhkaa avoimille demokraattisille yhteiskunnille. Vaikka ei ole näyttöä siitä, että muut hallitukset ovat toistaneet tämän tason AI-valvontaa, kiinalaiset yritykset vievät aktiivisesti samoja taustalla olevia teknologioita kaikkialla maailmassa.

Kasvava riippuvuus AI-työkaluista Yhdysvalloissa

Keinotekoiset älykäsjärjestelmät ovat kaikkialla modernissa maailmassa, ja ne auttavat ajaa älypuhelimia, Internet-hakukoneita, digitaalisia ääni-avustajia ja Netflix-elokuvajonoja. Monet ihmiset eivät ymmärrä kuinka nopeasti AI laajenee analysoitavien datamäärien kasvun ansiosta, parantamalla algoritmeja ja kehittyneitä tietokonemerkkejä.

Joka kerta, kun lisää tietoa saadaan ja analyysi helpottuu, hallitukset ovat kiinnostuneita - eikä vain autoritaarisia. Esimerkiksi USA: ssa 1970it näkivät, että julkisyhteisöt - kuten FBI, CIA ja NSA - olivat perustaneet laajoja kotimaisia ​​valvontaverkostoja seurata ja häiritä kansalaisoikeuksien mielenosoittajia, poliittisia aktivisteja ja intialaisia ​​amerikkalaisia ​​ryhmiä. Nämä kysymykset eivät ole hävinneet: Nykyään digitaalitekniikka on syventänyt entistä useampien virastojen kykyä toteuttaa entistä enemmän häiritsevää valvontaa.

yksityisyys Miten algoritmit ennustavat, missä poliisissa tulisi keskittyä eniten? Arnout de Vries


Hanki viimeisin InnerSelfistä


Esimerkiksi Yhdysvaltain poliisi on innokkaasti omaksunut AI-tekniikoita. He ovat alkaneet käyttää ohjelmistoa tarkoitus ennustaa, missä rikokset tapahtuvat päättää, mihin lähetetään upseereita. He käyttävät myös kasvot ja DNA-analyysi tutkimuksissa. Näiden järjestelmien analyysit osoittavat kuitenkin tiedot, joista nämä järjestelmät on koulutettu ovat usein puolueellisia, mikä johtaa kohtuuttomia tuloksia, Kuten vääriä päätöksiä siitä, että afrikkalaisamerikkalaiset ovat todennäköisemmin syyllistyneet rikoksiin kuin muut ryhmät.

AI-valvonta ympäri maailmaa

Autoritaarisissa maissa AI-järjestelmät voivat suoraan tukea sisäistä valvontaa ja valvontaa sisäiset turvallisuusjoukot käsittelevät valtavia määriä tietoa - mukaan lukien sosiaalisen median viestit, tekstiviestit, sähköpostit ja puhelut - nopeammin ja tehokkaammin. Poliisi voi tunnistaa sosiaaliset suuntaukset ja tietyt ihmiset jotka saattavat uhata järjestelmää näiden järjestelmien paljastamien tietojen perusteella.

Esimerkiksi Kiinan hallitus on käyttänyt AI: tä laaja-alaisissa väkivaltaisuuksissa alueilla, joissa asuu etnisiä vähemmistöjä Kiinassa. Xinjiangin ja Tiibetin valvontajärjestelmät on kuvattu ”Orwellin. ”Nämä toimet ovat olleet mukana pakolliset DNA-näytteet, Wi-Fi-verkon seuranta ja laajalle levinneet kasvojentunnistuskamerat, jotka on yhdistetty integroituun tietojenkäsittelyalustaan. Näiden järjestelmien avulla Kiinan viranomaiset ovat Yhdysvaltojen osaston mukaan "mielivaltaisesti pidätettyinä" 1 ja 2 miljoonaa ihmistä.

My tutkimuksessa tarkastellaan 90-maita ympäri maailmaa Valtiotyypit vaihtelivat suljetusta autoritaarisesta virheellisiin demokratioihin, mukaan lukien Thaimaa, Turkki, Bangladesh ja Kenia. Olen huomannut, että kiinalaiset yritykset ovat AI-valvontatekniikan vienti vähintään 54iin näistä maista. Usein tämä tekniikka on pakattu osana Kiinan lippulaivaa Hihnan ja tien aloite, joka rahoittaa laajaa teiden, rautateiden, energiaputkien ja tietoliikenneverkkojen verkostoa palvelevat 60% maailman väestöstä ja taloudet, jotka tuottavat 40% maailman bruttokansantuotteesta.

Esimerkiksi kiinalaiset yritykset Huawei ja ZTE rakentavat "älykkäitä kaupunkeja" vuonna 2007 Pakistan, Filippiinit ja Kenia, jossa on laaja sisäänrakennettu valvontatekniikka. Esimerkiksi Huawei on varustautunut Bonifacio Global City Filippiineillä, joissa on teräväpiirtoiset internet-yhteensopivat kamerat, \ t24 / 7 älykäs turvavalvonta tietojen analysoinnin avulla rikoksen havaitsemiseksi ja liikenteen hallitsemiseksi. ”

yksityisyys Bonifacio Global City Filippiineillä on paljon sulautettuja valvontalaitteita. alveo maa / Wikimedia Commons

HikVision, Yitu ja SenseTime toimittavat uusimmat kasvojentunnistuskamerat käytettäviksi sellaisissa paikoissa Singapore - joka ilmoitti seurantaohjelman perustamisesta 110,000-kamerat, jotka on asennettu lamppupylväisiin ympäri kaupunkia. Zimbabwe luo a kansallinen kuva-tietokanta joita voidaan käyttää kasvojen tunnistamiseen.

Kehittyneiden laitteiden myynti voittoa varten on kuitenkin erilainen kuin teknologian jakaminen nimenomaisella geopoliittisella tarkoituksella. Nämä uudet valmiudet voivat kasvattaa maailmanlaajuisen valvonnan siemeniä: Kun hallitukset ovat yhä riippuvaisempia kiinalaisesta teknologiasta väestönsä hallitsemiseksi ja vallan ylläpitämiseksi, he joutuvat painostamaan paremmin Kiinan asialistaa. Mutta nyt näyttää siltä, ​​että Kiinan ensisijainen motiivi on hallita uusien teknologioiden markkinoita ja tehdä paljon rahaa prosessissa.

AI ja desinformaatio

Valvontavalmiuksien lisäksi, jotka ovat sekä lakaista että hienojakoista, AI voi auttaa repressiivisiä hallituksia manipuloimaan saatavilla olevia tietoja ja levittämään väärää tietoa. Nämä kampanjat voidaan automatisoida tai automatisoida ja ottaa käyttöön hyper-henkilökohtaiset viestit suunnattu - tai vastaan ​​- tietyt ihmiset tai ryhmät.

AI tukee myös tekniikkaa, jota yleisesti kutsutaan nimellädeepfake, ”Jossa algoritmit luovat realistiset videon ja äänen väärennökset. Vetojen mykistäminen totuuden ja fiktion välillä voi olla hyödyllistä tiukoissa vaaleissa, kun yksi ehdokas voisi luoda väärennettyjä videoita, jotka osoittavat vastustajan tekevän ja sanoen asioita, jotka eivät koskaan tapahtuneet.

Varhainen syvälle jäänyt video näyttää joitakin kehittyneen teknologian vaaroista.

Mielestäni demokratian poliittisten päättäjien olisi harkittava huolellisesti AI-järjestelmien riskejä omille yhteiskunnilleen ja autoritaaristen järjestelmien alaisille ihmisille ympäri maailmaa. Kriittinen kysymys on, kuinka monessa maassa otetaan käyttöön Kiinan digitaalisen valvonnan malli. Mutta autoritaariset maat eivät tunne vetoa. Ja ei myöskään ole vain kiinalaisia ​​yrityksiä, jotka levittävät teknologiaa: monet yhdysvaltalaiset yritykset, Microsoft mukaan lukien IBM, Cisco ja Thermo Fisher Myöskään ne ovat antaneet hienostuneita valmiuksia ikäville hallituksille. AI: n väärinkäyttö ei rajoitu autokraattisiin tiloihin.Conversation

Author

Steven Feldstein, Frank ja Bethine kirkko Julkisten asioiden johtaja ja apulaisprofessori, julkisen palvelun koulu, Boisin osavaltion yliopisto

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.

Liittyvät kirjat

{amazonWS: searchindex = Kirjat; avainsanat = AI-valvonta; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

seuraa InnerSelfia

facebook-kuvakeTwitter-kuvakeRSS-kuvake

Hanki uusimmat sähköpostitse

{Emailcloak = off}