robotti istuu kannettavan tietokoneen ääressä kädet avaimilla
Kuva Susan Cipriano 

Toimittajalta:

Kuten tässä artikkelissa korostetaan, tekoälyyn perustuvien poliittisten kampanjoiden, kuten hypoteettisen Clogger-koneiston, kehittäminen voi heikentää perusteellisesti vaalien eheyttä. Hyödyntämällä automaatiota, räätälöityjä viestejä ja vahvistusta oppimista, nämä koneet voivat manipuloida ja muuttaa äänestäjien käyttäytymistä massiivisessa mittakaavassa.

Aikakaudella, jolloin tekoäly (AI) kehittyy nopeasti, meidän on pysyttävä valppaina mahdollisten uhkien suhteen, joita se aiheuttaa demokraattisille prosesseillemme. Tekoälyvetoisten kampanjoiden syntyminen haastaa demokratian olemuksen. Sen sijaan, että vaalit määräytyisivät ajatusten, poliittisten ehdotusten ja aitojen äänestäjien valintojen avulla, niitä voisi horjuttaa pelkästään voittoon keskittyvät koneet. Vallitseva sisältö tulisi tekoälyn kielimalleista ottamatta huomioon totuutta tai poliittisia periaatteita. Pohjimmiltaan vaalituloksen saneleisi tekoäly, joka murentaisi demokraattista prosessia.

On ratkaisevan tärkeää, että ryhdymme toimiin estääksemme "klogokratian" syntymisen ja kansalaisten menettämisen. Tehostettu yksityisyyden suoja ja vahvat tietosuojalainsäädäntö voivat auttaa rajoittamaan tekoälykoneiden pääsyä henkilökohtaisiin tietoihin, mikä vähentää niiden tehokkuutta yksilöiden kohdistamisessa ja manipuloinnissa. Vaalilautakuntien tulisi myös harkita äänestäjiin vaikuttamiseen tarkoitettujen tekoälyjärjestelmien kieltämistä tai tiukkaa säätelyä. Toteutetaan määräyksiä, jotka edellyttävät selkeitä vastuuvapauslausekkeita, kun tekoälyn luomia viestejä käytetään poliittisissa kampanjoissa. Tämä voi tarjota avoimuutta ja auttaa äänestäjiä tekemään tietoisia päätöksiä.

On ehdottoman tärkeää, että tartumme näihin haasteisiin ennakoivasti ja varmistamme, että tekoälyn voima valjastetaan vastuullisesti demokratian periaatteiden ylläpitämiseksi. Turvaamalla vaalien eheyden ja suojelemalla valinnanvapautta voimme navigoida tekoälyn monimutkaisissa osissa ja säilyttää demokraattisen hallinnon perusta.

Kuinka tekoäly voisi valloittaa vaalit – ja heikentää demokratiaa

Kirjoittanut Archon Fung, kansalaisuuden ja itsehallinnon professori, Harvard Kennedyn koulu ja Lawrence Lessig, oikeustieteen ja johtajuuden professori, Harvardin yliopisto


sisäinen tilausgrafiikka


Voivatko organisaatiot käyttää tekoälyn kielimalleja, kuten ChatGPT:tä, saada äänestäjät käyttäytymään tietyllä tavalla?

Senaattori Josh Hawley esitti tämän kysymyksen OpenAI:n toimitusjohtajalle Sam Altmanille a 16. toukokuuta 2023, Yhdysvaltain senaatin kuuleminen tekoälystä. Altman vastasi olevansa todella huolissaan siitä, että jotkut ihmiset saattavat käyttää kielimalleja äänestäjien manipuloimiseen, suostutteluun ja henkilökohtaiseen vuorovaikutukseen heidän kanssaan.

Altman ei tarkentanut, mutta hänellä saattoi olla mielessään jotain tämän kaltaista skenaariota. Kuvittele, että pian poliittiset teknikot kehittävät koneen nimeltä Clogger – poliittinen kampanja mustassa laatikossa. Clogger tavoittelee hellittämättä vain yhtä tavoitetta: maksimoida mahdollisuudet, että sen ehdokas – kampanja, joka ostaa Clogger Inc:n palvelut – voittaa vaaleissa.

Vaikka alustat, kuten Facebook, Twitter ja YouTube, käyttävät tekoälyn muotoja houkutellakseen käyttäjiä viettää enemmän aikaa heidän sivustoillaan Cloggerin tekoälyllä olisi erilainen tavoite: muuttaa ihmisten äänestyskäyttäytymistä.

Kuinka Clogger toimisi

Kuten politologi ja lakimies jotka tutkivat teknologian ja demokratian risteyskohtaa, uskomme, että jokin Cloggerin kaltainen voisi käyttää automaatiota lisätäkseen dramaattisesti teknologian laajuutta ja mahdollisesti tehokkuutta. käyttäytymisen manipulointi ja mikrokohdistustekniikat joita poliittiset kampanjat ovat käyttäneet 2000-luvun alusta lähtien. Aivan kuin mainostajat käyttävät selaus- ja sosiaalisen median historiaasi kohdistaakseen kaupallisiin ja poliittisiin mainoksiin nyt erikseen, Clogger kiinnittäisi huomiota sinuun – ja satoihin miljooniin muihin äänestäjiin – erikseen.

Se tarjoaisi kolme edistystä nykyiseen huippuluokan algoritmiseen käyttäytymisen manipulointiin verrattuna. Ensinnäkin sen kielimalli tuottaisi sinulle henkilökohtaisesti räätälöityjä viestejä – tekstejä, sosiaalista mediaa ja sähköpostia, mahdollisesti myös kuvia ja videoita. Mainostajat sijoittavat strategisesti suhteellisen pienen määrän mainoksia, mutta ChatGPT:n kaltaiset kielimallit voivat tuottaa kampanjan aikana lukemattomia ainutlaatuisia viestejä sinulle henkilökohtaisesti – ja miljoonia muille.

Toiseksi Clogger käyttäisi tekniikkaa nimeltä vahvistaminen oppiminen luodaksesi peräkkäisiä viestejä, jotka muuttuvat yhä todennäköisemmin äänesi. Vahvistusoppiminen on koneoppimismenetelmää, jossa tietokone tekee toimenpiteitä ja saa palautetta siitä, mikä toimii paremmin, jotta voidaan oppia saavuttamaan jokin tavoite. Koneet, joilla voi pelata Goa, Shakkia ja monia videopelejä paremmin kuin kukaan ihminen ovat käyttäneet vahvistusoppimista.

Miten vahvistusoppiminen toimii.

 

Kolmanneksi, kampanjan aikana Cloggerin viestit voivat kehittyä, jotta ne voivat ottaa huomioon vastauksesi koneen aikaisempiin lähetyksiin ja sen, mitä se on oppinut muiden mielen muuttamisesta. Clogger voisi jatkaa dynaamisia "keskusteluja" sinun – ja miljoonien muiden ihmisten – kanssa ajan myötä. Cloggerin viestit olisivat samanlaisia sinua seuraavat mainoksia eri verkkosivuilla ja sosiaalisessa mediassa.

AI:n luonne

Kolme muuta ominaisuutta – tai virhettä – ovat huomionarvoisia.

Ensinnäkin Cloggerin lähettämät viestit voivat olla sisällöltään poliittisia tai eivät. Koneen ainoa tavoite on maksimoida ääniosuus, ja se todennäköisesti suunnittelee strategioita tämän tavoitteen saavuttamiseksi, joita kukaan ihmiskampanjoija ei olisi ajatellut.

Yksi mahdollisuus on lähettää todennäköisille vastustajille tietoja ei-poliittisista intohimoista, joita heillä on urheilussa tai viihteessä, jotta he hautasivat saamansa poliittiset viestit. Toinen mahdollisuus on lähettää vastenmielisiä viestejä – esimerkiksi inkontinenssimainoksia – ajoitettuina vastustajien viestien kanssa. Ja toinen manipuloi äänestäjien sosiaalisen median ystäväryhmiä antaakseen tunteen, että heidän sosiaaliset piirinsä tukevat sen ehdokasta.

Toiseksi, Clogger ei välitä totuudesta. Itse asiassa se ei voi tietää, mikä on totta tai tarua. Kielimalli "hallusinaatiot" eivät ole ongelma tälle koneelle, koska sen tarkoituksena on muuttaa äänesi, ei antaa tarkkoja tietoja.

Kolmanneksi, koska se on a musta laatikko -tyyppinen tekoäly, ihmiset eivät voi tietää, mitä strategioita se käyttää.

Selitettävän tekoälyn alan tavoitteena on avata monien koneoppimismallien musta laatikko, jotta ihmiset ymmärtävät, miten ne toimivat.

 

Klogokratia

Jos republikaanien presidentinvaalikampanja ottaisi käyttöön Cloggerin vuonna 2024, demokraattien kampanja joutuisi todennäköisesti vastaamaan luontoissuorituksilla, ehkä vastaavalla koneella. Kutsu sitä Doggeriksi. Jos kampanjapäälliköt ajattelivat, että nämä koneet olivat tehokkaita, presidentinvaalien kilpailu saattaisi hyvinkin laskea Clogger vs. Dogger -kilpailuun, ja voittaja olisi tehokkaamman koneen asiakas.

Politiikan tutkijoilla ja asiantuntijoilla olisi paljon sanottavaa siitä, miksi jompikumpi tekoäly vallitsi, mutta luultavasti kukaan ei todellakaan tietäisi. Presidenttiä ei ole valittu siksi, että hänen poliittiset ehdotuksensa tai poliittiset ajatuksensa olisivat saaneet enemmän amerikkalaisia, vaan siksi, että hänellä oli tehokkaampi tekoäly. Päivän voittanut sisältö olisi tullut pelkästään voittoon keskittyneeltä tekoälyltä, jolla ei ole omia poliittisia ideoita, eikä ehdokkailta tai puolueilta.

Tässä erittäin tärkeässä mielessä kone olisi voittanut vaalit ennemmin kuin henkilö. Vaalit eivät olisi enää demokraattiset, vaikka kaikki demokratian tavanomaiset toimet – puheet, mainokset, viestit, äänestäminen ja ääntenlaskenta – olisi tapahtunut.

Tekoälyn valitsema presidentti voisi sitten toimia kahdella tavalla. Hän voisi käyttää vaalien vaippaa republikaanien tai demokraattisen puolueen politiikkaan. Mutta koska puolueideoilla ei ehkä ollut juurikaan tekemistä sen kanssa, miksi ihmiset äänestivät niin kuin he tekivät – Clogger ja Dogger eivät välitä poliittisista näkemyksistä – presidentin toimet eivät välttämättä heijastaisi äänestäjien tahtoa. Tekoäly olisi manipuloinut äänestäjiä sen sijaan, että olisivat valinneet vapaasti poliittiset johtajansa ja politiikkansa.

Toinen tapa on, että presidentti noudattaa viestejä, käyttäytymistä ja politiikkaa, jonka kone ennustaa maksimoivan uudelleenvalinnan mahdollisuudet. Tällä tiellä presidentillä ei olisi mitään erityistä alustaa tai agendaa vallan ylläpitämisen lisäksi. Presidentin toimet Cloggerin ohjaamana olisivat sellaisia, jotka todennäköisimmin manipuloivat äänestäjiä sen sijaan, että palvelisivat heidän aitoja etujaan tai edes presidentin omaa ideologiaa.

Klogokratian välttäminen

Olisi mahdollista välttää tekoälyn vaalimanipulaatio, jos ehdokkaat, kampanjat ja konsultit kieltäytyvät käyttämästä tällaista poliittista tekoälyä. Uskomme, että se on epätodennäköistä. Jos kehitettäisiin poliittisesti tehokkaita mustia laatikoita, kiusaus käyttää niitä olisi lähes vastustamaton. Poliittiset konsultit saattavatkin nähdä näiden työkalujen käyttämisen ammatillisen vastuunsa edellyttämällä tavalla ehdokkaiden auttamiseksi voittamaan. Ja kun yksi ehdokas käyttää näin tehokasta työkalua, vastustajien tuskin voisi odottaa vastustavan riisumalla aseista yksipuolisesti.

Parannettu yksityisyyden suoja auttaisi. Clogger olisi riippuvainen pääsystä valtaviin henkilötietomääriin voidakseen kohdistaa yksilöihin, luoda viestejä, jotka on räätälöity heidän suostutteluun tai manipulointiin, sekä seurata ja kohdistaa heitä uudelleen kampanjan aikana. Jokainen tieto, jonka yritykset tai päätöksentekijät kieltävät koneesta, tekisi siitä vähemmän tehokasta.

Vahvat tietosuojalait voivat auttaa ohjaamaan tekoälyä pois manipuloinnista.

 

Toinen ratkaisu on vaalilautakunnat. He voisivat yrittää kieltää tai säännellä ankarasti nämä koneet. Siellä kiivaasta keskustelusta siitä onko sellainen "replicantti" puhe, vaikka se olisi luonteeltaan poliittista, voidaan säännellä. Yhdysvaltain äärimmäinen sananvapauden perinne saa monet johtavat akateemikot sanomaan, ettei se voi.

Mutta ei ole mitään syytä automaattisesti ulottaa ensimmäisen lisäyksen suojaa koskemaan näiden koneiden tuotteita. Kansakunta saattaa hyvinkin päättää antaa koneille oikeudet, mutta sen pitäisi perustua tämän päivän haasteisiin. ei väärä oletus että James Madisonin näkemyksiä vuonna 1789 oli tarkoitus soveltaa tekoälyyn.

Euroopan unionin sääntelyviranomaiset ovat menossa tähän suuntaan. Päättäjät tarkistivat Euroopan parlamentin tekoälyä koskevaa lakiesitystä määritelläkseen "AI-järjestelmät äänestäjiin vaikuttamiseksi kampanjoissa". "korkeana riskinä" ja viranomaisvalvonnan alaisia.

Yksi perustuslaillisesti turvallisempi, joskin pienempi, askel, jonka jo hyväksyi osittain Euroopan internet-sääntelyviranomaiset ja Kalifornia, on estää botteja pitämästä itseään ihmisinä. Sääntely saattaa esimerkiksi edellyttää, että kampanjaviestit sisältävät vastuuvapauslausekkeita, kun niiden sisältämä sisältö on koneiden eikä ihmisten tuottamaa.

Tämä olisi kuin mainonnan vastuuvapauslausekevaatimukset – "Maksaa Sam Jones for Congress Committee" - mutta muokattu vastaamaan tekoälyn alkuperää: "Tämän tekoälyn luoman mainoksen maksoi Sam Jones for Congress Committee." Vahvempi versio saattaa edellyttää: "Tämän tekoälyn luoman viestin lähettää sinulle Sam Jones for Congress -komitea, koska Clogger on ennustanut, että se lisää mahdollisuuksiasi äänestää Sam Jonesia 0.0002 prosentilla." Ainakin uskomme, että äänestäjät ansaitsevat tietää, milloin se on botti, joka puhuu heille, ja heidän pitäisi myös tietää miksi.

Cloggerin kaltaisen järjestelmän mahdollisuus osoittaa, että polku kohti inhimillinen kollektiivinen kyvyttömyys ei välttämättä vaadi yli-inhimillisiä keinotekoinen yleinen äly. Se saattaa vaatia vain innokkaita kampanjoita ja konsultteja, joilla on tehokkaita uusia työkaluja, jotka voivat tehokkaasti painaa miljoonien ihmisten monia painikkeita.

Tietoja kirjoittajista

Archon Fung, kansalaisuuden ja itsehallinnon professori, Harvard Kennedyn koulu ja Lawrence Lessig, oikeustieteen ja johtajuuden professori, Harvardin yliopisto

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.


Toimittajan lisäys: Tekoälyn mahdollisuus valloittaa vaalit ja heikentää demokratiaa on kiireellinen huolenaihe, joka vaatii huomiotamme. Kuten tässä artikkelissa on korostettu, tekoälyyn perustuvien poliittisten kampanjoiden, kuten Cloggerin, nousu saattaa muuttaa vaalituloksia, ja koneet voivat vaikuttaa äänestäjien käyttäytymiseen ennennäkemättömässä mittakaavassa. Tällaisen muutoksen seuraukset olisivat kauaskantoisia, sillä vaaleja ei määrää ihmisten tahto vaan tekoälyn manipuloinnin tehokkuus.

Tämän kansalaisten vaikutusvallan heikkenemisen estämiseksi ja demokratian turvaamiseksi meidän on ryhdyttävä ennakoiviin toimiin. Vankka yksityisyyden suoja ja säädökset, jotka rajoittavat tekoälyjärjestelmien vaikutusta vaaleissa, ovat ratkaisevan tärkeitä. Varmistamalla läpinäkyvyyden, pakottamalla tekoälyn luomaan sisältöön selkeät vastuuvapauslausekkeet ja edistämällä tekoälyn vastuullista käyttöä voimme ylläpitää demokraattisten prosessien eheyttä ja suojella yhteiskuntamme perusarvoja.

On tärkeää, että pysymme valppaina ja työskentelemme yhdessä selvitäksemme tekoälyn vaaleissa asettamista haasteista. Näin toimimalla voimme säilyttää yhteiskuntiemme perustana olevat demokraattiset ihanteet ja turvata tulevaisuuden, jossa teknologian voima on linjassa ihmisten etujen ja toiveiden kanssa.

rikkoa

Liittyvät kirjat:

Tyrannysta: kaksikymmentä oppituntia XNUMX. vuosisadalta

Kirjailija: Timothy Snyder

Tämä kirja tarjoaa historian oppitunteja demokratian säilyttämiseksi ja puolustamiseksi, mukaan lukien instituutioiden merkitys, yksittäisten kansalaisten rooli ja autoritaarisuuden vaarat.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Meidän aikamme on nyt: voima, tarkoitus ja taistelu reilusta Amerikasta

Kirjailija: Stacey Abrams

Kirjoittaja, poliitikko ja aktivisti, jakaa näkemyksensä osallistavammasta ja oikeudenmukaisemmasta demokratiasta ja tarjoaa käytännön strategioita poliittiseen sitoutumiseen ja äänestäjien mobilisointiin.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Kuinka demokratiat kuolevat

Steven Levitsky ja Daniel Ziblatt

Tämä kirja tutkii demokratian hajoamisen varoitusmerkkejä ja syitä hyödyntäen tapaustutkimuksia eri puolilta maailmaa tarjotakseen näkemyksiä demokratian turvaamisesta.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Ihmiset, nro: Antipopulismin lyhyt historia

Kirjailija: Thomas Frank

Kirjoittaja tarjoaa historian populistisista liikkeistä Yhdysvalloissa ja arvostelee "antipopulistista" ideologiaa, jonka hän väittää tukahduttaneen demokraattisen uudistuksen ja edistyksen.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Demokratia yhdessä kirjassa tai vähemmän: miten se toimii, miksi se ei toimi ja miksi sen korjaaminen on helpompaa kuin luulet

Kirjailija: David Litt

Tämä kirja tarjoaa yleiskatsauksen demokratiaan, mukaan lukien sen vahvuudet ja heikkoudet, ja ehdottaa uudistuksia, jotta järjestelmästä tulee reagoivampi ja vastuullisempi.

Klikkaa saadaksesi lisätietoja tai tilataksesi