Kuinka tekoäly on totalitaarisen unelma Shutterstock.

Individualistiset länsimaiset yhteiskunnat perustuvat ajatukseen, että kukaan ei tiedä ajatuksiamme, toiveitamme tai ilojamme paremmin kuin me. Ja niin laitamme itsemme, eikä hallituksen, vastuuseen elämästämme. Meillä on taipumus olla samaa mieltä filosofin kanssa Immanuel Kantin vaatimus ettei kukaan ole oikeutettu pakottamaan meitä ajatukseen hyvästä elämästä.

Keinotekoinen äly (AI) muuttaa tätä. Se tuntee meidät paremmin kuin itse. AI: lla aseistettu hallitus voisi väittää tietävänsä, mitä sen kansa todella haluaa ja mikä todella tekee heistä onnellisia. Parhaimmillaan se käyttää tätä perustellakseen paternalismin, pahimmassa tapauksessa totalitarismin.

Jokainen helvetti alkaa taivaan lupauksella. AI: n johtama totalitarismi ei ole eroa. Vapaudesta tulee kuuliaisuus valtiolle. Vain irrationaaliset, piilevät tai kumoukselliset voivat halutessaan valita oman polunsa.

Tällaisen dystopian estämiseksi emme saa antaa muiden tietää enemmän itsestämme kuin me. Emme voi sallia itsetuntemuksen aukkoa.

Kaiken näkevä AI

Vuonna 2019 miljardööri-sijoittaja Peter Thiel väitti, että AI oli ”kirjaimellisesti kommunistinen”. Hän huomautti, että AI antaa keskitetyn vallan seurata kansalaisia ​​ja tietää heistä enemmän kuin he tietävät itsestään. Kiina, Thiel huomautti, on innokkaasti omaksunut AI: n.


sisäinen tilausgrafiikka


Tiedämme jo AI: n mahdollisuudet tukemaan totalitarismia tarjoamalla Orwellin valvonta- ja valvontajärjestelmä. Mutta AI antaa totalitaristeille myös filosofisen aseen. Niin kauan kuin tunsimme itsemme paremmin kuin hallitus, liberalismi pystyi pitämään pyrkivät totalitaristit loitolla.

Mutta AI on muuttanut peliä. Suuret teknologiayritykset keräävät valtavia määriä tietoa käytöksestämme. Koneoppimisalgoritmit käyttävät näitä tietoja pelkästään siihen, mitä teemme, vaan myös kuka olemme.

Nykyään AI voi ennustaa mitä elokuvia pidämme, mitä uutisia haluamme lukea ja kenen haluamme ystävällä Facebookissa. Se voi ennustaa onko parit pysyvät yhdessä ja jos haluamme yrittää itsemurhaa. Facebook-tykkäämme, AI voi ennustaa uskonnolliset ja poliittiset näkemyksemme, persoonallisuutemme, tiedustelu, huumeiden käyttö ja onnellisuus.

AI: n ennusteiden tarkkuus paranee vain. Ei liian kaukana tulevaisuudessa, kuten kirjoittaja Yuval Noah Harari on ehdottanut, että AI voi kertoa meille, keitä olemme, ennen kuin itse tiedämme.

Tällä kehityksellä on seismisiä poliittisia vaikutuksia. Jos hallitukset tuntevat meidät paremmin kuin voimme, uusi perustelu puuttumiseen elämäämme avautuu. He tyrannisoivat meitä oman edun nimissä.

Vapaus tyrannian kautta

Filosofi Isaiah Berliini ennusti tämän vuonna 1958. He yksilöi kaksi vapauden tyyppiä. Yksi tyyppi, hän varoitti, johtaisi tyranniaan.

Negatiivinen vapaus on ”vapautta”. Se on vapaus muiden ihmisten tai hallituksen puuttumisesta asioihisi. Negatiivisella vapaudella kukaan muu ei voi rajoittaa sinua, kunhan et loukkaa kenenkään muun oikeuksia.

Sen sijaan positiivinen vapaus on ”vapautta”. Se on vapaus olla itsesi mestari, vapaus täyttää todelliset toiveesi, vapaus elää järkevää elämää. Kuka ei haluaisi tätä?

Entä jos joku muu sanoo, että et toimi "todellisessa mielenkiinnossa", vaikka he tietävät kuinka sinä osaat. Jos et kuuntele, he saattavat pakottaa sinut olemaan vapaa - pakottaa sinut omalle hyvällesi. Tämä on yksi vaarallisimmista ideoista, joita koskaan on ajateltu. Se tappoi kymmeniä miljoonia ihmisiä Stalinin Neuvostoliitto ja Maon Kiina.

Venäjän kommunistisen johtajan Leninin on ilmoitettu sanoneen, että kapitalistit myyvät hänelle köyden, jolla hän ripustaa heidät. Peter Thiel on väittänyt että AI: ssa Piilaakson kapitalistiset teknologiayritykset ovat myyneet kommunismin välineeksi, joka uhkaa heikentää demokraattista kapitalistista yhteiskuntaa. AI on Leninin köysi.

Taistelemme itsemme puolesta

Voimme estää tällaisen dystopian vain, jos kenenkään ei anneta tuntea meitä paremmin kuin tunnemme itsemme. Emme saa koskaan sentimentalisoida ketään, joka etsii sellaista valtaa meihin hyvää tarkoituksellisena. Historiallisesti tämä on vain koskaan päättynyt onnettomuuteen.

Yksi tapa estää itsetuntemuksen aukko on nostaa yksityisyyden suojaa. Thiel, joka merkitsi AI: n kommunistiseksi, on väittänyt, että “krypto on libertarialaista”. Salausvaluutat voivat olla ”yksityisyyden mahdollistavat”. Tietosuoja heikentää muiden kykyä tuntea meidät ja käyttää tätä tietoa manipuloida meitä oman hyödynsä vuoksi.

Silti paremman tunteminen AI: n kautta tarjoaa merkittäviä etuja. Saatamme pystyä käyttämään sitä paremmin ymmärtääksemme siitä, mikä tekee meistä onnellisia, terveitä ja varakkaita. Se voi auttaa opastaa uravalintojamme. Yleisemmin AI lupaa luoda talouskasvun että pitää meidät toisiamme kurkkuilta.

Ongelmana ei ole AI, joka parantaa itsetuntemustamme. Ongelmana on valtaerot siinä, mitä meistä tunnetaan. Tieto meistä yksinomaan jonkun toisen käsissä on valta meille. Mutta tieto meistä omissa käsissämme on meille voimaa.

Joku joka käsittelee tietomme tiedon luomiseksi meistä pitäisi olla laillisesti velvoitettu antamaan meille tämä tieto takaisin. Meidän on päivitettävä ajatus ”mitään meistä ilman meitä”AI-ikälle.

Se mitä AI kertoo itsestämme, on meidän harkittava käyttöä, emmekä muiden hyötyä väärinkäytöksistä. Sielumme tillalla tulisi olla vain yksi käsi. Ja sen pitäisi olla meidän.Conversation

Author

Simon McCarthy-Jones, kliinisen psykologian ja neuropsykologian dosentti, Trinity College Dublin

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.

rikkoa

Liittyvät kirjat:

Tyrannysta: kaksikymmentä oppituntia XNUMX. vuosisadalta

Kirjailija: Timothy Snyder

Tämä kirja tarjoaa historian oppitunteja demokratian säilyttämiseksi ja puolustamiseksi, mukaan lukien instituutioiden merkitys, yksittäisten kansalaisten rooli ja autoritaarisuuden vaarat.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Meidän aikamme on nyt: voima, tarkoitus ja taistelu reilusta Amerikasta

Kirjailija: Stacey Abrams

Kirjoittaja, poliitikko ja aktivisti, jakaa näkemyksensä osallistavammasta ja oikeudenmukaisemmasta demokratiasta ja tarjoaa käytännön strategioita poliittiseen sitoutumiseen ja äänestäjien mobilisointiin.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Kuinka demokratiat kuolevat

Steven Levitsky ja Daniel Ziblatt

Tämä kirja tutkii demokratian hajoamisen varoitusmerkkejä ja syitä hyödyntäen tapaustutkimuksia eri puolilta maailmaa tarjotakseen näkemyksiä demokratian turvaamisesta.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Ihmiset, nro: Antipopulismin lyhyt historia

Kirjailija: Thomas Frank

Kirjoittaja tarjoaa historian populistisista liikkeistä Yhdysvalloissa ja arvostelee "antipopulistista" ideologiaa, jonka hän väittää tukahduttaneen demokraattisen uudistuksen ja edistyksen.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Demokratia yhdessä kirjassa tai vähemmän: miten se toimii, miksi se ei toimi ja miksi sen korjaaminen on helpompaa kuin luulet

Kirjailija: David Litt

Tämä kirja tarjoaa yleiskatsauksen demokratiaan, mukaan lukien sen vahvuudet ja heikkoudet, ja ehdottaa uudistuksia, jotta järjestelmästä tulee reagoivampi ja vastuullisempi.

Klikkaa saadaksesi lisätietoja tai tilataksesi