Tekoäly ei todennäköisesti orjuuta ihmiskuntaa, mutta se voi vallata monia elämämme puolia. elenabs/iStock Getty Imagesin kautta

ChatGPT:n ja vastaavien tekoälyjärjestelmien nousuun on liittynyt jyrkkä lisääntynyt ahdistus tekoälystä. Muutaman viime kuukauden ajan johtajat ja tekoälyn turvallisuustutkijat ovat tarjonneet ennusteita, nimeltään "P(tuomio)”, siitä todennäköisyydestä, että tekoäly saa aikaan laajamittainen katastrofin.

Huolet huipentuivat toukokuussa 2023, kun voittoa tavoittelematon tutkimus- ja edunvalvontajärjestö Center for AI Safety julkaisi yhden lauseen lausunto: "Tekoälyn aiheuttaman sukupuuttoon kuolemisen riskin vähentämisen pitäisi olla globaali prioriteetti muiden yhteiskunnallisten riskien, kuten pandemioiden ja ydinsodan, rinnalla." Lausunnon allekirjoittivat monet alan avaintoimijat, mukaan lukien OpenAI:n, Googlen ja Anthropicin johtajat sekä kaksi tekoälyn niin kutsuttua "kummisetä": Geoffrey Hinton ja Yoshua Bengio.

Saatat kysyä, kuinka tällaisten eksistentiaalisten pelkojen pitäisi toteutua. Yksi kuuluisa skenaario on "paperiliitin maksimoijaOxfordin filosofin kiteyttää ajatuskokeilu Nick Bostrom. Ajatuksena on, että tekoälyjärjestelmä, jonka tehtävänä on tuottaa mahdollisimman paljon paperiliittimiä, saattaa mennä poikkeuksellisen paljon raaka-aineiden löytämiseen, kuten tuhota tehtaita ja aiheuttaa auto-onnettomuuksia.

A vähemmän resurssiintensiivistä vaihtelua on tekoäly, jonka tehtävänä on hankkia varaus suosittuun ravintolaan, joka sulkee matkapuhelinverkot ja liikennevalot estääkseen muita asiakkaita saamasta pöytää.

Toimistotarvikkeet tai illallinen, perusidea on sama: tekoälystä on nopeasti tulossa muukalainen älykkyys, joka on hyvä saavuttamaan tavoitteita, mutta vaarallista, koska se ei välttämättä ole linjassa luojiensa moraalisten arvojen kanssa. Ja äärimmäisimmässä versiossaan tämä argumentti muuttuu tekoälyä koskeviksi selväksi peloksi ihmiskunnan orjuuttamisesta tai tuhoamisesta.

Paperiliittimiä valmistava tekoäly juoksee amoksissa on yksi muunnelma tekoälyn apokalypsiskenaariosta.

Todellinen haitta

Viime vuosina kollegani ja minä klo UMass Bostonin Applied Ethics Center Olen tutkinut tekoälyn vaikutusta ihmisten ymmärrykseen itsestään, ja uskon, että nämä katastrofaaliset ahdistukset ovat ylipaisutettu ja suunnattu väärin.

Kyllä, tekoälyn kyky luoda vakuuttavaa syvää väärennettyä videota ja ääntä on pelottavaa, ja ihmiset voivat käyttää sitä väärin. Itse asiassa se on jo tapahtumassa: venäläiset toimihenkilöt yrittivät todennäköisesti nolata Kremlin kriitikkoa Bill Browder houkuttelemalla hänet keskusteluun Ukrainan entisen presidentin Petro Porošenkon avatarin kanssa. Kyberrikolliset ovat käyttäneet tekoälyn äänikloonausta useisiin rikoksiin – alkaen korkean teknologian ryöstöt että tavallisia huijauksia.

AI päätöksentekojärjestelmät, jotka tarjota lainan hyväksyntää ja rekrytointisuosituksia sisältää riskin algoritmisesta harhasta, koska harjoitustiedot ja niiden käyttämät päätösmallit heijastavat pitkäaikaisia ​​sosiaalisia ennakkoluuloja.

Nämä ovat suuria ongelmia, ja ne vaativat poliittisten päättäjien huomion. Mutta ne ovat olleet olemassa jo jonkin aikaa, eivätkä ne ole katastrofaalisia.

Ei samassa liigassa

Tekoälyn turvallisuuden keskuksen lausunto yhdisti tekoälyn pandemioihin ja ydinaseisiin suurena riskinä sivilisaatiolle. Tuossa vertailussa on ongelmia. COVID-19 johti melkein 7 miljoonaa kuolemaa maailmanlaajuisesti, toi a valtava ja jatkuva mielenterveyskriisi ja luotu taloudelliset haasteet, mukaan lukien krooniset toimitusketjun puutteet ja nopea inflaatio.

Ydinaseet todennäköisesti tapettiin yli 200,000 ihmistä Hiroshimassa ja Nagasakissa vuonna 1945, vaati paljon enemmän ihmishenkiä syövästä seuraavina vuosina, synnytti vuosikymmeniä kestäneen syvän ahdistuksen kylmän sodan aikana ja toi maailman tuhon partaalle Kuuban ohjuskriisin aikana vuonna 1962. He ovat myös muutti kansallisten johtajien laskelmia miten vastata kansainväliseen aggressioon, jota tällä hetkellä pelataan Venäjän hyökkäyksen kanssa Ukrainaan.

Tekoäly ei yksinkertaisesti ole lähelläkään saavuttamassa kykyä tehdä tällaista vahinkoa. Paperiliitinskenaario ja muut vastaavat ovat tieteisfiktiota. Olemassa olevat tekoälysovellukset suorittavat tiettyjä tehtäviä laajojen arvioiden sijaan. Tekniikka on kaukana siitä, että pystyisi tekemään päätöstä ja sitten suunnittelemaan tavoitteet ja alemmat tavoitteet, joita tarvitaan liikenteen sulkemiseen saadaksesi paikan ravintolaan, tai autotehtaan räjäyttämiseen paperiliittimien kutinaa tyydyttämään.

Sen lisäksi, että teknologialta puuttuu monimutkainen monitasoinen arviointikyky, joka liittyy näihin skenaarioihin, sillä ei myöskään ole itsenäistä pääsyä riittäviin kriittisen infrastruktuurimme osiin voidakseen aiheuttaa tällaisia ​​vahinkoja.

Mitä se tarkoittaa olla ihminen

Itse asiassa tekoälyn käyttöön liittyy eksistentiaalinen vaara, mutta se riski on eksistentiaalinen pikemminkin filosofisessa kuin apokalyptisessä mielessä. Tekoäly nykyisessä muodossaan voi muuttaa tapaa, jolla ihmiset näkevät itsensä. Se voi heikentää kykyjä ja kokemuksia, joita ihmiset pitävät välttämättöminä ihmisyydelle.

Esimerkiksi ihmiset ovat tuomitsevia olentoja. Ihmiset punnitsevat rationaalisesti yksityiskohtia ja arvioivat päivittäin töissä ja vapaa-ajalla ketä palkata, kenen pitäisi saada lainaa, mitä katsoa ja niin edelleen. Mutta yhä enemmän näitä tuomioita on automatisoidaan ja viljellään algoritmeihin. Kun näin tapahtuu, maailma ei lopu. Mutta ihmiset menettävät vähitellen kyvyn tehdä näitä tuomioita itse. Mitä vähemmän ihmiset tekevät niistä, sitä huonommin he todennäköisesti tekevät niitä.

Tai harkitse sattuman roolia ihmisten elämässä. Ihminen arvostaa satunnaisia ​​kohtaamisia: vahingossa törmäämistä paikkaan, henkilöön tai toimintaan, siihen vetäytymistä ja jälkikäteen onnettomuuden roolin arvostamista näissä merkityksellisissä löydöissä. Mutta algoritmisten suositusmoottorien tehtävänä on vähentää tällaista serendipityä ja korvaa se suunnittelulla ja ennustamisella.

Harkitse lopuksi ChatGPT:n kirjoituskykyä. Tekniikka on poistamassa kirjoitustehtävien roolia korkeakouluissa. Jos näin tapahtuu, opettajat menettävät keskeisen työkalun opiskelijoiden opettamiseen kuinka ajatella kriittisesti.

Ei kuollut, mutta vähentynyt

Joten ei, tekoäly ei räjäytä maailmaa. Mutta sen yhä kritiikittömämpi omaksuminen erilaisissa kapeissa yhteyksissä tarkoittaa joidenkin ihmisten tärkeimpien taitojen asteittaista kulumista. Algoritmit heikentävät jo nyt ihmisten kykyä tehdä tuomioita, nauttia seikkailuista ja hioa kriittistä ajattelua.

Ihmislaji selviää sellaisista menetyksistä. Mutta tapamme olla olemassa köyhtyy tässä prosessissa. Tulevan AI-kataklysmin, singulariteetin, Skynetin tai miten tahansa kuvitteletkin ympärillä olevat fantastiset ahdistukset hämärtävät nämä hienovaraisemmat kustannukset. Muista TS Eliotin kuuluisat loppulauseet "Hollow miehet": "Tämä on tapa, jolla maailma loppuu", hän kirjoitti, "ei pamahduksella vaan vinkulla."

Author

Nir Eisikovits, filosofian professori ja soveltavan etiikan keskuksen johtaja, UMass Boston

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.