Tulevat historioitsijat saattavat pitää vuotta 2023 maamerkkinä tekoälyn (AI) tulolle. Mutta todistaako se tulevaisuus utopistinen, maailmanlopun or jonnekin välissä on kenen tahansa arvaus.

Helmikuussa ChatGPT teki ennätyksen nopeimmin saavutettavana sovelluksena 100 miljoonaa käyttäjää. Sitä seurasivat samanlaiset Googlen, Amazonin, Metan ja muiden suurten teknologiayritysten "suurkieliset" tekoälymallit, jotka yhdessä näyttävät olevan valmiita muuttamaan koulutusta, terveydenhuoltoa ja monia muita tietointensiivisiä aloja.

Tekoälyn mahdollisuutta vahingoittaa kuitenkin korosti toukokuussa pahaenteinen lausunto johtavien tutkijoiden allekirjoittama:

Tekoälyn aiheuttaman sukupuuttoon kuolemisen riskin lieventämisen tulisi olla globaali prioriteetti muiden yhteiskunnallisten riskien, kuten pandemioiden ja ydinsodan, rinnalla.

Marraskuussa 27 maata (mukaan lukien Yhdistynyt kuningaskunta, Yhdysvallat, Intia, Kiina ja Euroopan unioni) lupasivat yhteistyön marraskuussa Bletchley Parkissa Englannissa järjestetyssä AI Safety Summit -kokouksessa tekoälyn turvallisen kehityksen varmistamiseksi. varten kaikkien hyödyksi.

Tämän saavuttamiseksi tutkijat keskittyvät AI kohdistus – eli kuinka varmistaa, että tekoälymallit ovat yhdenmukaisia ​​ihmisten arvojen, mieltymysten ja tavoitteiden kanssa. Mutta on ongelma – tekoälyn ns.synkkä salaisuus”: suuret mallit ovat niin monimutkaisia, että ne ovat kuin musta laatikko, jota kukaan ei voi täysin ymmärtää.

Tekoälyn musta laatikko -ongelma

Vaikka tekoälyjärjestelmien läpinäkyvyys ja selitettävyys ovat tärkeitä tutkimustavoitteita, tällaiset ponnistelut näyttävät epätodennäköiseltä pysyvän innovatiivisen vauhdin tahdissa.

Mustan laatikon metafora selittää, miksi ihmisten uskomukset tekoälystä ovat kaikkialla kartalla. Ennusteet vaihtelevat utopiasta sukupuuttoon, ja monet jopa uskovat, että tekoäly (AGI) tulee pian saavuttaa tuntokyky.

Mutta tämä epävarmuus pahentaa ongelmaa. Tekoälyn suuntaamisen tulisi olla kaksisuuntainen: meidän on paitsi varmistettava, että tekoälymallit ovat johdonmukaisia ​​ihmisten aikomusten kanssa, myös että uskomuksemme tekoälystä ovat tarkkoja.

Tämä johtuu siitä, että olemme erittäin taitavia luomaan tulevaisuuksia, jotka ovat sopusoinnussa näiden uskomusten kanssa, vaikka emme olisikaan niistä tietoisia.

Niin sanottu "odotusvaikutukset”, eli itsensä toteuttavat profetiat, tunnetaan hyvin psykologiassa. Ja tutkimus on osoittanut, että käyttäjien uskomusten manipulointi ei vaikuta vain siihen, miten he olla vuorovaikutuksessa AI: n kanssa, mutta kuinka AI mukautuu käyttäjään.

Toisin sanoen, kuinka uskomuksemme (tietoiset tai tiedostamattomat) vaikuttavat tekoälyyn, voi mahdollisesti lisätä minkä tahansa lopputuloksen todennäköisyyttä, mukaan lukien katastrofaaliset.

Tekoäly, laskenta, logiikka ja aritmetiikka

Meidän on tutkittava syvemmin ymmärtääksemme tekoälyn perusteet – kuten Liisa Ihmemaassa, suuntaa alas kaninkolkoon ja katso mihin se meidät vie.

Ensinnäkin mikä on AI? Se toimii tietokoneilla, samoin kuin automaattinen laskenta. Sen alkuperästä lähtien "perceptron” – keinotekoinen neuroni, jonka neurofysiologi määritteli matemaattisesti vuonna 1943 Warren McCulloch ja loogikko Walter Pitts – Tekoäly on kietoutunut kognitiivisten tieteiden, neurotieteen ja tietojenkäsittelytieteen kanssa.

Tämä lähentyminen mielet, äly ja koneet on johtanut laajalti vallitsevaan uskomukseen, että koska tekoäly on koneella laskettavaa, luonnollisen älyn (mielin) on oltava aivojen laskemista.

Mutta mitä on laskeminen? 19-luvun lopulla matemaatikot Richard Dedekind ja Giuseppe Peano ehdotti aksioomia, joka määritelty aritmetiikka logiikan kannalta, ja inspiroi yrityksiä perustaa kaikki matematiikka turvalliselle pohjalle muodollinen perusta.

Vaikka logiikka Kurt Godel myöhemmin osoittautui, että tämä tavoite oli mahdotonta saavuttaa, hänen työnsä oli lähtökohta matemaatikolle (ja koodinmurtajalle) Alan Turing. Hänen "Turingin kone”, abstrakti laite, joka pystyy universaali laskenta, on tietojenkäsittelytieteen perusta.

Havainnon syvä rakenne

Laskenta perustuu siis matemaattisiin ideoihin, jotka juontavat juurensa pyrkimyksiin määritellä aritmetiikka logiikassa. Mutta meidän aritmetiikkatietomme on olemassa ennen logiikkaa. Jos haluamme ymmärtää tekoälyn perusteita, meidän on mentävä pidemmälle ja kysyttävä, mistä itse aritmetiikka tulee.

Kollegani ja minä olemme äskettäin osoittaneet, että aritmetiikka perustuu "syvä rakenne”havainnosta. Tämä rakenne on kuin värillisiä laseja, jotka muokkaavat havainnointiamme tietyllä tavalla niin, että kokemuksemme maailmasta on järjestetty ja hallittavissa.

Aritmetiikka koostuu joukosta elementtejä (lukuja) ja operaatioita (yhteen- ja kertolasku), jotka yhdistävät alkiopareja toisen elementin muodostamiseksi. Kysyimme: miksi luvut ovat kaikista mahdollisuuksista elementtejä ja yhteen- ja kertolasku operaatioita?

Me näytimme matemaattiset todisteet että kun havainnon syvän rakenteen oletettiin rajoittavan mahdollisuuksia, tuloksena oli aritmetiikka. Toisin sanoen, kun mielemme tarkastelee abstraktia maailmaa samojen "värillisten lasien" läpi, jotka muokkaavat fyysisen maailman kokemustamme, se "näkee" numeroita ja aritmetiikkaa.

Koska aritmetiikka on matematiikan perusta, tämä tarkoittaa, että matematiikka on mielen heijastus – ilmaus symboleissa sen perusluonteesta ja luovuudesta.

Vaikka havainnon syvä rakenne on jaettu muiden eläinten kanssa ja siten evoluution tuote, vain ihmiset ovat keksineet matematiikan. Se on intiimimpi luomuksemme – ja mahdollistamalla tekoälyn kehittämisen, ehkä kaikkein merkittävin.

Kopernilainen mielen vallankumous

Meidän tilimme aritmeettisen alkuperän on yhdenmukainen 18-luvun filosofin Immanuel Kantin näkemysten kanssa. Hänen mukaansa maailmatietoumme rakentuvat "puhtaat intuitiot" paikasta ja ajasta, jotka ovat olemassa ennen aistikokemusta – analogisesti värillisten lasien kanssa, joita emme voi koskaan poistaa.

Kant väitti omansa filosofia oli "mielen kopernilainen vallankumous". Samalla tavalla muinaiset tähtitieteilijät uskoivat auringon kiertävän maata, koska he eivät olleet tietoisia Maan liikkeestä, Kant väitti, filosofit, jotka uskoivat kaiken tiedon olevan peräisin aistikokemus (John Locke ja David Hume, esimerkiksi) eivät huomioineet, kuinka mieli muokkaa havaintoa.

Vaikka Kantin näkemyksiä muovasivat aikansa luonnontieteitä, he ovat todistaneet vaikutusvaltaa nykyajan psykologiassa.

Tunnustus, että aritmetiikka on a havaintomme luonnollinen seuraus, ja siten biologisesti perustuva, viittaa samanlaiseen kantialaiseen muutokseen laskennan ymmärtämisessämme.

Laskenta ei ole "ulkopuolella" tai meistä erillään matemaattisen totuuden abstraktissa valtakunnassa, vaan mielemme luonteessa. Mieli on enemmän kuin laskelmia; aivot eivät ole tietokone. Pikemminkin laskenta – tekoälyn perusta – on matematiikan tavoin symbolinen ilmaus mielen luonteesta ja luovuudesta.

Promethean tuli

Mitä vaikutuksia tekoälyllä on? Ensinnäkin tekoäly ei ole mieli, eikä siitä koskaan tule tajuttavaa. Ajatus, että voimme ylittää biologisen luontomme ja saavuttaa kuolemattomuuden lataamalla mielemme pilveen, on vain fantasia.

Silti, jos koko ihmiskunta (ja todennäköisesti myös muut elävät olennot) jakavat mielen periaatteet, joihin tekoäly perustuu, voi olla mahdollista ylittää yksilöllisen mielemme rajoitukset.

Koska laskenta on universaalia, voimme vapaasti simuloida ja luoda mitä tahansa valitsemaamme lopputulosta yhä enemmän yhteenliittyvissä virtuaalisissa ja fyysisissä maailmoissamme. Tällä tavalla tekoäly on todella meidän Promethean tuli, lahja ihmiskunnalle, joka varastettiin jumalilta, kuten kuvassa kreikkalainen mytologia.

Globaalina sivilisaationa olemme todennäköisesti käännekohdassa. AI ei tule tuntevaksi ja päättää tehdä niin tapa meidät kaikki. Mutta pystymme hyvin "apokalypsoimaan" itsemme sen kanssa – odotus voi luoda todellisuutta.

Pyrkimykset varmistaa tekoälyn linjaus, turvallisuus ja tietoturva ovat elintärkeitä, mutta ne eivät välttämättä riitä, jos meillä ei ole tietoisuutta ja kollektiivista viisautta. Kuten Alice, meidän täytyy herätä unesta ja tunnistaa mielemme todellisuus ja voima.

Randolph Grace, Psykologian professori, Canterburyn yliopisto

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.