Autonomiset autot eivät ole älykkäämpiä. X posid

Joka päivä lukemattomia otsikoita syntyy lukemattomista lähteistä eri puolilla maailmaa varoittavat kauheita seurauksia ja lupaavat utopistiset futuurit - kaikki keinotekoisen älykkyyden ansiosta. AI "muuttaa työpaikkaa", kirjoittaa Wall Street Journal, Kun taas rikkaus Aikakauslehti kertoo meille, että kohtaamme "AI-vallankumouksen", joka "muuttaa elämäämme." Mutta emme oikeastaan ​​ymmärrä, mitä vuorovaikutuksessa AI: n kanssa on kuin - tai mitä sen pitäisi olla.

On kuitenkin käynyt ilmi, että meillä on jo käsite, jota voimme käyttää AI: ta ajatellessamme. Entisenä eläinkouluttajana (vaikka lyhyesti), joka nyt tutkii, miten ihmiset käyttävät AI: tä, tiedän, että eläimet ja eläinkoulutus voivat opettaa meille melko paljon siitä, miten meidän pitäisi ajatella, lähestyä ja olla vuorovaikutuksessa keinotekoisen älykkyyden kanssa sekä nyt että nyt. tulevaisuudessa.

Eläinten analogien käyttö voi auttaa tavallisia ihmisiä ymmärtämään monia keinotekoisen älykkyyden monimutkaisia ​​näkökohtia. Se voi myös auttaa meitä miettimään, miten parhaiten opettaa näitä järjestelmiä uusille taidoille, ja ehkä tärkeintä, miten voimme oikein kuvitella niiden rajoitukset, vaikka juhlimme AI: n uusia mahdollisuuksia.

Tarkastellaan rajoituksia

AI-asiantuntijana Maggie Boden selittää”Tekoäly pyrkii tekemään tietokoneista sellaisia ​​asioita, joita mielet voivat tehdä.” AI-tutkijat työskentelevät opettamassa tietokoneita syyksi, havaitsemaan, suunnittelemaan, siirtämään ja tekemään yhdistyksiä. AI voi nähdä kuvioita suurissa tietokokonaisuuksissa, ennustaa tapahtuman todennäköisyyden, suunnitella reitin, hallita henkilön kokousaikataulua ja jopa pelata sotapelejä.

Monet näistä ominaisuuksista ovat itsessään yllättäviä: Tietenkin robotti voi rullata tilaa eikä törmätä mihinkään. Mutta jotenkin AI tuntuu maagisemmalta, kun tietokone alkaa laittaa nämä taidot yhteen tehtävien suorittamiseksi.

Ota esimerkiksi autonomiset autot. Kuljettamattoman auton alkuperä on 1980s-aikakauden puolustuksen kehittyneen tutkimushankkeen virastossa Itsenäinen maa-ajoneuvo. Hankkeen tavoitteena oli kannustaa tietokonenäköön, havaintoon, suunnitteluun ja robottiohjaukseen liittyvää tutkimusta. 2004issa ALV-ponnistus tuli ensimmäiseksi Suuri haaste itsekulkevat autot. Nyt, enemmän kuin 30 vuotta siitä, kun ponnistelu alkoi, olemme siviilimarkkinoilla itsenäisten tai itse ajavien autojen kärjessä. Alkuvuosina harvat ajattelivat, että tällainen esitys oli mahdotonta: tietokoneet eivät voineet ajaa!

DARPA Grand Challenge nosti itsenäisten ajoneuvojen kehitystä.

{youtube}M2AcMnfzpNg{/youtube}

Kuitenkin, kuten olemme nähneet, he voivat. Autonomaisten autojen kyvyt ovat suhteellisen helppoja ymmärtää. Mutta me taistelemme ymmärtääksemme heidän rajoituksensa. Jälkeen 2015 kohtalokas Tesla kaatuu, jossa auton autopilotti ei tuntenut traktorin perävaunua, joka ylitti sen kaistalle, vain harvat näyttävät ymmärtävän, kuinka hyvin Teslan autopilotti todella on. Vaikka yritys ja sen ohjelmistot olivat huolimattomuudesta National Highway Traffic Safety Administrationin mukaan ei ole selvää, ymmärtävätkö asiakkaat todella, mitä auto voi ja ei voi tehdä.

Entä jos Teslan omistajille ei kerrottu, että he olisivat autopilotin “beeta” -versiossa vaan pikemminkin puoliautomaattinen auto maton henkinen vastaavuus? Ns. ”Tiedustelu”, joka tarjoaatäydellinen itsekulkutoiminto”On todella jättiläinen tietokone, joka on melko hyvä havaitsemaan esineitä ja välttämään niitä, tunnistamaan kuvia kuvissa ja rajoitettua suunnittelua. Se voi muuttaa omistajien näkökulmia siitä, kuinka paljon auto voisi todella tehdä ilman ihmisen syöttöä tai valvontaa.

Mikä se on?

Teknologit yrittävät usein selittää AI: tä sen rakentamisen kannalta. Otetaan esimerkiksi edistysaskelit syvä oppiminen. Tämä on tekniikka, jota käytetään monikerroksiset verkot oppia tekemään tehtävän. Verkostojen on käsiteltävä suuria määriä tietoa. Mutta koska he tarvitsevat tietoja, verkostojen yhdistysten ja algoritmien monimutkaisuus, ihmisille on usein epäselvää, miten he oppivat, mitä he tekevät. Nämä järjestelmät voivat tulla erittäin hyviksi yhteen tiettyyn tehtävään, mutta emme ymmärrä niitä todella.

Sen sijaan, että ajattelimme AI: tä jotakin yliluonnolliseksi tai ulkomaalaiseksi, on helpompaa analysoida ne eläimiin, älykkäisiin nonhumaaneihin, joilla on kokemusta koulutuksesta.

Jos esimerkiksi käytän vahvistaminen oppiminen kouluttaa koira istumaan, kiitän koiraa ja annan hänelle herkkuja, kun hän istuu komennolla. Ajan mittaan hän oppi liittämään käskyn käyttäytymiseen hoitoon.

Opettaminen koiralle istumaan on paljon kuin keinotekoisen älykkyyden koulutus.

{youtube}5-MA-rGbt9k{/youtube}

AI-järjestelmän koulutus voi olla hyvin sama. Sisään syvällinen oppiminenIhmissuunnittelijat perustavat järjestelmän, kuvittelevat, mitä he haluavat oppia, antaa sille tietoa, katsella sen toimia ja antaa sille palautetta (kuten kiitosta), kun he näkevät, mitä he haluavat. Pohjimmiltaan voimme käsitellä AI-järjestelmää kuten me käsittelemme eläimiä, joita koulutamme.

Analogia toimii myös syvemmällä tasolla. En odota istuvan koiran ymmärtävän monimutkaisia ​​käsitteitä, kuten "rakkaus" tai "hyvä". Odotan hänen oppivan käyttäytymistä. Aivan kuten me voimme saada koiria istumaan, jäädä ja liikkumaan, saamme AI-järjestelmät siirtämään autoja yleisten teiden ympärille. Mutta se on liian paljon odotettavissa autosta "ratkaista" eettiset ongelmat, joita voi syntyä hätätilanteissa.

Tutkijoiden auttaminen

AI: n ajattelu koulutettavaksi eläimeksi ei ole vain hyödyllistä selittää sitä yleisölle. Se on myös hyödyllistä tekniikkaa rakentaville tutkijoille ja insinööreille. Jos AI-tutkija yrittää opettaa järjestelmälle uutta taitoa, prosessin ajattelu eläinkouluttajan näkökulmasta voisi auttaa tunnistamaan mahdollisia ongelmia tai komplikaatioita.

Esimerkiksi, jos yritän kouluttaa koirani istumaan, ja joka kerta, kun sanon "istua", summeri uuniin sammuu, niin koirani alkaa liittyä istumaan paitsi minun käskyni kanssa, vaan myös äänen kanssa uunin summeri. Pohjimmiltaan summeri muuttuu toiseksi signaaliksi, joka kertoo koiralle istuvan, jota kutsutaan "vahingossa tapahtuvaksi vahvistukseksi". Jos etsimme vahingossa vahvistuksia tai signaaleja AI-järjestelmissä, jotka eivät toimi kunnolla, niin tiedämme paremmin, mitä vain tapahtuu väärin, mutta myös se, mikä erityinen uudelleenkoulutus on tehokkainta.

Tämä edellyttää, että ymmärrämme, mitä viestejä annamme AI-koulutuksen aikana, ja mitä AI voisi seurata ympäröivässä ympäristössä. Uunin summeri on yksinkertainen esimerkki; todellisessa maailmassa se on paljon monimutkaisempi.

Ennen kuin suhtaudumme myönteisesti AI: n ylimpiin ja luovuttamaan elämämme ja työpaikkamme robotteille, meidän pitäisi keskeyttää ja miettiä, millaisia ​​älykkyyksiä luomme. He ovat erittäin hyviä tekemään tiettyjä toimia tai tehtäviä, mutta he eivät ymmärrä käsitteitä eivätkä tiedä mitään. Joten kun ajattelet tuhoavat tuhansia uudelle Tesla-autolle muista, että sen autopilotti on todella nopea ja seksikäs mato. Haluatko todella ohjata elämääsi ja rakkaasi elämää matolle? Luultavasti ei, joten pidä kädet pyörällä ja älä nuku.

Author

Heather Roff, vanhempi tutkija, Politiikan ja kansainvälisten suhteiden laitos, Oxfordin yliopisto; Tutkija, Global Security Initiative, Arizona State University

Tämä artikkeli julkaistiin alunperin Conversation. Lue alkuperäinen artikkeli.

Liittyvät kirjat

at InnerSelf Market ja Amazon