AI-chatbotit ovat tulossa tehokkaammiksi, mutta mistä tiedät, toimivatko ne eduksesi? 

Jos kysyt Alexalta, Amazonin ääniavustaja-AI-järjestelmältä, onko Amazon monopoli, se vastaa sanomalla, että ei tiedä. Sen tekeminen ei vaadi paljon lambaste muut teknologiajätit, mutta se on vaiti oman yritysemoyhtiönsä rikoksista.

Kun Alexa vastaa tällä tavalla, on selvää, että se asettaa kehittäjiensä edut sinun etujasi edelle. Yleensä ei kuitenkaan ole niin ilmeistä, ketä tekoälyjärjestelmä palvelee. Välttääkseen näiden järjestelmien hyväksikäytön ihmisten on opittava suhtautumaan tekoälyyn skeptisesti. Tämä tarkoittaa sitä, että luot tietoisesti sille antamasi panoksen ja ajattelet kriittisesti sen tuotosta.

Tekoälymallien uudemmat sukupolvet kehittyneempien ja harvemmin reagoivien reaktioiden ansiosta vaikeuttavat kertoa, kuka hyötyy puhuessaan. Internet-yritysten manipuloiminen näkemilläsi palvellakseen omia etujaan ei ole mitään uutta. Googlen hakutulokset ja Facebook-syötteesi ovat täynnä maksettuja merkintöjä. Facebook, TikTok ja muut manipuloivat syötteitäsi maksimoidakseen alustalla viettämäsi ajan, mikä tarkoittaa enemmän mainosten katselukertoja hyvinvointiisi nähden.

Se, mikä erottaa tekoälyjärjestelmät näistä muista Internet-palveluista, on se, kuinka vuorovaikutteisia ne ovat ja kuinka näistä vuorovaikutuksista tulee yhä enemmän suhteita. Ei vaadi paljoa ekstrapolointia tämän päivän teknologioista kuvitellaksesi tekoälyjä, jotka suunnittelevat sinulle matkoja, neuvottelevat puolestasi tai toimivat terapeutteina ja elämänvalmentajina.

He ovat todennäköisesti kanssasi 24/7, tuntevat sinut läheisesti ja osaavat ennakoida tarpeitasi. Tällainen keskustelukäyttöliittymä verkon laajaan palvelu- ja resurssiverkostoon on olemassa olevien luovien tekoälyjen, kuten ChatGPT:n, kykyjen sisällä. He ovat matkalla tullakseen henkilökohtaiset digitaaliset avustajat.

Kuten turvallisuusasiantuntija ja tietojen tutkijaUskomme, että ihmisten, jotka alkavat luottaa näihin tekoälyihin, on luotettava niihin implisiittisesti navigoidakseen jokapäiväisessä elämässä. Tämä tarkoittaa, että heidän on varmistettava, että tekoälyt eivät salaa työskentele jonkun muun hyväksi. Internetissä laitteet ja palvelut, jotka näyttävät toimivan sinulle, toimivat jo salaa sinua vastaan. Älytelevisiot vakoilla sinua. Puhelinsovellukset kerätä ja myydä tietojasi. Monet sovellukset ja verkkosivustot manipuloida sinua tummien kuvioiden kautta, sisustuselementtejä, jotka johdattaa tietoisesti harhaan, pakottaa tai pettää verkkosivuston kävijöitä. Tämä on valvonnan kapitalismi, ja tekoäly on muotoutumassa osaksi sitä. Tekoälyllä on rooli valvontakapitalismissa, joka tiivistyy vakoilemiseen saadaksesi rahaa.

Pimeässä

Mahdollisesti se voisi olla paljon pahempaa tekoälyn kanssa. Jotta tekoälyn digitaalinen avustaja olisi todella hyödyllinen, sen on todella tunnettava sinut. Paremmin kuin puhelimesi tuntee sinut. Paremmin kuin Google-haku tuntee sinut. Ehkä paremmin kuin läheiset ystäväsi, intiimikumppanisi ja terapeutti tuntevat sinut.

Sinulla ei ole mitään syytä luottaa nykypäivän johtaviin luoviin tekoälytyökaluihin. Jätä sivuun hallusinaatiot, keksittyjä "faktoja", joita GPT ja muut suuret kielimallit tuottavat. Odotamme, että ne puhdistetaan suurelta osin tekniikan parantuessa seuraavien vuosien aikana.

Mutta et tiedä, miten tekoälyt on konfiguroitu: miten heidät on koulutettu, mitä tietoja heille on annettu ja mitä ohjeita heitä on käsketty noudattamaan. Esimerkiksi tutkijat paljasti salaiset säännöt jotka hallitsevat Microsoft Bing -chatbotin toimintaa. Ne ovat suurelta osin hyvänlaatuisia, mutta voivat muuttua milloin tahansa.

Tehdä rahaa

Monet näistä tekoälyistä ovat luotuja ja koulutettuja valtavilla kustannuksilla joidenkin suurimmista teknologiamonopoleista. Niitä tarjotaan ihmisten käytettäväksi ilmaiseksi tai erittäin alhaisella hinnalla. Näiden yritysten on ansaittava ne jollain tavalla. Ja kuten muuallakin Internetissä, se sisältää todennäköisesti valvontaa ja manipulointia.

Kuvittele, että pyydät chatbotiasi suunnittelemaan seuraavaa lomaasi. Valitsiko se tietyn lentoyhtiön tai hotelliketjun tai ravintolan, koska se oli sinulle paras vai koska sen valmistaja sai yrityksiltä takaiskun? Kuten Google-haun maksettujen tulosten, Facebookin uutissyötemainosten ja Amazon-kyselyiden maksettujen sijoittelujen kohdalla, nämä maksulliset vaikutukset muuttuvat ajan mittaan piilossa.

Jos kysyt chatbotiltasi poliittista tietoa, vääristääkö chatbotin omistavan yrityksen politiikka tuloksia? Tai ehdokas, joka maksoi sille eniten rahaa? Tai jopa näkemykset niiden ihmisten väestörakenteesta, joiden tietoja käytettiin mallin koulutuksessa? Onko tekoälyagenttisi salaa kaksoisagentti? Tällä hetkellä ei ole mitään keinoa tietää.

Lain mukaan luotettava

Uskomme, että ihmisten pitäisi odottaa teknologialta enemmän ja että teknologiayrityksistä ja tekoälyistä voi tulla entistä luotettavampia. Euroopan unionin ehdotus AI-laki ottaa joitakin tärkeitä toimenpiteitä, jotka edellyttävät avoimuutta tekoälymallien kouluttamiseen käytetyistä tiedoista, mahdollisen harhan lieventämistä, ennakoitavien riskien paljastamista ja alan standarditestien raportoimista. Euroopan unioni ajaa tekoälysääntelyä eteenpäin.

Useimmat olemassa olevat tekoälyt ei noudata tämän nousevan eurooppalaisen mandaatin kanssa, ja siitä huolimatta viimeaikainen yllytys Senaatin enemmistöjohtaja Chuck Schumer sanoi, että Yhdysvallat on kaukana tällaisesta sääntelystä.

Tulevaisuuden tekoälyjen tulee olla luotettavia. Ellei hallitus tarjoa vankkaa kuluttajansuojaa tekoälytuotteille, ihmiset voivat itse arvata tekoälyn mahdolliset riskit ja ennakkoluulot ja lieventää niiden pahimpia vaikutuksia ihmisten kokemuksiin niistä.

Joten kun saat matkasuosituksen tai poliittista tietoa tekoälytyökalusta, suhtaudu siihen samalla skeptisellä silmällä kuin mainostaulumainokseen tai kampanjan vapaaehtoiseen. Kaikesta teknologisesta velhostaan ​​huolimatta tekoälytyökalu voi olla vähän enemmän kuin sama.

Author

Bruce Schneier, julkisen politiikan dosentti, Harvard Kennedyn koulu ja Nathan Sanders, Affiliate, Berkman Klein Center for Internet & Society, Harvardin yliopisto

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.