Getty Images

Tekoäly (AI) kehittyy nopeasti ja siitä tulee tärkeä tukiväline kliinisessä hoidossa. Tutkimusten mukaan tekoälyalgoritmit voivat toimia tarkasti tunnistaa melanoomat ja ennustaa tulevia rintasyöpiä.

Mutta ennen kuin tekoäly voidaan integroida rutiininomaiseen kliiniseen käyttöön, meidän on vastattava algoritmisen harhaan liittyvään haasteeseen. Tekoälyalgoritmeilla voi olla luonnostaan ​​vääristymiä, jotka voivat johtaa syrjintään ja tietosuojaongelmiin. Tekoälyjärjestelmät voivat myös tehdä päätöksiä ilman vaadittua valvontaa tai ihmisen panosta.

 Esimerkki tekoälyn mahdollisesti haitallisista vaikutuksista on peräisin kansainvälinen projekti joka pyrkii pelastamaan ihmishenkiä tekoälyn avulla kehittämällä läpimurtollisia lääkehoitoja. Kokeessa tiimi käänsi "hyvän" tekoälymallinsa päinvastaiseksi luodakseen vaihtoehtoja uudelle tekoälymallille "vahingon" aiheuttamiseksi.

Alle kuuden tunnin harjoittelun aikana käänteinen tekoälyalgoritmi loi kymmeniä tuhansia potentiaalisia kemiallisia sodankäynnin aineita, jotka olivat paljon vaarallisempia kuin nykyiset sodankäynnin aineet. Tämä on äärimmäinen esimerkki kemiallisista yhdisteistä, mutta se toimii herätyskellona arvioimaan tekoälyn tunnettuja ja arvaamattomia eettisiä seurauksia.

AI kliinisessä hoidossa

Lääketieteessä käsittelemme ihmisten yksityisimpiä tietoja ja usein elämää mullistavia päätöksiä. Vahvat tekoälyn eettiset puitteet ovat välttämättömiä.

- Australian epilepsiaprojekti Tavoitteena on parantaa ihmisten elämää ja lisätä kliinisen hoidon saatavuutta. Tuhansien epilepsiapotilaiden kehittyneen aivojen kuvantamisen, geneettisen ja kognitiivisen tiedon perusteella aiomme käyttää tekoälyä vastaa tällä hetkellä vastaamattomiin kysymyksiin.

Jatkuvatko tämän henkilön kohtaukset? Mikä lääke on tehokkain? Onko aivoleikkaus kannattava hoitovaihtoehto? Nämä ovat perustavanlaatuisia kysymyksiä, joihin nykyaikainen lääketiede kamppailee vastaamassa.

Tämän projektin tekoälyjohtajana päähuoleni on, että tekoäly etenee nopeasti ja sääntelyn valvonta on vähäistä. Näiden ongelmien vuoksi perustimme äskettäin eettiset puitteet tekoälyn käyttämiseen kliinisen tukityökaluna. Tämän kehyksen tarkoituksena on varmistaa, että tekoälyteknologiamme ovat avoimia, turvallisia ja luotettavia, samalla kun edistetään kliinisen hoidon osallisuutta ja oikeudenmukaisuutta.

Joten miten toteutamme tekoälyn etiikkaa lääketieteessä vähentääksemme harhaa ja säilyttääksemme algoritmien hallinnan? Tietojenkäsittelytieteen periaate "roskat sisään, roskat ulos" pätee tekoälyyn. Oletetaan, että keräämme puolueellisia tietoja pienistä näytteistä. Tekoälyalgoritmimme ovat todennäköisesti puolueellisia, eivätkä ne ole replikoitavissa toisessa kliinisessä ympäristössä.

Esimerkkejä harhoista ei ole vaikea löytää nykyaikaisista tekoälymalleista. Suositut suuret kielimallit (esimerkiksi ChatGPT) ja latentti diffuusiomallit (DALL-E ja Stable Diffusion) osoittavat, kuinka nimenomaisia ​​ennakkoluuloja sukupuolen, etnisen taustan ja sosioekonomisen aseman suhteen.

Tutkijat havaitsivat, että yksinkertaiset käyttäjäkehotteet luovat kuvia, jotka säilyttävät etnisiä, sukupuoli- ja luokkastereotypioita. Esimerkiksi kehotus lääkäriin tuottaa enimmäkseen mieslääkärikuvia, mikä on ristiriidassa todellisuuden kanssa, sillä noin puolet OECD-maiden lääkäreistä on naisia.

Lääketieteellisen tekoälyn turvallinen toteutus

Ratkaisu puolueellisuuden ja syrjinnän estämiseksi ei ole triviaali. Terveyden tasa-arvon mahdollistaminen ja osallisuuden edistäminen kliinisissä tutkimuksissa ovat todennäköisiä ensisijaiset ratkaisut lääketieteellisen tekoälyn ennakkoluulojen torjuntaan.

Rohkaisevasti Yhdysvaltain elintarvike- ja lääkevirasto ehdotti äskettäin tehdä monimuotoisuudesta pakollista kliinisissä tutkimuksissa. Tämä ehdotus edustaa siirtymistä vähemmän puolueellisiin ja yhteisöön perustuviin kliinisiin tutkimuksiin.

Toinen edistymisen este on rajallinen tutkimusrahoitus. Tekoälyalgoritmit vaativat yleensä huomattavia määriä dataa, mikä voi olla kallista. On ratkaisevan tärkeää luoda tehostetut rahoitusmekanismit, jotka tarjoavat tutkijoille tarvittavat resurssit kerätä tekoälysovelluksiin soveltuvaa kliinisesti merkityksellistä tietoa.

Väitämme myös, että meidän pitäisi aina tuntea tekoälyalgoritmien sisäinen toiminta ja ymmärtää, kuinka ne tekevät johtopäätöksensä ja suosituksensa. Tätä käsitettä kutsutaan tekoälyssä usein "selitettävyydeksi". Se liittyy ajatukseen, että ihmisten ja koneiden on toimittava yhdessä parhaan tuloksen saavuttamiseksi.

Pidämme ennusteiden toteuttamista malleissa mieluummin "lisättynä" kuin "keinoälynä" - algoritmien tulee olla osa prosessia ja lääketieteen ammattilaisten on säilyttävä päätöksenteon hallinnassa.

Selitettävien algoritmien käytön lisäksi tuemme läpinäkyvää ja avointa tiedettä. Tutkijoiden tulisi julkaista yksityiskohtia tekoälymalleista ja niiden menetelmistä parantaakseen läpinäkyvyyttä ja toistettavuutta.

Mitä tarvitsemme Aotearoassa Uudessa-Seelannissa varmistaaksemme tekoälyn turvallisen käyttöönoton sairaanhoidossa? Tekoälyn eettisiä huolenaiheita johtavat ensisijaisesti alan asiantuntijat. Kuitenkin kohdennettuja tekoälysäännöksiä, kuten EU-pohjaisia Tekoälylaki on ehdotettu näiden eettisten näkökohtien huomioon ottamiseksi.

Eurooppalainen tekoälylaki on tervetullut, ja se suojaa "turvallisen tekoälyn" piirissä työskenteleviä ihmisiä. Yhdistyneen kuningaskunnan hallitus julkaisi äskettäin ne ennakoiva lähestymistapa tekoälyn sääntelyyn, joka toimii mallina muille hallituksen toimille tekoälyn turvallisuuteen.

Aotearoassa kannatamme pikemminkin ennakoivaa kuin reaktiivista asennetta tekoälyn turvallisuuteen. Se luo eettiset puitteet tekoälyn käytölle kliinisessä hoidossa ja muilla aloilla, mikä tuottaa tulkittavissa olevan, turvallisen ja puolueettoman tekoälyn. Näin ollen luottamuksemme kasvaa, että tämä tehokas teknologia hyödyttää yhteiskuntaa samalla kun se suojelee sitä haitoilta.

Author

Mangor Pedersen, psykologian ja neurotieteen apulaisprofessori, Aucklandin teknillinen yliopisto

Tämä artikkeli julkaistaan ​​uudelleen Conversation Creative Commons -lisenssin alla. Lue alkuperäinen artikkeli.

Liittyvät kirjat:

Keho pitää pisteet: Aivomieli ja keho trauman paranemisessa

esittäjä (t): Bessel van der Kolk

Tämä kirja tutkii trauman ja fyysisen ja henkisen terveyden välisiä yhteyksiä ja tarjoaa oivalluksia ja strategioita paranemiseen ja palautumiseen.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Breath: kadonneen taiteen uusi tiede

Kirjailija: James Nestor

Tämä kirja tutkii hengityksen tieteitä ja käytäntöjä ja tarjoaa oivalluksia ja tekniikoita fyysisen ja henkisen terveyden parantamiseksi.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Kasviparadoksi: "terveellisten" elintarvikkeiden piilotetut vaarat, jotka aiheuttavat sairauksia ja painonnousua

Kirjailija: Steven R. Gundry

Tämä kirja tutkii ruokavalion, terveyden ja sairauksien välisiä yhteyksiä ja tarjoaa oivalluksia ja strategioita yleisen terveyden ja hyvinvoinnin parantamiseksi.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Immunity Code: Uusi paradigma todelliselle terveydelle ja radikaalille ikääntymisen estämiselle

Kirjailija: Joel Greene

Tämä kirja tarjoaa uuden näkökulman terveyteen ja immuniteettiin, hyödyntäen epigenetiikan periaatteita ja tarjoaa oivalluksia ja strategioita terveyden ja ikääntymisen optimoimiseksi.

Klikkaa saadaksesi lisätietoja tai tilataksesi

Täydellinen opas paastoon: paranna kehosi jaksoittaisella, vuorotellen ja pitkällä paastolla

Tohtori Jason Fung ja Jimmy Moore

Tämä kirja tutkii paastoamisen tiedettä ja käytäntöä ja tarjoaa oivalluksia ja strategioita yleisen terveyden ja hyvinvoinnin parantamiseksi.

Klikkaa saadaksesi lisätietoja tai tilataksesi