Jos asiat menevät vikaan automatisoidussa maailmassa, saisimmeko vielä tietää, mitä tehdä?

Jos asiat menevät vikaan automatisoidussa maailmassa, saisimmeko vielä tietää, mitä tehdä?

Elämme maailmassa, joka on sekä yhä monimutkaisempi että automatisoitu. Niinpä, kun meidän on käsiteltävä monimutkaisempia ongelmia, automaatio johtaa sellaisten inhimillisten taitojen surkastumiseen, jotka saattavat jättää meidät haavoittuvammiksi, kun vastaamme odottamattomiin tilanteisiin tai kun asiat menevät pieleen. Conversation

Harkitse Air France Flight 447in viimeiset minuutit, joka kaatui Atlantiin toukokuussa 2009 lähtien Rio de Janeirosta, Brasiliasta, Pariisiin, Ranskaan.

Sen lentotallennin paljasti täydellinen sekavuus ohjaamossa. Taso kääntyi ylöspäin 15º: ssa, kun automaattinen ääni kutsui toistuvasti "stall, stall". Kuitenkin lentäjät kiertivät, yksi huudahti: "[...] emme ymmärrä mitään."

Tämä ei ole paikka, jossa mennään tämän huonosti lennon sisään ja ulos, lukuun ottamatta huomatkaa, että mikä tahansa järjestelmä, joka on suunniteltu käsittelemään automaattisesti ennakoimattomia tilanteita, suurimman osan ajasta jättää heikentyneen taitopohjan pienemmälle tilanteelle, jota suunnittelijat eivät voineet ei ennakoida.

Puhuessaan Vanity FairNadine Sarter, Michiganin yliopiston teollisuusinsinööri, muistuttaa keskustelusta viiden insinöörin kanssa, jotka osallistuvat tietyn ilma-aluksen rakentamiseen.

Aloin kysyä: "No, miten tämä tai se toimii?" Ja he eivät voineet sopia vastauksista. Joten ajattelin, että jos nämä viisi insinööriä eivät suostu, köyhä pilotti, jos hän koskaan kohtaa kyseisen tilanteen… hyvin, onnea.

Itse asiassa järkevästi lentävien, erittäin monimutkaisten high-tech-lentokoneiden monimutkaisuus on ulkoistettu robotille lennon insinöörit kaikilta tahoilta ja tarkoituksiltaan kuljettajilta. Ainoastaan ​​vanhemmat lentäjät ja lentäjien lentäjät säilyttävät nämä yksityiskohtaiset taidot.


Hanki viimeisin InnerSelfistä


Takaisin terrayhtiöön autonomisessa ajaminen maailmassa voisi olla kokonaisia ​​tulevia sukupolvia, joilla ei ole käytännön kokemusta ajaminen ja navigointi ajoneuvo.

Näemme jo merkin mitä voi mennä pieleen kun ihmiset jättävät valvonnan autonomiset järjestelmät.

Tutkimus Tesla-mallin S lopullinen kaatuminen autopilotilla pani merkille, että yritys toimitti tietoja "järjestelmän rajoituksista" kuljettajille. Tällöin kuljettajien on vielä kiinnitettävä huomiota.

Mutta millä mahdollisuudella henkilö voisi ottaa haltuunsa valvonnan, jos asiat alkavat mennä pieleen tulevaisuudessa täysin itsenäinen ajoneuvo. Olisivatko he edes tietäneet, miten havaitaan tulevia katastrofeja?

Menettää tiensä?

Ajaminen on tekninen determinismi, joka uskoo, että kaikki ja kaikki innovaatiot ovat luontaisesti hyviä. Kehittyvät teknologiat voivat vielä määritellä, mitä on olla ihminen, mutta haasteena on tunnistaa riskin ja mitä tehdä, jotta asiat eivät menisi pieleen.

Se on yhä vaikeampaa, kun olemme lisänneet monimutkaisuutta, erityisesti autonomisella ajamalla esikaupunkijunat, taksit ja toimitus droneja.

Järjestelmän suunnittelijat ovat rakentaneet suurempia ja toisiinsa yhdistettyjä järjestelmiä jakamaan tietokoneen käsittelykuormituksen, vaikka tämä tekee niiden luomista tärkeimmistä ehdokkaista. He huomaavat, että kun kaikki on yhdistetty, ongelmat voivat levitä yhtä helposti kuin ratkaisuja, joskus enemmänkin.

Automaattisen maailman kasvava ja valtava monimutkaisuus aiheuttaa samanlaisia ​​riskejä.

Vaarapisteet

Jälkikäteen on tarpeen kyky leikata verkot vapaiksi, kun on vikoja, tai ainakin sulkea yksittäisen verkon osat, kun muualla siinä on vikoja.

Tämä "saaristaminen" on piirre älykkäille sähköverkkoille, jotka tarjoavat mahdollisuuden jakaa verkko fragmenteiksi, jotka kykenevät ylläpitämään omaa sisäistä tehontarpeitaan. Mallinnus on osoittanut, että vähemmän yhteyksiä voi lisätä turvallisuutta.

Voisiko kehittyvä monimutkaisuustiede auttaa määrittämään, missä vaarapisteet saattavat sijaita hyvin yhteenliitetyissä verkoissa? Marten Scheffer ja kollegat ajattelin niin. Hän oli nähnyt yhtäläisyyksiä luonnollisten järjestelmien käyttäytymisen sekä talous- ja rahoitusjärjestelmien välillä.

Hänen aikaisempi työ järvien, koralliriuttojen, merien, metsien ja nurmien osalta todettiin, että ympäristöissä, joihin kohdistuu asteittaisia ​​muutoksia, kuten ilmasto, ravinteiden kuormitus ja elinympäristön menetys, voidaan päästä kippauspisteisiin, jotka kääntävät ne joskus peruuttamattomaan alempaan tilaan.

Voisiko pankkien ja taloustieteilijöiden, jotka tarttuivat rahoitusmarkkinoiden vakauteen, oppia ekologisista, epidemiologisista ja klimatologisista tutkijoista kehittämään merkkejä kriittisten kynnysarvojen läheisyydestä ja järjestelmän jakautumisesta?

Helmikuussa 2016 tämä kaikki tuli yhteen asiakirja monimutkaisuuden teoriasta ja varainhoidon sääntelystä tekijä on monenlaisia ​​asiantuntijoita, kuten taloustieteilijä, pankkiiri, fyysikko, klimatologi, ekologi, eläinlääkäri, eläinlääkäri ja epidemiologi.

He suosittelivat tietojen, menetelmien ja indikaattorien online-integrointia, ja niiden avulla voidaan reagoida globaalien sosioekonomisten ja rahoitusjärjestelmien stressitesteihin. Ensimmäinen on samanlainen kuin mitä on saavutettu käsittelemällä muita monimutkaisia ​​järjestelmiä, kuten sää.

Voimme alkaa nähdä, miten esimerkki autonomisesta ajamista maailmasta vetäytyy verkon vakauden kysymyksiin. Kuvittele itsenäisesti toimivien autojen verkosto.

On selvää tarvetta tietää, miten havaita ja eristää mahdolliset epäonnistumispisteet tällaisessa verkossa, ennen kuin asiat menevät vikaan mahdollisesti traagisilla seurauksilla. Tämä on enemmän kuin pelkästään kuljettajan ja matkustajan suojeleminen yhdestä autonomisesta ajoneuvosta.

On aika miettiä, miten voimme käyttää näitä monitieteisiä edistysaskeleita tällaisten laajamittaisten verkkojen vakauden ymmärtämiseksi, jotta vältettäisiin jyrkät seuraukset.

Author

Peter Fisher, apulaisprofessori, globaalit, kaupunki- ja yhteiskuntatieteet, RMIT-yliopisto

Tämä artikkeli julkaistiin alunperin Conversation. Lue alkuperäinen artikkeli.

Liittyvät kirjat

{amazonWS: searchindex = Kirjat; avainsanat = automaatio on väärä; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

seuraa InnerSelfia

facebook-kuvakeTwitter-kuvakeRSS-kuvake

Hanki uusimmat sähköpostitse

{Emailcloak = off}