Juttu tiivistettynä
Viime päivinä useat tekoälyasiantuntijat ovat varoittaneet, että tekoäly voi jopa tuhota ihmiskunnan lähitulevaisuudessa.
Esimerkiksi tekoälyjätti Anthropicin turvallisuudesta vastaava johtaja Evan Hubinger sanoi viime viikolla uskovansa, että tekoäly tappaa ihmiskunnan seuraavan vuosikymmenen aikana jopa 10 prosentin todennäköisyydellä.
Tekoäly-yritysten varoitusten motiiveja on kyseenalaistettu. Yritysten on arveltu pyrkivän vakuuttamaan sijoittajat tuotteidensa ylivoimaisuudesta.
Mutta perjantaina ”tekoälyn kummisedäksi” kutsuttu nobelisti Geoffrey Hinton sanoi BBC:n haastattelussa, että hän ei pidä väitettä 10 prosentin todennäköisyydestä täystuholle lainkaan järjettömänä.
Lauantaina Anthropicin toimitusjohtaja Dario Amodei vaati esseessään tekoälyn kehityksen hidastamista.
Amodei kirjoittaa vakuuttuneensa viime kuukausina siitä, että tekoälyn kehitys on niin nopeaa, ettei sen riskien hallinta enää pysy perässä.
Amodein mukaan pääsyy tähän on tekoälyjen kyky rakentaa itse seuraavan sukupolven tekoälyä. Hänen mukaansa se on etenemässä vauhdilla.
Amodei viittaa myös kesän tapaukseen, jossa Open AI -yrityksen tekoälyagentit karkasivat hallinnasta.
Amodein mukaan tehokkaimpien tekoälymallien kehitystä on hidastettava useilla toimenpiteillä, yritysten itsesääntelystä globaaleihin sopimuksiin.
Hänen mukaansa näin ostettaisiin aikaa rakentaa turvallisempia järjestelmiä.
Käytännössä kehityksen hidastaminen on kuitenkin hyvin vaikeaa, jollei mahdotonta.
Itsesääntely ja ulkopuolinen valvonta
Amodei ehdottaa ensinnäkin, että tekoäly-yrityksiin tulisi pysyviä ulkopuolisia arvioijia, joiden tehtävä olisi valvoa yritysten toiminnan turvallisuutta.
Hänen mukaansa tällaisesta on esimerkkejä muun muassa finanssisektorilla.
Pankeissakin tämä järjestelmä toimii kuitenkin heikosti, arveli esimerkiksi satoja pankkiireja haastatellut hollantilaistoimittaja Joris Luyendijk taannoin kirjassaan.
Luyendijkin mukaan valvojat ovat aina väheksyttyjä ilonpilaajia, kun koko muu yritys keskittyy maksimoimaan voittoja.
Osa tekoäly-yrityksistä kritisoi Amodein ajatusta heti kättelyssä.
Käytännössä voi olla hyvin vaikeaa pysäyttää kehitystä vain sillä, että jotkut yritykset sitoutuisivat ulkopuolisiin valvojiin.
Silti itsesääntely saattaa olla realistisin vaihtoehto, sillä muut vaihtoehdot eivät näytä etenevän.
Trump tyrmäsi valtiollisen säätelyn
Amodei vaati myös demokraattisia valtioita luomaan tekoälyalalle sääntelyä.
Toinen Anthropicin perustaja, Jack Clark sanoi eilen maanantaina, että tekojärjestelmiin pitäisi tulla pakolliseksi jonkinlainen hätäkytkin, jolla ne voi kytkeä kokonaan pois päältä.
Clarkin mielestä mahdollisuus sääntelylle on juuri nyt, kun tehokkaita tekoälyjärjestelmiä kykenee rakentamaan vain muutama yritys maailmassa:
Mutta tekoäly-yritysten vaatimukset sääntelystä törmäsivät heti vuoreen nimeltä Donald Trump.
– Ainoa sääntely ja rajoitus, jota tekoäly vaatii, on VAHVA JA ÄLYKÄS PRESIDENTTI, ja USA:lla on sitä roppakaupalla, Trump viesti eilen maanantaina.
Keskustelu sääntelystä muuttui Yhdysvalloissa välittömästi identiteettipolitiikaksi.
Entinen demokraattipresidentti Barack Obama oli aiemmin kehottanut demokraatteja nostamaan tekoälyn turvallisuuden politiikan keskiöön.
Myös monet republikaanit ja jopa Trumpin hallinnon jäsenet ovat kuitenkin selvästi huolissaan. Silti kukaan heistä ei halua kyseenalaistaa Trumpia, ei ainakaan kongressin vaalien alla.
Ja Trumpin hallinto vastustaa voimakkaasti kaikkia kansainvälisiä sopimusjärjestelmiä, jotka voisivat rajoittaa Yhdysvaltain toimintaa.
Siksi sillä tuskin on kiinnostusta edes demokraattisten maiden yhteisiin toimiin tekoälyn kehityksen hidastamiseksi.
Myös Kiinassa tiedostetaan irti pääsevän tekoälyn uhka
Trumpilla on perusteensa vastustaa tekoälyn sääntelyä.
Hän uskoo, että kaikki rajoitukset Yhdysvalloissa hyödyttäisivät Kiinaa.
Sekä Yhdysvallat että Kiina ovat pitkään uskoneet, että juuri tekoälykehitys on ratkaisevaa suurvaltojen kilpailussa.
Kiina käynnisti jo vuonna 2017 valtavan tekoälysuunnitelman, jonka mukaan sen tulee olla tämän vuosikymmenen loppuun mennessä ylivoimainen tekoälysuurvalta.
Kiinalaiset teknologiajätit olivatkin pian ilmiömäisen hyviä tekoälyn soveltajia.
Yhdysvalloissa herättiin viimeistään vuonna 2019 siihen, että kyseessä oli kylmän sodan kaltainen kilpailu teknologisesta herruudesta.
Yhdysvallat on sen jälkeen pyrkinyt hidastamaan Kiinan kehitystä muun muassa huippusirujen vientikielloilla.
Trump teki nyt selväksi, että rajoitteet amerikkalaisille yrityksille hyödyttävät vain Kiinaa.
Mutta myös kiinalaiset ovat jo pitkään tiedostaneet samat tekoälyn vaarat, joista nyt puhutaan.
Uutistoimisto Reutersin mukaan Kiinan kyberturvallisuusvirasto kiinnitti jo kaksi vuotta sitten ohjeistuksessaan huomiota mahdollisuuteen, että tekoäly karkaisi käsistä.
Sen jälkeen se on tiukentanut määräyksiään.
Myös kiinalaiset tekoälymallit ovat aiheuttaneet tiedettyjä vaaratilanteita.
Elokuussa kiinalaisen Moonshot-yhtiön kehittynyt Kimi K3 -tekoäly murtautui ulos testiympäristöstään Britannian tekoälyturvallisuuden laitoksessa AISI:ssä.
Mutta sen enempää Kiina kuin Yhdysvallat ei näytä tällä hetkellä olevan valmis yhteistyöhön tekoälyn rajoittamiseksi.
Ne eivät luota siihen, että toinen osapuoli pitäisi kiinni sovitusta.
Bill Gates varoittaa tulevasta myrskystä
Vaikka pahimpia kauhukuvia ei uskoisikaan, tekoälyn arkisemmat vaikutukset ovat joka tapauksessa aivan oven takana.
Ohjelmistoyhtiö Microsoftin legendaarinen perustaja Bill Gates esitti oman perusteellisen varoituksensa pari viikkoa sitten julkaisemassaan esseessä.
Gates muistuttaa, että tekoälyn murros on tapahtumassa paljon nopeammin kuin mikään aiempi teknologinen vallankumous.
Gatesin mukaan ihmiset aliarvioivat tekoälyvallankumouksen vaikutukset.
– Parhaassakin tapauksessa siirtymä uuteen tekoälyn aikakauteen tulee olemaan myrskyisimpiä ihmiskunnan historiassa, Gates kirjoittaa.
Hän moittii johtajia, asiantuntijoita ja yhteisöjä siitä, ettei niillä ole mitään suunnitelmaa varautumiseen.
Gates varoittaa muun muassa, että työpaikkojen katoaminen tulee olemaan hyvin nopeaa ja että uudenlaisia työpaikkoja syntyy paljon vähemmän kuin vanhoja katoaa. Hän sanoo myös, että tekoäly mahdollistaa esimerkiksi terroristeille aivan uudenlaiset mahdollisuudet tehdä laajaa tuhoa.
Gates uskoo, että tekoäly voi mahdollistaa ihmiskunnalle myös ennennäkemättömän paljon hyvää. Vauhti, jolla ongelmat tulevat nyt päälle, on kuitenkin vaarallinen.
Geopoliittiset ja taloudelliset kannustimet vain ajavat vauhdin kiihdyttämistä, Gates pelkää.