Autonominen ase tai autonomiset asejärjestelmät (AWS), sotilasasiantuntijat kutsuvat asetyyppejä, jotka tekevät kaiken itse: sekä löytävät kohteen että suorittavat tehtävän ilman ihmisen väliintuloa. Yksi tunnetuimmista, toistaiseksi vain scifi-elokuvista ja AWS-kirjoista, ovat niin sanotut "tappajarobotit".
Elon Musk ja yli sata muuta robotiikan asiantuntijaa kirjoittavat tappajarobottien aiheuttamasta tappavasta uhasta YK:lle osoitetussa avoimessa varoituskirjeessä. Musk, Mustafa Suleiman, nyt Googlen omistaman tekoälyyrityksen DeepMind Technologiesin perustaja ja 114 muuta asiantuntijaa 26 maasta varoittavat YK:ta, että AWS:n kilpavarustelu voi avata Pandoran lippaan, joka voi aiheuttaa arvaamatonta ja erittäin suurta vahinkoa ihmiskunnalle. . He vaativat autonomisten asejärjestelmien kehittämisen ja käyttöönoton kieltämistä.
Kaikki allekirjoittaneet ovat perehtyneet asiaan hyvin, koska he työskentelevät tekoälyn (AI) alalla. He luottavat siihen, että tappajarobottien tuomisella kehittyneiden maiden armeijoiden arsenaaliin on sama merkitys sotilasasioissa kuin ruudin ja ydinaseiden keksimisellä, joita he kutsuvat ensimmäiseksi ja toiseksi vallankumoukseksi sotilasasioissa. He uskovat, että AWS on kolmas vallankumous.
"Kun autonomiset asejärjestelmät on saatu korkealle tasolle, ne tuovat sotilaalliset konfliktit sellaiseen laajuuteen, jota ihmiskunta ei ole vielä nähnyt", kollektiivisessa kirjeessä sanotaan. Ja se tulee tapahtumaan erittäin nopealla tahdilla. AWS:stä voi tulla terroriase, ase, jota despootit ja terroristit käyttävät siviiliväestöä vastaan..."
Kirjeen kirjoittajat varoittavat vielä hypoteettisesta aseesta, joka voi tuhota ihmisiä ilman ihmisen väliintuloa. Päivä on lähellä, jolloin se siirtyy tieteiskirjallisuudesta ankaraan todellisuuteen ja pakottaa sinut etsimään vastauksia moniin monimutkaisiin kysymyksiin aina tällaisten järjestelmien turvallisesta hallinnasta moraalisiin ja eettisiin ongelmiin, jotka johtuvat "raudisesta" julmuudesta ja arvaamattomuudesta. tappavista koneista.
Musk ja kannattajat, jotka jakavat hänen kantansa AWS:n vaarasta ihmiskunnalle, korostaa, että pohdiskelulle ja keskustelulle ei ole aikaa ja että toimiin on ryhdyttävä välittömästi. "Meillä ei ole paljon aikaa", he kirjoittavat YK:lle. "Kun Pandoran lippa avautuu, sen sulkeminen on erittäin vaikeaa."
Aikaa avoimen kirjeen kirjoittamiselle ei valittu sattumalta. Asiantuntijat halusivat osua samaan aikaan Melbournessa järjestettävän kansainvälisen tekoälykonferenssin (IJCAI) alkamisen kanssa. Sen piti avata maanantaina 21. elokuuta, mutta YK päätti siirtää sen marraskuulle.
Avoimen kirjeen lopussa Elon Musk ja kollegat vaativat YK:ta kaksinkertaistamaan ponnistelut luodakseen marraskuuhun mennessä strategian, jonka on suojeltava planeetta tappajarobotteja vastaan.
Aiemmin Musk itse varoitti tekoälyn sellaisenaan työskentelyn vaaroista, koska siihen perustuvat järjestelmät voivat riistäytyä ihmisen hallinnasta. Samaan aikaan Tesla-sähkömoottorilla varustetut autot ajavat jo Yhdysvaltojen teillä miehittämättömässä tilassa, mikä ei ole tapaturmaa.