Tekoäly on kuin ydinenergia: sitä voidaan käyttää ihmiskunnan hyväksi tai sitä voidaan käyttää tuhoamaan. Asiantuntijat varoittavat ajattelukoneiden käyttämisestä sotien taistelemiseen.
Uusi venäläinen päätankki T-14 "Armata" näyttää olevan vedetty nykyaikaisesta tietokonepelistä. Mutta tämä ei ole fantasia, vaan Andrey Terlikovin ohjauksessa työskentelevien venäläisten insinöörien työ.
"Ajoneuvon tietokonejärjestelmä hallitsee suurimman osan teknisistä toiminnoista, minkä ansiosta miehistö voi keskittyä tärkeimpien tehtävien suorittamiseen", apulaispääsuunnittelija selitti AFP:n toimittajalle. säiliö Ilja Demtšenko. "Miehistölle se on kuin videopeli, sinun tarvitsee vain tehdä viimeisiä liikkeitä ja tehdä päätöksiä."
Panssarivaunussa on kauko-ohjattava torni, tietokonejärjestelmä ja uusimmat aktiiviset puolustusjärjestelmät. Se luotiin vaarallista vastakkainasettelua varten Venäjän ja lännen välillä, ja sen tarkoituksena on korostaa Venäjän sotateollisuuden nykyaikaistamistahtoa. Kun se esitettiin ensimmäistä kertaa Moskovan voittoparaatissa 9. toukokuuta, se hajosi ja jouduttiin hinaamaan.
Mutta kansainvälisten turvallisuusasiantuntijoiden suurin huolenaihe ei ollut niinkään modernin synty aseetkuinka monta väitettä suunnittelijoilta, että tankista voidaan tehdä täysin automaattinen taisteluajoneuvo.
Kolmas vallankumous
Aseistettuja miehittämättömiä ajoneuvoja on viime vuosina alkanut esiintyä taistelukentällä yhä enemmän. Tietenkin niitä käytetään murhaan, mutta ne ovat vain ihmisten päätösten toteuttajia. Tällaista lentokonetta ohjaava lentäjä istuu huoneessa tuhansien kilometrien päässä hyökkäävästä koneesta ja painaa painikkeita vapauttaen kuoria.
Mutta tämä voi pian muuttua. Tekoälyä voidaan alkaa käyttää ihmisten tekemien päätösten tekemiseen. Tekoälyn kehittämistyö mahdollistaa jo nyt sellaisten laitteiden valmistuksen, joilla voidaan harjoittaa tiedustelua, luoda karttoja, ohjata autojen ja lentokoneiden toimintaa ja jopa osallistua strategiseen suunnitteluun. Vielä vähän, ja taistelukentälle tulee ihmisten sijasta aseistettujen robottien armeijat. Sotilaalliset asiantuntijat työskentelevät tällaisten järjestelmien parissa, joita kutsutaan "tappaville autonomisille asejärjestelmille" (LAWS - lethal autonomous ase systems).
"Teknologia on päässyt siihen pisteeseen, että nämä järjestelmät voidaan ottaa käyttöön vuodessa, ei vuosissa", vahvistaa Stuart Russell, tietojenkäsittelytieteilijä Kalifornian yliopistosta Berkeleystä. Panokset ovat korkealla: maanpuolustuksen asiantuntijat ovat jo kutsuneet LAIT sodankäynnin kolmanneksi vallankumoukseksi. Ensimmäiset olivat ruudin ja ydinaseiden keksintö. Autonomiset aseet valitsevat kohteen ilman ihmisen väliintuloa, siitä tulee tappava, jos kohteena ovat ihmiset.
LAWS-kategoriaan kuuluu kaksi US Defense Advanced Research Projects Agencyn (DARPA) hanketta. Nämä ovat Fast Lightweight Autonomy (FLA) ja Collaborative Operations in Denied Environment (CODE). Ensimmäinen koskee sellaisen pienen helikopterin kehittämistä, joka voi toimia täysin itsenäisesti kaupunkiympäristössä ja rakennusten sisällä. Toinen puolestaan on luoda autonomisia lentokoneita, jotka toimivat taistelutehtävien kaikissa vaiheissa etsinnästä, valvonnasta, kohteen tunnistamisesta hyökkäykseen. Järjestelmä on suunniteltu toimimaan tilanteissa, joissa radiosignaalin jumiutumisesta johtuen kommunikointi toimintaa ohjaavien ihmisten kanssa tulee mahdottomaksi. Todennäköisesti myös muut maat ovat mukana vastaavissa salaisissa hankkeissa, joilla on samat tavoitteet.
Kansainvälisessä humanitaarisessa oikeudessa, joka säätelee tapoja hyökätä ihmisiin vihollisuuksien aikana, ei ole erityisiä säännöksiä autonomisista järjestelmistä. Asiantuntijoiden mukaan tähän voidaan kuitenkin soveltaa vuoden 1949 Geneven sopimusta, jonka mukaan vihollisuuksien aikana tapahtuvan hyökkäyksen tulee täyttää kolme kriteeriä: sotilaallinen välttämättömyys; sotilaiden ja siviilien, jotka eivät osallistu konfliktiin, välinen ero; sekä mahdollisten sotilaallisten kohteiden ja vahinkojen välisen suhteen säilyttäminen. Merkittävä on myös vuoden 1907 Martensin lauseke, joka kieltää aseiden käytön "inhimillisyyden periaatteiden ja yleisen omantunnon vaatimusten vastaisesti". Tekoälyjärjestelmä ei periaatteessa pysty tekemään tällaisia subjektiivisia arvioita.
Vanhojen konfliktien uusi sisältö
Puolet ongelmasta, jos robotit taistelevat robottien kanssa. Mutta nykyaikaisen valtioiden välisen sivistyksen epätasa-arvon vuoksi tämä on mahdotonta. Tietyntyyppisiä tavanomaisia aseita koskevaa YK:n yleissopimusta koskeva työ huipentui Genevessä huhtikuussa pidettyihin kokouksiin. Aloitteen tavoitteena on luoda kansainvälinen sopimus, joka kieltää tai ainakin rajoittaa autonomisten asejärjestelmien käyttöä. Ennakkotapaus tällaisen asiakirjan luomiselle voisi olla sokaisevien laseraseiden käytön kielto, joka hyväksyttiin vuonna 1995.
Kielto käyttää omalla älykkyydellä varustettuja robotteja sodassa on kuitenkin vielä kaukana. Se, että YK päätti viime vuoden marraskuussa ja tämän vuoden huhtikuussa keskustella tästä asiasta, osoittaa mahdollisuutta päästä sopimukseen tällä alalla.
Mutta voi tapahtua (kansainvälinen ilmapiiri tulee olemaan isossa roolissa lähivuosina), että tekoälyn ohjaamien aseiden käyttökieltoa ei oteta käyttöön ja status quon jatkuminen johtaa uusiin aseisiin. rotu.
"Autonomisten aseiden käyttö tuo mukanaan täysin uuden sisällön aseellisten selkkausten oikeuteen, kansainvälisen yhteisön hyväksymiin normeihin", professori Peter Asaro Stanfordin yliopiston Internet- ja yhteiskuntakeskuksesta selitti huhtikuun kokouksessa Genevessä. Yhä suositumpi uskomus on, että robottien ei pitäisi antaa tappaa ilman ihmisen hallintaa.
Huhtikuun kokouksissa useat maat vaativat välitöntä kansainvälistä kieltoa autonomisten aseiden käytölle. Japani, Saksa ja Kroatia vastustivat voimakkaasti ihmisten tappamiseen tarkoitettujen automaattien luomista. Saksalaiset julistivat, että "he eivät koskaan ole samaa mieltä siitä, että päätöksen elämästä ja kuolemasta tekee vain autonominen järjestelmä".
He muistavat täydellisesti DDR:ssä käytetyt automaattiset rajavartiointijärjestelmät: rajalle asennetut liiketunnistimilla varustetut konekiväärit ampuivat kaikkeen, mikä liikkui rajoitusvyöhykkeellä, ei väliä oliko se henkilö vai eläin. Japani puolestaan sanoi, että "ei ole suunnitelmia luoda robotteja, jotka voivat tappaa, mutta joita ei yhdistetä henkilöön, ei."
"Jotkut maat, kuten Etelä-Korea, jotka eivät ole koskaan aiemmin protestoineet voimakkaasti tällaisia aseita vastaan, ovat nyt muuttamassa mieltään", sanoo professori Asaro. – Uskon, että äärimmäisissä tapauksissa robotteja ei yksinkertaisesti voi käyttää ilman ihmisen valvontaa, siitä vallitsee yksimielisyys. Mielipide-erot ovat kuitenkin edelleen olemassa, ja paljon on vielä tehtävää erityisesti oikeudellisissa kysymyksissä. Uskon, että ihmisellä pitäisi olla paljon hallintaa hyökkäyksessä: kyettävä käynnistämään tai peruuttamaan se."
Yhdysvallat, Britannia ja Israel, kolme aktiivisinta itsenäisten taistelujärjestelmien kehittämisessä maata, totesivat huhtikuun kokouksissa, että uutta asiakirjaa ei tarvita, koska kaikki heidän työssään olevat asejärjestelmät ovat kansainvälisen oikeuden mukaisia. Melkein kaikki valtiot, jotka ovat sopimusvaltioita tiettyjä tavanomaisia aseita koskevan yleissopimuksen osapuolina, ovat yhtä mieltä siitä, että aseiden ihmisten hallintaa on lisättävä. Huhtikuun keskustelussa "olennaisen hallinnan" määritelmä (eli ihmisten riittävä osallistuminen sotilaiden tappamiseen taistelukentällä) osoittautui kuitenkin erittäin vaikeaksi muotoiltavaksi.
ihmisen kone
Ehkä avain ongelman ratkaisemiseen on sellaisen robotin luominen, joka ajattelee ja toimii ihmisenä. Carnegie Mellonin yliopiston professori Manuela Veloson johtama tiimi on työskennellyt tällaisen koneen parissa monta vuotta.
”Ihmiset yhdistävät rauhallisesti havainnoinnin, tiedon ja toiminnan. Käytämme "antureitamme" tilanteen arvioimiseen, aivoja ajattelemaan ja valitsemaan toimintatapa ja kehon suorittamaan useimmat toiminnot - selittää professori Veloso. ”Ryhmäni yrittää luoda robotteja, jotka tekevät saman asian: koneita, jotka toimivat monimutkaisten algoritmien kanssa ja toimilaitteita, jotka ohjaavat mekanismeja. Heidän aistielimiä ovat anturit, mikrofonit, kamerat, skannerit. Automaattiset robotit eroavat kuitenkin taidoiltaan ihmisistä. Roboteilla on aina kognitiivisia rajoituksia. He eivät voi nähdä koko kuvaa, tunnistaa tai käyttää mitään esinettä, ymmärtää kaikkia suullisia tai kirjallisia lausuntoja, navigoida millään pinnalla. Mielestäni robottien pitäisi vain täydentää ihmisiä, ei korvata heitä."
Professori Veloson ryhmä on viime vuosina tutkinut, miten robotit ja ihmiset voivat toimia yhdessä. He loivat CoBot-robotin: siinä on pyörät, joiden avulla voit kiertää esteitä, kamerajärjestelmä, lidar, tietokone tietojen käsittelyä varten, näyttö viestintää varten ja kori erilaisten esineiden siirtämistä varten.
"Ymmärsimme alusta asti, kuinka vaikeaa on mukauttaa robotteja todelliseen ympäristöön", Manuela Veloso muistelee. CoBot ei tunnistanut jokaista matkalla tavattua esinettä, eikä käsien puute antanut sen avata ovia. Hän saattoi käyttää puhetta kommunikoidakseen, mutta hän ei ymmärtänyt kaikkia puhuttuja sanoja.
Tämä ei pelottanut tutkijoita, he antoivat robotille mahdollisuuden etsiä apua ihmisiltä tai etsiä vastauksia Internetistä. CoBot on oppinut ohjaamaan vieraita ympäri rakennusta ja samalla keräämään tarvittavaa tietoa matkan varrelta. Koneet tekivät yksityiskohtaisen kartan paikoista, mitattuista lämpötila-, kosteus-, ääni- ja valotasoista sekä WiFi-signaalin voimakkuudesta. Tiedemiehet ovat opettaneet robotteja avaamaan ovia, painamaan hissin painikkeita, poimimaan esineitä ja osallistumaan keskusteluihin.
"Esteet, jotka on vielä voitettava, jotta ihmiset ja robotit voisivat elää turvallisesti rinnakkain", Veloso sanoo. ”Ryhmämme tutkii, kuinka ihmiset ja robotit voivat oppia kommunikoimaan helpommin eleiden ja puhutun kielen avulla. Olemme myös kiinnostuneita siitä, miten robotin ulkonäkö vaikuttaa ihmisiin, erityisesti miten he reagoivat koneen sisäisestä tilasta ilmoittaviin merkkivaloihin. Paljon on vielä tekemättä, mutta näen tulevaisuuden positiivisessa valossa: ihmiset ja robotit voivat täydentää toisiaan, auttaa toisiaan.
Mutta onko se välttämätöntä taistelukentällä?
Syytä mediaa
Tekoälyn käyttö sodassa on vain osa sen mahdollisuuksista. Keskustelua robottien roolista nykymaailmassa ja niiden tulevaisuudesta on käyty vuosia.
Bristolin yliopiston robotiikan professori Sabine Hauert uskoo, että autonomisten puolustusjärjestelmien pelko johtuu yleisesti tekoälyn pelosta. Media, joka painotti liikaa tekoälyn eksistentiaalista vaaraa ihmiskunnalle, vaikutti osaltaan kielteiseen suhtautumiseen tekoälyä kohtaan. Ihmiset ihmettelevät, ottavatko robotit heidän työpaikkansa. Siksi vaaditaan lakeja, jotka pitävät teknologian hallinnassa.
"Olemme kollegani kanssa selittäneet monissa kokouksissa, että robotit eivät ole ehdoton paha, että ne voivat auttaa iäkkäitä parantamaan sairaanhoidon tasoa", Hauer selittää. ”Robotit tekevät työstä turvallisempaa, tuottavampaa, puhumattakaan valtamerten syvyyksiin tai vaarallisiin paikkoihin pääsemisestä. Asiantuntijoiden tulee ryhtyä sanansaattajiksi, johtaa vakavaa keskustelua sosiaalisen median avulla.”
Tutkija korostaa, että robottien luomisen parissa työskentelevien tulisi käydä keskustelua vaikutusvaltaisten kommentaattorien, kuten professori Stephen Hawkingin tai Elon Muskin kanssa, jotka varoittavat tekoälyn kehittymisestä. Teemaa tulisi kuulla tärkeimmissä kansainvälisissä kokouksissa, kuten Davosin talousfoorumissa.
"Tekoälyllä on valtava potentiaali nopeuttaa tieteellisiä löytöjä biologiassa, lääketieteessä ja muuttaa terveydenhuoltojärjestelmää", lisää biotekniikan, genetiikan ja tietojenkäsittelytieteen asiantuntija, professori Russ Altman (Russ Altman) Stanfordin yliopistosta. "Tekoäly auttaa kehittämään useita uusia toimialoja: genomiikkaa, proteomiikkaa (proteiinien tutkimusta), metabolomiikkaa (aineenvaihduntatuotteita tutkivaa) sekä sähköisten terveyskorttien ja kaikenlaisten sairauksien oireita havaitsevien ilmaisimien luomista."