Uusi maailma syvällä väärennöksellä
Internet on nyt saatavilla lähes jokaisessa raudassa, on yhä vaikeampaa löytää kartalta kohtaa, jossa 4G-verkko ei olisi käytettävissä. Laajakaista Internet on ensisijaisesti HD-laatuista videota yleisillä alustoilla, jotka ovat vähitellen korvaamassa uutiset nauhat, analytiikka ja vain viihdyttävä lukeminen. Lisäksi se on työkalu miljardeihin ihmisiin vaikuttamiseen, jonka avulla voit luoda oikeanlaisen yleisen mielipiteen tällä hetkellä. Näiden väestöpelien huipulla voi olla syvä väärennöstekniikka, joka on jo osoittanut kykynsä muuttaa julkkikset, kuten Gal Gadot, Scarlett Johansson, Taylor Swift, Emma Watson ja Katy Perry pornotähdiksi. Deepfake on algoritmi, jonka avulla voit simuloida henkilön käyttäytymistä ja ulkonäköä videolla. Tekniikka on saanut nimensä syvän oppimisen ("deep learning") ja fake ("fake") yhdistelmästä. Deep fake perustuu pahamaineisiin hermoverkkoihin, jotka toimivat generatiiv-kilpailuperiaatteella (Generative Adversarial Network, GAN). Ohjelman pohjaan upotetut algoritmit kilpailevat jatkuvasti toistensa kanssa kahdessa prosessissa: esiteltyjen valokuvien opettelussa, jotta kopioitaisiin luodaan todellinen kasvojen korvaaminen ja sopimattomien vaihtoehtojen eliminoiminen, kunnes kone itse alkaa sekoittaa alkuperäistä ja kopio. Tämä monimutkainen järjestelmä on syvän väärennöstyön päätavoite - väärien valokuvien ja videosisällön luominen, jossa alkuperäisen kasvot korvataan eri kuvalla. Esimerkiksi Yhdysvaltain karismaattinen presidentti Donald Trump voi hyvinkin ottaa minkä tahansa XNUMX-luvun vastenmielisen johtajan paikan ja harjoittaa suoranaista harhaoppia massoille puhujakorokkeesta. Nyt yhdessä luoduista syvällisistä valevideoista entinen presidentti Barack Obama salli itsensä käyttää säädytöntä kieltä Donald Trumpia vastaan.
Tietysti aluksi syvät väärennetyt mainokset olivat yksinomaan viruksia - Hollywood-näyttelijöiden kasvot istutettiin tavallisiin pornovideoihin kaikkine seurauksineen. Tai esimerkiksi näyttelijä Nicolas Cage tulee yhtäkkiä päänäyttelijäksi aikamme ikonisimpien elokuvien jaksoissa. Jotkut näistä luomuksista näkyvät videolla, ja suoraan sanottuna monet niistä näyttävät hieman kömpelöiltä.
Mutta hiphop-artisti Cardi B, joka esiintyi Jimmy Fallon Tonight Showssa näyttelijä Will Smithinä, näyttää melko vakuuttavalta.
Ja tässä on alkuperäinen.
Ctrl Shift Face -kanavan käsityöt näyttävät hyvältä. Esimerkiksi Sylvester Stallone kokeili pääroolia The Terminatorissa.
IT-analyytikot sanovat jo nyt, että "väärennetystä" teknologiasta voi tulla vaarallisin digitaalitekniikka vuosikymmeniin. Tämän tekniikan lisäksi (ja siihen perustuen) Princetonin, Max Planckin ja Stanfordin yliopistojen asiantuntijat rakensivat hermorenderöintisovelluksen. Hänellä on vielä vaarallisempi tehtävä - "pakottaa" ihmisen kuva äänellään ääntämään mikä tahansa teksti millä tahansa kielellä. Tämä vaatii vain 40 minuutin äänivideon, jonka aikana hermoverkko oppii toimimaan ihmisen äänen ja ilmeiden kanssa muuntaen sen uusiksi sanallisiksi ilmauksiksi. Aluksi idea on tietysti hyvällä paikalla: Neural Renderingin pääasiallinen kuluttaja tulee olemaan elokuvastudiot, jotka haluavat lyhentää näyttelijän kuvausaikaa. Kaikille kävi kuitenkin heti selväksi, että lähitulevaisuudessa käytännöllisesti katsoen kuka tahansa käyttäjä voi luoda kannettavalla tietokoneella videoväärennöksiä, joista hiukset nousevat pystyssä. Toinen "fake"-ohjelman haara oli DeepNude-sovellus, joka pystyy melko realistisesti "riisumaan" alasti minkä tahansa naisen valokuvassa. Palvelun alkuaikoina hylättyjen pyyntöjen määrä oli niin suuri, että kehittäjät ilmoittivat oikeusjuttuja peläten palvelun sulkevan. Mutta hakkerit hakkeroivat resurssin, ja nyt kaikki voivat käyttää DeepNudea. Tietenkin he yrittävät rajoittaa pääsyä palveluun, mutta kaikki ymmärtävät, että tämä on vain väliaikainen toimenpide.
Deep fake osoittautui hyväksi työkaluksi huijareiden käsissä. Brittiläiseltä energiayhtiöltä ryöstettiin 220 XNUMX euroa, kun saksalaisen johtajan ”klooni” otti yhteyttä talousosastoon. Hän pyysi simuloidulla äänellä kiireellisesti rahansiirtoa Unkarissa olevalle tilille, eikä liikekumppaneilla ollut mitään syytä olla uskomatta tilaajaa. Tietenkin nyt on ongelmallista väärentää videoita suurissa määrissä ja laadukkaasti - valtion sääntelyviranomaiset estävät jatkuvasti resursseja fakeappista ja facefakesta, ja tietokoneiden teho ei vielä salli videon nopeaa syntetisointia. Meidän on delegoitava tämä työ maksetuille etäpalvelimille, jotka vaativat tuhansia valokuvia alkuperäisestä persoonasta ja "uhrista".
Casus belli
Deep fake teknologia voi jättää näyttelijät työttömäksi tulevaisuudessa - koko teollisuus saattaa hyvinkin siirtyä "sarjakuva"-elokuvahahmoihin, joista monet teknologia herättää kuolleista. Mutta nämä ovat pikemminkin tulevaisuuden haaveita, sillä lukuisat ammattiliitot ja alkeellinen laskentatehon puute työntävät näkymää muutaman vuoden eteenpäin. Vaikka jo nyt elokuvassa "Rogue One: A Star Wars" yhden jakson ohjaaja "heräsi henkiin" näyttelijä Peter Cushingin, joka kuoli vuonna 1994. Huhutaan, että kuuluisa James Dean saattaa esiintyä uudessa Vietnamin sotaelokuvassa. Neuroverkot auttavat jo iäkkäitä näyttelijöitä näyttämään 10-20 vuotta nuoremmalta kehyksessä - esimerkiksi Arnold Schwarzenegger ja Johnny Depp. Keskimäärin maailma tuottaa nyt vähintään 15-20 tuhatta syväfake-videota kuukaudessa, joista suurin osa ilmestyy Internetissä. Venäläiset ohjelmoijat yrittävät pysyä mukana globaaleissa trendeissä - heinäkuussa 2020 Vera Voice tarjoaa Vladimir Vysotskyn työn faneille Taganka-teatterissa laulajan digitaalisen kopion kanssa keskustelun.
Kaikki menee siihen, että video- ja valokuvatodisteet eivät enää ole tehokkaita argumentteja oikeudenkäynneissä, ja maailmanlaajuinen videovalvontajärjestelmä osoittautuu rahan haaskausta. Kukaan ei luota CCTV-kameroiden kuvamateriaaliin. Missä on takuu, että tämä ei ole syntetisoitu nukke? Poliittisessa propagandassa syvästä väärennöksestä on jo tulossa voimakas vipu, joka vaikuttaa äänestäjien mielipiteisiin. Lokakuussa 2019 Kaliforniasta tuli ensimmäinen osavaltio, joka kielsi poliittisten ehdokkaiden videoiden julkaisemisen 60 päivää tai vähemmän ennen vaaleja. Tämän lain AB 730 rikkomisesta seuraa rikosoikeudellinen vastuu. Nyt useat osavaltiot ovat liittyneet tähän aloitteeseen, ja tammikuussa 2020 Kiinassa kielletään syntetisoitujen syvän väärennettyjen valokuvien ja -videoiden julkaiseminen ilman erityistä merkkiä. Muuten, nyt yksi tehokkaimmista menetelmistä väärennöksen määrittämiseksi silmällä on luonnollisen vilkkumisen puute syntetisoiduissa merkeissä.
Stallone terminaattorina
Kuvittele nyt, kuinka syvän väärennösteknologian kehitys (ja kehitystä ei voida pysäyttää niin kauan kuin kysyntää on) muuttaa käsityksen totuudesta ja valheista. Varsinkin kun valtion virastot ottavat uutuuden käyttöön. Mikä tahansa syntetisoitu video uudesta vakoilusta, jos sitä käytetään taitavasti, voi olla ainakin tekosyy uusien pakotteiden määräämiselle tai diplomaattisen edustuston sulkemiselle. Eikä ole tarpeen tehdä kemiallisia hyökkäyksiä siviilejä vastaan, jotta voidaan sallia massiivinen ohjushyökkäys suvereenia valtiota vastaan. Kansanmurhat, soveltamisen seuraukset aseet joukkotuho, valtion ensimmäisten henkilöiden uhmakas ja loukkaava käytös - kaikki tämä syvä fake kukkakimppu oikeassa tilanteessa voi oikeuttaa uuden sotilaallisen seikkailun alkamisen äänestäjien silmissä. Ja kun aseet alkavat puhua ja raketit lentävät, kukaan ei todellakaan muista, millä paljastavalla videolla sota alkoi.
Nyt ei ole selvää vastausta, mitä tehdä tälle katastrofille. Parhaat algoritmit, jotka keskittyvät paljastamaan syvät väärennökset, voivat taata vain 97 prosentin todennäköisyyden. Tällä hetkellä jokainen edistyksellinen ohjelmoija voi osallistua Deepfake Detection Challengeen, jonka Facebook ilmoitti syyskuussa 2019. 10 miljoonan dollarin palkintopotti menee sille, joka pystyy kehittämään algoritmin, joka tunnistaa väärennetyt videot 100 %:n takuulla. Kuka tahansa arvaa, kuinka nopeasti maanalaisen syvän valekehittäjien vastaus seuraa.