Süvavõltsingud

Ajalugu

Pildimanipulatsioon on olnud olemas juba mõnda aega. Ajalooliselt on seda kasutanud näiteks diktaatorid, aga ka kunstnikud, et muuta inimeste reaalsustaju: alates Stalini poolt ebasoosingusse sattunud inimeste eemaldamisest kuni surnud pereliikme kujutise lisamiseni pereportreele. Käärid, liim ja kannatlikkus olid fototöötluse peamised koostisosad enne seda, kui sõna photoshop üldse loodud oli. 

Loomulikult muutus kõik, kui valemisse lisandusid arvutid ning võimalikuks said piltide digitaalne manipuleerimine. Tööriistade arenemise ja lihtsamini kasutatavaks muutumise tagajärjel kasvas ringluses olevate võltsitud piltide arv – väljapressimisest meemideni. Nende loomisel ja levitamisel mängis suurt rolli internet.

Võltsitud uudiste arv on tõusuteel ja Photoshop inimestele juba tuttav, mistõttu võib internetis nähtava sisu hindamine olla keeruline. Video näis olevat viimane meedium, mis võis omamoodi enda eest rääkida. Seda enne, kui tehnoloogia jõudis järele ja tõi kaasa deepfake'ide ajastu.

Süvavõltsing (deepfake) on video- või helisalvestis, mis asendab kellegi näo või hääle kellegi teise näo või häälega nii, et see mõjub tõelisena. (Cambridge'i sõnaraamat)

Süvavõltsingud on olnud olemas juba 90ndatest alates, kuid suurema osa ajast nägid nad kohutavad välja. Arvutiteadlased panid aluse edasiseks arenguks, kuid veenvamate süvavõltsingute tekkeks oli vaja edasiminekuid töötlemisvõimsuses, tehisintellektis ja muudes tehnoloogiates. 

Kuigi on raske öelda, kas täiuslik süvavõltsing on juba olemas, on uuemad katsed petnud paljusid inimesi. Ühiskonnad ja valitsused püüavad leppida süvavõltsingute arendamise eetiliste, poliitiliste ja ajakirjanduslike tagajärgedega.

Kuidas süvavõltsingud töötavad?

Põhimõtteliselt kasutavad süvavõltsingud sarnast tehnoloogiat nagu Snapchati või Instagrami filtrid. Tarkvara skaneerib inimese nägu ja arvutab välja, milline osa pildist kujutab millist kehaosa. Teisisõnu, arvuti saab aru, milline nägu välja näeb. Kui rakendus on leidnud näiteks su silmad ja nina, suudab ta mõista, millal sa pilgutad silmi ja kuidas su huuled kõneledes liiguvad. 

Süvavõltsingud kasutavad masinõpet, et tõlgendada, kuidas inimene liigub ja käitub, ning katab selle teise inimese, näiteks kuulsuse pildiga. Selleks tuleb masinõppe algoritmi treenida võimalikult suure hulga lähtevideomaterjaliga inimesest, mida kellelegi teisele "üle kantakse". Kui inimene silmi pilgutab, kasutab tehisintellekt allikmaterjali, et panna ka süvavõltsingu kujutis silmi pilgutama.

• Vaadake paar minutit süvavõltsingut, mis kujutab Hollandi peaministrit Mark Ruttet, kes vabandab, et ta ei ole kliimakriisi lahendamisel juhtrolli võtnud (lülitage seadetes sisse ingliskeelsed subtiitrid).
  Beste Mark Rutte, zo klink je als je #klimaatleiderschap toont
• Video sellest, mis oleks juhtunud, kui Apollo 11 maandumine Kuul oleks ebaõnnestunud, koos interaktiivse viktoriiniga, kus küsitakse, millised osad olid tõelised või võltsitud.
  https://moondisaster.org/film

Isegi kui inimene videos näeb piisavalt veenev välja, osutub sageli probleemiks tema hääle õigeks saamine. Varem imiteerisid häälenäitlejad isikut, keda sooviti kujutada. Kuid nüüd kasutatakse tehisintellekti ka selleks, et luua süvavõltsingutele hääli. Häälsalvestusi skaneerides saab AI-d koolitada kasutama kellegi häält, et öelda uusi asju, mida see inimene pole kunagi öelnud – samamoodi nagu kasutatakse videomaterjali, et panna kellegi kujutis tegema uusi asju.

Jay-Z räpib monoloogi "To Be, Or Not To Be" näidendist “Hamlet” 

Mõned häälsünteesi näited

Kuna süvavõltsitud videoid ja hääli on võimalik omavahel kombineerida, muutub ehtsa ja võltsitud sisu eristamine üha keerulisemaks. Nagu me varem nägime, saab süvavõltsingut kasutada võimulolijate, näiteks peaminister Mark Rutte kehastamiseks. Süvavõltsingu tegi üks ajaleht, väites sealjuures, et tegemist on süvavõltsinguga, ning kirjeldades selle loomisprotsessi. Kuid kujutage ette süvavõltsingut, milles mõni poliitiline liider kuulutab välja tuumarünnaku ilma sarnase avalduseta – tagajärjed võivad olla märkimisväärsed. 

Süvavõltsingutega seotud eetilised küsimused

Süvavõltsinguid on kasutatud väljapressimiseks, pettuste toimepanekuks ja võltsitud uudiste levitamiseks. Samuti on seda tehnoloogiat kasutatud pornograafilise materjali loomiseks kuulsuste kohta ja nn "kättemaksuporno" loomiseks.   

Kesk-Aafrikas asuvas Gaboni riigis panid kuulujutud sellest, et presidenti kujutav video on süvavõltsing, paljud inimesed uskuma, et president on tegelikult surnud. Presidendil oli olnud insult, mis seletas, miks ta videos veidi “imelik” välja nägi. Spekulatsioonidel olid aga ka tegelikud tagajärjed: tekkinud poleemika õhutas juba varem tekkinud pingeid ning viis riigipöördekatseni.

Kuid süvavõltsingute suurim oht ei ole ehk isegi mitte valeuudiste levik. Kui iga video võib olla võltsitud, annab see väljapääsu inimestele, kes on videolindile jäädvustatud midagi valesti tehes. Seda nimetatakse usutavaks eitatavuseks (plausible deniability), mis tähendab võimalust eitada vastutust kurjade tegude eest. Süvavõltsingud tõstatavad filosoofilise küsimuse: kuidas saame kindlaks teha, mis on tõsi, kui kõike saab võltsida?

Esimene viis selle uue tehnoloogia kahjulike mõjude vastu võitlemiseks on teadlikkuse ja teadmiste levitamine süvavõltsingute kohta. Kui inimesed mõistavad, kuivõrd veenvad süvavõltsingud olla võivad, suhtuvad nad ilmselt kriitilisemalt videotesse, mida veebis näevad. Teadmised süvavõltsingutest on muutumas meediapädevuse kindlaks osaks.

Kuna süvavõltsingutega seotud tehnoloogia areneb, siis on sunnitud arenema ka tehnoloogia, mille abil saab tuvastada, kas video on tehisintellekti poolt genereeritud või mitte. Tegemist on lõputu kassi-hiire mänguga, mille käigus süvavõltsingute loojad teevad alati järgmise sammu, samal ajal kui tuvastustehnoloogiad üritavad edasiminekutega sammu pidada.

Videosisu kontrollimise probleemile võib lahendust pakkuda plokiahel (blockchain).  Tembeldades video automaatselt "vesimärgiga", mis registreeritakse plokiahelas filmimise ajal, saab "vesimärke" hiljem kasutada tõendina, et videolõik on tõeline. Kõik, mida inimesed või meedia peavad tegema, et teha kindlaks, kas video on võltsitud, on kontrollida, kas sellel on vesimärk.

Õpilased väitlevad teemal “Süvavõltsingud peaksid olema keelatud” ning arutavad poolt- ja vastuargumente, sellise seadusandluse mõjusid ning alternatiivseid lahendusi, kuidas süvavõltsingutega toime tulla.

• Millised on süvavõltsingute loomise ja kasutamisega seotud eetilised tagajärjed? 
• Kas süvavõltsingute loomine peaks olema keelatud?
• Kes vastutab süvavõltsingute leviku reguleerimise eest sotsiaalmeedias? 
• Kes peaks kindlustama, et tehnoloogia areneb võimalikult kahjutul viisil? 
• Kuidas peaksid õigussüsteemid toime tulema usutava eitatavusega, mis süvavõltsingutega kaasneb?