Deepfakes

History

Beeldmanipulatie bestaat al een tijdje. Historisch gezien is het gebruikt door dictators, maar ook door kunstenaars, om de perceptie van de werkelijkheid te veranderen. Van het verwijderen van mensen die bij Stalin uit de gratie waren gevallen tot het toevoegen van een foto van een overleden familielid aan een familieportret. Schaar, lijm en geduld waren de hoofdingrediënten bij het "photoshoppen" avant la lettre.

Dit veranderde natuurlijk allemaal toen computers werden ingezet en het digitaal manipuleren van afbeeldingen mogelijk werd. Naarmate de hulpmiddelen zich ontwikkelden en eenvoudiger te gebruiken werden, groeide het aantal valse afbeeldingen - van chantagemateriaal tot memes - dat in omloop was. Het internet speelde een grote rol in het proces van hun creatie en verspreiding.

Met nepnieuws in opkomst en Photoshop in ons achterhoofd kan het moeilijk zijn om de inhoud die je online ziet te beoordelen. Video leek het laatste medium dat voor zichzelf kon spreken. Dat wil zeggen, voordat de technologie ons inhaalde en het tijdperk van de deepfakes inluidde.

Een deepfake is een video- of geluidsopname die iemands gezicht of stem vervangt door die van iemand anders, op een manier die echt lijkt. (Cambridge Dictionary)

Deepfakes bestaan al sinds de jaren 90, maar het grootste deel van hun bestaan zagen ze er verschrikkelijk uit. Computerwetenschappers legden de basis voor toekomstige ontwikkelingen, maar er zou vooruitgang in rekenkracht, kunstmatige intelligentie en andere technologieën voor nodig zijn om meer overtuigende deepfakes te maken.

Hoewel het moeilijk te zeggen is of er al een perfecte deepfake bestaat, hebben recentere pogingen al veel mensen voor de gek gehouden. Samenlevingen en overheden worstelen met de ethische, politieke en journalistieke implicaties van de ontwikkeling van deepfakes.

How deepfakes work

In wezen gebruiken deepfakes dezelfde technologie als Snapchat- of Instagramfilters. Software scant het gezicht van een persoon en zoekt uit welk deel van de afbeelding welk lichaamsdeel voorstelt. Met andere woorden, de computer begrijpt hoe een gezicht eruit ziet. Zodra de app bijvoorbeeld je ogen en neus heeft gevonden, kan hij achterhalen wanneer je knippert en hoe je lippen bewegen als je spreekt.

Deepfakes gebruiken machine learning om te interpreteren hoe een acteur beweegt en zich gedraagt, en dit te overlappen met het beeld van een andere persoon, zoals een beroemdheid. Om dit te doen, moet het algoritme voor machinaal leren worden getraind met zoveel mogelijk bronvideomateriaal van de persoon die over de acteur wordt "gelegd". Als de acteur knippert, put de AI uit het bronmateriaal om het deepfake beeld ook te laten knipperen.

• Bekijk een paar minuten van een deepfake waarin de Nederlandse voormalig premier Mark Rutte zich verontschuldigt voor het niet tonen van leiderschap in de klimaatcrisis (zet Engelse ondertiteling aan in de instellingen).
  Beste Mark Rutte, zo klink je als je #klimaatleiderschap toont
• Video over wat er zou zijn gebeurd als de maanlanding van de Apollo 11 was mislukt met een interactieve quiz na de vraag welke onderdelen echt of nep waren.
  https://moondisaster.org/film

Zelfs als de persoon in de video er overtuigend genoeg uitziet, is het meestal een probleem om de stem goed te krijgen. In het verleden deden stemacteurs imitaties van de persoon die ze wilden uitbeelden. Maar nu wordt AI ook gebruikt om nepstemmen te creëren. Door stemopnames te scannen kan AI worden getraind om iemands stem te gebruiken om nieuwe dingen te zeggen die deze persoon nooit heeft gezegd - net zoals bronvideomateriaal wordt gebruikt om het beeld van iemand nieuwe dingen te laten doen.

Jay-Z rapt de "To Be, Or Not To Be" soliloquy uit Hamlet (spraaksynthese)

Enkele voorbeelden van vocale synthese

Naarmate deepfake video's en deepfake stemmen worden gecombineerd, wordt het steeds moeilijker om onderscheid te maken tussen echt en nep. Zoals we eerder zagen, kunnen deepfakes worden gebruikt om zich voor te doen als mensen met macht, zoals premier Mark Rutte. De deepfake is gemaakt door een krant, waarin staat dat de video een deepfake is en hoe hij is gemaakt. Maar stel je een deepfake voor van een politiek leider die een nucleaire aanval afkondigt zonder een verklaring dat het niet echt is.

Ethical implications of deepfakes

Deepfakes zijn gebruikt om mensen te chanteren, fraude te plegen en nepnieuws te verspreiden. De technologie is ook gebruikt om pornografisch materiaal van beroemdheden te maken en zogenaamde "wraakporno".

In het land Gabon, Centraal-Afrika, leidden geruchten over een deepfake video van de president ertoe dat veel mensen dachten dat de president echt was overleden. De president had een beroerte gehad, wat verklaarde waarom hij er niet helemaal goed uitzag in de video die leidde tot de geruchten over deepfakes. De speculatie had echter gevolgen voor het echte leven en wakkerde een vuurtje aan dat uiteindelijk leidde tot een couppoging.

Maar het grootste risico van deepfakes is misschien niet eens de verspreiding van nepnieuws. Als elke video nep zou kunnen zijn, geeft het mensen die op video betrapt zijn terwijl ze iets verkeerds doen een uitweg. Dit wordt "plausibele ontkenning" genoemd, wat betekent dat je de verantwoordelijkheid voor verwerpelijke daden kunt ontkennen. Deepfakes roepen een filosofische vraag op: hoe kunnen we bepalen wat waar is als alles vervalst kan worden?

De eerste manier om de negatieve effecten van deze nieuwe technologie aan te pakken is door er bewustzijn en kennis over te verspreiden. Als mensen weten hoe overtuigend deepfakes kunnen zijn, zullen ze minder snel elke online video voor waar aannemen. Kennis over deepfakes wordt een onderdeel van mediageletterdheid.

Naarmate de deepfake-technologie zich ontwikkelt, ontwikkelt zich ook de technologie om te detecteren of een video gegenereerd is of niet. Voor altijd een kat-en-muisspel, makers van deepfakes zijn altijd de volgende die een zet doen terwijl degenen die het proberen te detecteren proberen bij te blijven.

Tot slot zou de blockchain een oplossing kunnen bieden voor het probleem van het verifiëren van video-inhoud. Door video's tijdens het filmen automatisch te voorzien van een "watermerk" dat wordt geregistreerd in de blockchain, kunnen "watermerken" later worden gebruikt als bewijs dat een stuk video echt is. Het enige wat mensen of media hoeven te doen om te bepalen of een video nep is, is controleren of er een watermerk op staat.

Leerlingen debatteren over de motie "deepfakes moeten verboden worden" en onderzoeken argumenten voor en tegen, implicaties van zulke wetgeving en alternatieve oplossingen voor de problemen die deepfakes oproepen.

1. Wat zijn de ethische implicaties van deepfakes?
2. Moet het maken van deepfakes verboden worden?
3. Wie is verantwoordelijk voor het reguleren van de verspreiding van deepfakes op sociale media?
4. Wie moet ervoor zorgen dat technologie wordt ontwikkeld op een manier die schade tot een minimum beperkt?
5. Hoe moeten rechtssystemen omgaan met "plausibele ontkenning" veroorzaakt door deepfakes?