Deepfakes op het internet zijn een groeiend gevaar voor onze democratie

Deepfake artikel FD

Terwijl Nederlandse politici zich zorgen maken over het gebruik van slimme algoritmes, denderen technologische ontwikkelingen in een rap tempo voort. Zo maakt het Amerikaanse Congres zich druk over de opmars van zogeheten deepfakes.

Dit artikel verscheen op woensdag 26 juni 2019 in Het Financieele Dagblad.

Slimme technologie

Deze slimme technologie maakt het mogelijk om online snel en goedkoop echte mensen te veranderen in niet van echt te onderscheiden digitale poppen, die je de meest vreemde dingen in de mond kunt leggen. Het maken van een nepvideo wordt met deepfakes net zo makkelijk als het vertellen van een leugen. Nu de campagnemachines voor de Amerikaanse presidentsverkiezingen van 2020 al warmdraaien, is de vraag of spindokters de verleiding kunnen weerstaan deepfake-technologie buiten de deur te houden. Deepfakes kunnen een grote bedreiging zijn voor onze democratie. Dat vraagt om herwaardering van objectieve journalistiek.

Facebook publiceerde afgelopen maand een video van een interview met Nancy Pelosi, de Democratische voorzitter in het Amerikaanse Huis van Afgevaardigden, in een ogenschijnlijk benevelde toestand. In deze nepvariant van het originele interview is het beeld een fractie van een seconde vertraagd. Pelosi’s stemgeluid was ook aangepast. Zo leek het alsof ze te diep in het glaasje had gekeken. De video werd massaal gedeeld via sociale media. Zo´n nep-interview verspreidt zich razendsnel waarbij de waarheid een leugen nauwelijks nog in kan halen. En dat heeft verstrekkende gevolgen. Zo leidden eenvoudig vervalste beelden van de vermeende ontvoering van een kind tot publieke lynchings in India. Een deepfake video van president Ali Bongo van Gabon stond aan de basis van een militaire coupe en een daarmee gepaard gaande politieke crisis.

Gevaar

Dankzij deepfake-technologie ontstaat een wereld waarin we onze ogen en oren niet langer kunnen vertrouwen. Het grote gevaar is niet zozeer dat de leugen tot waarheid wordt verheven, maar dat de geloofwaardigheid van de waarheid wordt aangetast. Er is niets meer echt in een toekomst waarin alles en iedereen kan worden nagemaakt. Alles kan nu eenmaal worden afgedaan met een leugen of nepnieuws. Nu al hoor je president Trump regelmatig spreken van nepnieuws. Is dat zo of niet? Het valt nauwelijks nog te controleren. Wie of wat kunnden we dan nog vertrouwen?

In haar boek ‘The Origins of Totalitarianism’ (1951) schreef politiek-wetenschapper Hannah Arendt: ‘Het ideale onderwerp van totalitaire heerschappij is niet de overtuigde nazi of de toegewijde communist, maar mensen voor wie het onderscheid tussen feit en fictie, waar en onwaar, niet langer bestaat’. Wantrouwen is een voorwaarde voor autoritaire regimes. Nu al zegt 30% van de Amerikanen dat grote hoeveelheden nepnieuws voor hen aanleiding zijn om aanzienlijk minder nieuws te consumeren. Zo ontstaat een apathie voor de realiteit. Met de inzet van deepfake-technologie wordt flink geϊnvesteerd in het wantrouwen van burgers. Op die manier komen de fundamenten van onze democratie zwaar onder druk te staan.

Fact checking

Er moet dus snel wat gebeuren. Aloude kernwaarden als objectiviteit, onafhankelijkheid en betrouwbaarheid zijn belangrijker dan ooit in dit tijdperk van post-realiteit. Dat vereist herwaardering van objectieve journalistiek. Journalisten moeten flink gaan investeren in fact checkers. De recente rol van burgerjournalistiek netwerk Bellingcat in het onderzoek naar het neerhalen van de MH17-vlucht laat zien hoe digitaal bewijsmateriaal kan bijdragen aan het boven tafel krijgen van de waarheid. 3DUniversum, een start-up ontstaan uit de Universiteit van Amsterdam en de Universiteit van Californië in Berkely, werkt aan een antivirus voor deepfakes. Nepvideo’s kunnen straks herkend worden op basis van het knipperen van je ogen. Een app als TruPic valideert beelden op waarheidskenmerken voordat het definitief in de blockchain geregistreerd wordt.

Wetsvoorstel

Technologie moet bestreden worden met technologie. Dat kan op initiatief van objectieve journalistenplatformen binnen heldere kaders opgesteld door de overheid. Daarnaast is een gezonde opvoeding in mediawijsheid van belang. Eind vorige week vergaderde de Europese Raad over de invloed van deepfakes en nepnieuws op de afgelopen Europese verkiezingen. In de Verenigde Staten is inmiddels een wetsvoorstel ingediend om de impact van deepfake-technologie in te perken.

In een tijdperk waarin de nieuwe generatie met het internet is geboren, heeft het weinig zin technologie in te perken. Technologie is niet goed of fout. Het gaat erom, hoe je ermee omgaat. En dat moeten we alleen op een goede manier doen, zodat onze zwaarbevochten democratie overeind blijft.

Kan ik je verder helpen?