Hoe gaan we om met de opkomst van deepfakes?

De opkomst van deepfakes maakt de verspreiding van nepnieuws makkelijker. Hoe gaan we er als samenleving mee om dat we onze eigen oren en ogen niet meer kunnen geloven?

Freddie Mercury die anno 2021 in het Koreaans Bohemian Rhapsody zingt of de broer van Thierry Baudet die de draak steekt met de politicus: het zijn recente voorbeelden van zogenoemde ‘deepfakes’, nepinformatie in de vorm van video, tekst of geluid gemaakt door zelflerende algoritmes. De technologie achter deze fragmenten wordt steeds beter, waardoor echt van nep lastiger te onderscheiden wordt.

In maart vorig jaar – het begin van de coronacrisis – bleek uit onderzoek van Pointer al dat de pandemie resulteerde in een toename aan nepnieuws. De opkomst van deepfakes biedt nieuwe mogelijkheden aan verspreiders daarvan, en kan daarmee een gevaarlijke troef zijn voor kwaadwillenden. Hoe gaan we daar als samenleving mee om?

Recent onderzoek van de UvA toont aan dat een meerderheid van de mensen het verschil tussen een echte video en een deepfake niet ziet. Van de 278 deelnemers, waarvan de helft een deepfake te zien kreeg, twijfelde er slechts twaalf aan de geloofwaardigheid van de video. En de technologie achter de misleidende media wordt in snel tempo beter – het zal dus alleen maar realistischer worden.

Wapenwedloop tussen algoritmes

Volgens datzelfde onderzoek zijn algoritmes nog wél in staat om deepfakes te herkennen. Maar niet voor lang, zegt hoogleraar kunstmatige intelligentie Jan Broersen. ‘Door algoritmes in te zetten in de strijd tegen deepfakes kan een wapenwedloop tussen algoritmes ontstaan, waarbij deepfakes steeds beter worden in het omzeilen van herkenningssoftware en vice versa. In eerste instantie zal het dus goed werken, maar dat effect zal uiteindelijk verdwijnen.’

‘Nieuwe wetgeving heeft geen zin’

Wetgeving rondom de nieuwe technologie zal daarom weinig uithalen, denkt Broersen. ‘Je kunt wel nieuwe wetten invoeren, maar als machines én mensen het verschil niet meer zien, heeft dat geen zin.’ Toch roept bijvoorbeeld GroenLinks wel op tot het invoeren van nieuwe wetgeving, omdat huidige wetten niet altijd duidelijkheid zouden bieden op het gebied van deepfakes.  

Maar Nani Jansen Reventlow, directeur van het Digital Freedom Fund (een Europese organisatie voor digitale rechten), zegt juist dat de oplossing in bestaande wetgeving gezocht moet worden. Bestaande juridische mogelijkheden zijn onder meer portretrecht, auteursrecht en strafrecht. ‘Het bestrijden van deepfakes via de wet moet zich richten op situaties waarin er duidelijk schade aan iemand wordt toegebracht. Daar bestaan al veel ingangspunten voor. We moeten bekijken of bestaande regels voldoen, voordat nieuwe regelgeving wordt geformuleerd.’

Nepporno

Met wetgeving loop je immers ook het risico de vrijheid van meningsuiting in te perken, zegt Reventlow. De eerdergenoemde voorbeelden – Freddie Mercury en de broer van Thierry Baudet – kunnen beschouwd worden als artistieke of satirische toepassingen. Tegelijkertijd is de vraag hoezeer dat opweegt tegen schadelijke toepassingen als nepporno of politieke beïnvloeding.

Volgens Nadia Metoui, een van de wetenschappers van het eerdergenoemde UvA-onderzoek, is de technologie achter deepfakes ook waardevol in de medische wereld. Bijvoorbeeld bij het herkennen van ziektes door kunstmatig intelligente systemen, waar een hoop data voor nodig is. ‘Deepfakes kunnen realistische data produceren om die systemen te voeden.’

‘Mensen verliezen hun geloof in van alles’

Deepfakes zijn niet inherent slecht, wil ze er maar mee zeggen. Maar schadelijke toepassingen ervan moeten wat haar betreft wél voorkomen worden. Dat kan inderdaad in een wapenwedloop tussen algoritmes resulteren, zegt ze, maar dat is geen onbekend fenomeen. ‘Dat probleem heb je nu al in cybersecurity, waar kwaadwillende hackers tegenover ethische hackers staan. Het blijft een kat-en-muisspel.’

Eigen waarheid

Maar een wereld waarin we niet meer kunnen geloven wat we zien en horen – wat betekent dat voor de samenleving? Tech-expert en schrijver van het boek Deepfake Technologie: The Infocalypse Jarno Duursma vreest ‘algehele apathie’ tegenover feiten. ‘Bij elk nieuwsfeit zullen mensen de echtheid schouderophalend betwijfelen. We belanden in een post-reality wereld, waarbij iedereen een eigen waarheid kiest en daar feiten omheen verzamelt. Of die nou echt of nep zijn.’

Dat is inderdaad niet onwaarschijnlijk, zegt ook hoogleraar Broersen. ‘Mensen verliezen hun geloof al in van alles. Dat zal alleen maar verergeren.’ Er zullen nieuwe manieren nodig zijn om waarheden vast te stellen. ‘De enige oplossing die ik kan bedenken is dat iedereen continu zijn of haar eigen data bijhoudt. Het is een ver toekomstbeeld, hoop ik, maar ik denk wel dat we daar naartoe gaan.’

‘Life logging’, noemde Duursma dat in 2019 al, in zijn boek Machines met Verbeeldingskracht. Maar er zijn valkuilen: je weet nooit waar die gegevens in de toekomst voor gebruikt zullen worden. ‘Denk aan overheden die jouw ‘database’ willen inzien met een gerechtelijk bevel, of commerciële bedrijven die gegevens doorverkopen.’

Er is dus geen eenduidig antwoord op de vraag wat deepfakes voor de samenleving zullen beteken, en of wetgeving enige vorm van soelaas kan bieden. Maar één ding is zeker, zegt Duursma: ‘Niemand kan het tegenhouden.’