De gevaren van synthetische media voor je bedrijf

Legergroen T-shirt, baardje, serieuze blik: de president van Oekraïne, Volodymyr Zelensky, spreekt via het beeldscherm zijn leger toe. Hij heeft een opvallende boodschap: “Deze strijd is het niet waard om voor te sterven”, zegt hij. “Leg je wapens neer.” Dit filmpje van Zelensky ging in maart 2022 via Facebook de wereld over. Bijna direct kwam de waarschuwing: pas op, het filmpje is nep. Wie goed kijkt, ziet het inderdaad. Het hoofd van deze Zelensky is te groot voor zijn lichaam. Ook de stem van de president klinkt vreemd.

Gemaakt met software

Nepvideo’s, zoals deze van Zelensky, zijn een voorbeeld van synthetische media: filmpjes, foto’s, teksten en geluidsfragmenten die zijn gemaakt of bewerkt met hulp van slimme software. De technologie achter synthetische media ontwikkelt zich extreem snel. Een paar jaar geleden was een deepfake-filmpje, zoals een synthetische video ook heet, heel bijzonder. Maar nu zijn er tientallen apps en platforms die in een paar seconden unieke plaatjes, teksten en filmpjes voor je maken. “Sommige experts schatten dat over vijf jaar negentig procent van wat we online zien synthetisch zal zijn”, zegt onderzoeker Piia Varis. Zij deed voor Tilburg University veel onderzoek naar het effect van technologie op de samenleving.

Echt of nep?

Synthetische media hebben voordelen voor bedrijven: je kunt met een app snel een plaatje maken voor je site, of een blogtekst schrijven. Ze hebben ook nadelen, legt Varis uit. Het grootste probleem: “Als je het verschil tussen een nepfoto en een echte foto niet meer ziet, kan dat gevaarlijk zijn. Synthetische media brengen de basis van onze samenleving uit evenwicht: wat is een feit, en wat niet?”

Die valse informatie heeft invloed op allerlei situaties. De geheime diensten van Oekraïne konden het leger op tijd waarschuwen dat het filmpje van Zelensky nep was. Maar in de toekomst lukt dat misschien niet. Politici maken zich zorgen over de gevaren van synthetische media voor de samenleving: de Tweede Kamer wil deepfake-technologie deels verbieden. Ook de EU dringt bij techbedrijven aan op actie tegen deepfakes.

Beschadigde bumper

Omdat synthetische media zo makkelijk te maken zijn, gebruiken criminelen ze ook. Een Amerikaans tijdschrift meldt dat oplichters synthetische plaatjes van de app DALL-E gebruiken voor verzekeringsfraude. Dat werkt zo. Als je in de app de woorden ‘Beschadigde Bumper Jeep Grand Cherokee’ invult, maakt de app in een paar seconden tientallen afbeeldingen van beschadigde auto’s. De fraudeurs sturen zo’n afbeelding mee met een schadeformulier naar de verzekeraar, en krijgen de ‘schade’ vergoed.

Fraude met nepstem

Criminelen gebruiken ook synthetische stemmen om bedrijven en hun klanten op te lichten, tot nu toe vooral in de financiële sector. Begin 2020 kreeg een bankdirecteur in Hong Kong een telefoontje van een hoge baas die hij kende. De baas vroeg hem geld over te maken voor een overname. Toen de bankdirecteur dat deed, bleek dat criminelen de stem van de baas hadden nagemaakt met slimme software, en dat hij het geld had overgemaakt aan die criminelen. In september 2021 maakte een andere bende een nepfilmpje van een bekende Russische bankdirecteur. Die ‘beloofde’ in de video zijn klanten een enorme bonus. Wie doorklikte kwam op een nepwebsite van de criminelen waar je persoonlijke gegevens moest invullen.

Deep learning

Hoe maak je synthetische media eigenlijk? De software achter synthetische media gebruikt ‘deep learning’. Dat is een vorm van kunstmatige intelligentie die het menselijk brein nadoet. Het resultaat is een ‘robot’ die leert van grote hoeveelheden gegevens. De software ChatGPT is getraind met tekst. De app DALL-E kreeg miljarden plaatjes met informatie te zien. Daardoor kan de software in een paar seconden van tekst een plaatje maken. Geef je de opdracht ‘stoel en avocado’, dan maakt de software een uniek plaatje van een avocadostoel.

Geen technische oplossing

Een goede technische oplossing om synthetische media te herkennen bestaat nog niet. “Facebook heeft geprobeerd om technologie te maken die deepfakes herkent”, vertelt Varis. “Maar de technologie achter synthetische media ontwikkelt zich zo snel, dat technologie om ze te herkennen of te voorkomen telkens achterloopt.” Sommige experts stellen voor om een disclaimer of waarschuwing te plakken op media die gemaakt zijn met kunstmatige intelligentie. “Maar dat is ingewikkeld, omdat je niet kunt controleren of media zonder disclaimer echt zijn.”

Risico’s verkleinen

Zolang er geen technische oplossing is om synthetische media te herkennen, is het dus extra belangrijk dat je maatregelen neemt om je bedrijf tegen de risico’s te beschermen. Varis geeft je deze tips:

Zorg voor duidelijke processen

“Als mensen het druk hebben, denken ze: mijn baas klonk een beetje raar vandaag, maar ik doe gewoon wat die vraagt. Organiseer je workflow zó, dat het onmogelijk is om geld over te laten maken op basis van één telefoontje.”

Maak een crisisplan

Wat als een concurrent leugens over je verspreidt op sociale media met hulp van synthetische media? Of als je bedrijf op een andere manier te maken krijgt met neppe beelden of teksten? “Je hebt een plan nodig, want snelheid is bij reputatieschade heel belangrijk. Met wie moet je contact opnemen om een nepbericht van een social media-platform af te laten halen? Als je dat al weet, hoef je niet dagenlang te zoeken naar een uitweg.” In een crisisplan zet je bijvoorbeeld belangrijke contactpersonen en standaardberichten die je in geval van nood snel kunt versturen.

Doe aangifte

Ben je opgelicht of word je bedreigd via sociale media? Doe aangifte bij de politie. Meld fraude ook bij de Fraudehelpdesk, dan waarschuwen zij andere bedrijven.