“We streven naar een digitale wereld, waarin we kunnen geloven wat we waarnemen.”

Synthetische spraakdetectie

De synthese van geluidsfragmenten is de afgelopen jaren sterk ontwikkeld. “Naast video’s en afbeeldingen speelt geluid een steeds grotere rol binnen de wereld van deepfake”, vertelt Joris. “Met real time voice cloning technologie is het mogelijk om het stemgeluid van een persoon te simuleren op basis van slechts enkele seconden aan audio. Door middel van kunstmatige intelligentie (AI) genereer je de stem van een persoon en daar maak je een kopie van. Kwaadwillenden passen deze voice cloning-techniek steeds vaker toe. Zo komt het regelmatig voor dat internetgebruikers een WhatsApp-bericht krijgen van een kwaadwillende, die zich voordoet als een familielid en vraagt om financiële hulp. De meeste mensen zijn bij zulke berichten achterdochtig. Maar als diezelfde persoon je vervolgens belt en gebruikmaakt van voice cloning, dan is het een stuk moeilijker om deepfake van de werkelijkheid te onderscheiden.”

Figuur 1: Joris Mollinga (links) met mede-oprichters Mark Evenblij (midden) en Parya Lotfi (rechts).

“SIDN fonds biedt ons financiële steun om een tool te ontwikkelen voor de detectie van synthetische geluidsfragmenten. De tool is een aanvulling op onze eerder ontwikkelde detectieproducten. Het project loopt tot april 2024 en staat op dit moment nog in de kinderschoenen. Ons uiteindelijke doel is om een tool beschikbaar te stellen, waarmee onderzoekers, journalisten en internetgebruikers zelf synthetische geluidsfragmenten kunnen detecteren.”

Elise van Schaik, projectcoördinator bij SIDN fonds: “DuckDuckGoose draagt bij aan het weer kunnen vertrouwen van informatie op het internet. Dankzij hun deepfakedetectietool en de tool die ze ontwikkelen voor het detecteren van synthetische geluidsfragmenten, kunnen onderzoekers, journalisten en in feite alle internetgebruikers automatisch deepfakes detecteren. Dit is heel belangrijk in een tijd waarin des- en misinformatie een steeds groter probleem worden. Dankzij de detectietools van DuckDuckGoose, worden gebruikers zich meer bewust van deepfakes en worden zij gewaarschuwd om niet alles op het internet te geloven.”

SIDN fonds steunde eerdere projecten van DuckDuckGoose

“SIDN fonds steunde al eerder ons pioniersproject rondom het detecteren van deepfake-video’s. Dankzij deze financiële bijdrage konden we dit idee verder uitwerken. Inmiddels kunnen internetgebruikers onze diensten en producten voor een gereduceerd tarief of zelfs gratis gebruiken. Na de ontwikkeling van onze deepfakedetectietool, ondersteunde SIDN fonds het vervolgtraject DeepfakeProof. Dit is onze gratis browserplugin om deepfakes automatisch te detecteren. Gebruikers kunnen deze plugin installeren op hun computer en krijgen een melding als ze een deepfake-foto of -video bekijken.”

Naast het bieden van financiële ondersteuning voor onze producten, faciliteert SIDN fonds de kennismaking met andere initiatiefnemers. Joris: “Dankzij het netwerk van SIDN fonds kwamen we in contact met een jurist die is gespecialiseerd in het thema privacy. Over dit thema kregen we vooral rondom onze browserplugin veel vragen. Deze jurist hielp ons bij het beantwoorden van de vragen over privacy. Inmiddels is hij onze vaste bedrijfsjurist.”

De toekomst van deepfake

“De techniek achter voice cloning blijft groeien. Daarnaast zien we ook text to image-software opkomen, waarbij tekst wordt omgezet in realistisch beeld. De volgende stap is het omzetten van tekst naar video’s. Je typt bijvoorbeeld ‘auto van merk [x] met kenteken [y] botst tegen boom’. Vervolgens zie je een realistische video, waarin jouw auto daadwerkelijk tegen een boom botst. Deze ontwikkelingen gaan ontzettend snel. Ik verwacht dat dit soort functies over een aantal jaar gewoon in je smartphone beschikbaar zijn. Daarom blijven we de komende jaren detectieproducten ontwikkelen. Met onze software kunnen bedrijven een authenticiteitscontrole doen en weten ze of ze te maken hebben met deepfake. En dat is een succes. Met onze AI-oplossingen om deepfakes in audiovisuele content te detecteren, wonnen we onlangs zelfs de Identity Innovation Award.” Deze innovatieprijs wordt jaarlijks uitgereikt aan een oplossing die vormgeeft aan de toekomst van digitale identiteiten.

“Het is belangrijk dat internetgebruikers zich meer bewust worden van deepfake. En dat zij zich realiseren dat een afbeelding, video of geluidsfragment niet per definitie werkelijkheid is. Om die bewustwording te stimuleren, kunnen onze producten en technologie breed worden ingezet”, aldus Joris.

Wil je meer weten over DuckDuckGoose en haar detectieproducten? Ga dan naar www.duckduckgoose.ai of neem contact op met Joris Mollinga via joris@duckduckgoose.nl.