Deepfakes, AI-gegenereerde video’s die bijna niet van echt te onderscheiden zijn, staan al langer in de spotlight als potentiële dreiging. Maar de recente ervaring van Ali Niknam, CEO van bunq Bank, heeft het gevaar dichtbij gebracht voor vele Nederlandse bedrijven. In een recente post op zijn LinkedIn-profiel onthulde Niknam dat een medewerker van Bunq een overtuigende video-oproep waarin “Niknam” vroeg om een aanzienlijk bedrag over te maken. Echter, de video was een deepfake.
“De nauwkeurigheid en overtuigingskracht van de deepfake video waren verontrustend,” aldus Niknam. Hoewel de bank snel de poging tot fraude detecteerde en het hele team waarschuwde, roept dit voorval vragen op over de mate waarin deepfakes gebruikt kunnen worden voor kwaadwillige doeleinden.
Deepfakes maken gebruik van geavanceerde AI-algoritmes om levensechte video’s of audio-opnames te maken. Terwijl er fascinerende toepassingen zijn voor entertainment of educatie, brengen ze ook risico’s met zich mee voor misbruik en desinformatie.
Het voorval benadrukt het belang van voortdurende voorlichting over de risico’s van deepfakes. “Zoals een auto alleen zo veilig is als zijn bestuurder, is de waarde van AI echt de vraag wie er aan het stuur zit,” merkte Niknam op.
