deepfake

Deepfakes, AI-gegenereerde video’s die bijna niet van echt te onderscheiden zijn, staan al langer in de spotlight als potentiële dreiging. Maar de recente ervaring van Ali Niknam, CEO van bunq Bank, heeft het gevaar dichtbij gebracht voor vele Nederlandse bedrijven. In een recente post op zijn LinkedIn-profiel onthulde Niknam dat een medewerker van Bunq een overtuigende video-oproep waarin “Niknam” vroeg om een aanzienlijk bedrag over te maken. Echter, de video was een deepfake.

Uit onderzoek van KnowBe4 onder 500 Nederlandse consumenten blijkt dat het overgrote deel van hen (87%) zich zorgen maakt over de kwaadaardige toepassingen van deepfakes; de verzamelnaam voor beelden, geluiden en teksten die door kunstmatige intelligentie-software worden gecreëerd. Denk hierbij aan toepassingen zoals fraude en misleiding, haatzaaien en het verspreiden van desinformatie. In een tijd dat deepfakes steeds vaker voorkomen, twijfelt 78% van de Nederlandse consumenten meer dan vroeger aan de echtheid van de content die ze zien, beluisteren of lezen.

Een door AI gegenereerde vrouw heeft met succes naaktfoto’s verkocht aan nietsvermoedende Reddit-gebruikers. Claudia is volledig gegenereerd door AI, en haar bericht werd geplaatst op verschillende subreddits. Claudia’s bericht veroorzaakte veel klachten, waardoor een moderator van de groep een disclaimer plaatste waarin werd verduidelijkt dat door AI gegenereerde foto’s niet in strijd zijn met de regels van de subreddit. De makers achter Claudia zeggen dat de consument zelf verantwoordelijk is voor het beoordelen of een model echt of namaak is.

Het jaar 2021 kende een grote toename van het aantal cyberaanvallen, met wekelijks 446 getroffen bedrijven in Nederland, een stijging van maar liefst 86 procent ten opzichte van vorig jaar. Volgens het Cyber Security Predictions rapport van Check Point zet deze trend ook in 2022 door. Het rapport voorspelt dat cybercriminelen de pandemie blijven misbruiken en inventiever worden. In 2022 zullen aanvallers bijvoorbeeld misbruik maken van deepfakes, cryptocurrency en mobiele wallets. 

Online bank Knab kondigt de eerste grootschalige Europese toepassing van iProov software voor SCA (Strong Customer Authentication) aan voor de registratie van nieuwe klanten. Deze biometrische technologie in de cloud moet onder meer spoof-aanvallen met foto’s, video’s, maskers èn deep fakes voorkomen. 

De Senaat van de Verenigde Staten heeft een wetsvoorstel van senator Cory Gardner (Colorado) aangenomen waarin hij ervoor pleit deepfake-video’s aan te pakken.