Overheidsorganisaties moeten zich beter voorbereiden op de risico’s van deepfakes, nu synthetische media steeds vaker kunnen worden ingezet voor identiteitsfraude, desinformatie en aanvallen op interne processen. Volgens Gartner zal 40 procent van de overheidsorganisaties in 2028 een speciale TrustOps-functie hebben ingericht om deze dreigingen tegen te gaan.
Het onderzoeks- en adviesbureau stelt dat overheden niet kunnen volstaan met het achteraf controleren of verwijderen van misleidende content. In plaats daarvan moeten zij werken aan een proactieve vertrouwensarchitectuur, waarin de herkomst en betrouwbaarheid van digitale communicatie beter zijn vastgelegd.
Deepfakes vormen volgens Gartner een risico voor zowel publieke communicatie als interne systemen. In het publieke domein kunnen video’s, audiofragmenten of websites worden gebruikt om bestuurders na te bootsen en misleidende verklaringen te verspreiden. Intern kunnen deepfakes worden ingezet om biometrische authenticatie, zoals stem- of gezichtsherkenning, te omzeilen of medewerkers via social engineering tot schadelijke handelingen te bewegen.
Daniel Nieto, senior director analyst bij Gartner, zegt dat deepfakes het vertrouwen in digitale identiteit en officiële communicatie kunnen ondermijnen. “Als burgers geen onderscheid kunnen maken tussen een legitieme verklaring van een premier of een beveiligd portaal van de belastingdienst en een replica daarvan, stort de fundamentele architectuur van waarheid in,” aldus Nieto.
Volgens Gartner moeten CIO’s bij overheden de overstap maken van reactieve factchecking naar een aanpak waarin vertrouwen vooraf wordt ingebouwd. Het bureau waarschuwt dat de verspreiding van synthetische content via sociale media ertoe kan leiden dat organisaties moeten terugvallen op papieren processen of fysieke dienstverlening, als het vertrouwen in digitale kanalen afneemt.
Nieto omschrijft dat risico als “digitale regressie”. Daarmee bedoelt hij dat de opbrengst van digitalisering kan afnemen wanneer burgers en organisaties digitale interacties minder betrouwbaar vinden.
Gartner benadrukt dat deepfakes niet alleen een IT-probleem zijn. De aanpak vraagt om samenwerking tussen onder meer IT, juridische zaken, communicatie en HR. Ook is voortdurende voorlichting aan medewerkers en burgers nodig, al mag de verantwoordelijkheid voor verificatie volgens het bureau niet vooral bij eindgebruikers komen te liggen.
Overheden zouden volgens Gartner een trust council moeten oprichten die toezicht houdt op digitale identiteit en desinformatie. Daarnaast moeten zij risicovolle administratieve processen, zoals financiële uitbetalingen, doorlichten en extra controles invoeren, waaronder goedkeuring door meerdere personen en authenticatie op applicatieniveau. Ook adviseert het bureau om procedures te ontwikkelen voor het beoordelen van verdachte digitale interacties en het herkennen van content die mogelijk met kunstmatige intelligentie is gemaakt of aangepast.
Voor de langere termijn noemt Gartner het C2PA-protocol als mogelijke maatregel voor officiële digitale media. Daarmee kunnen overheden cryptografische metadata toevoegen aan digitale content om de herkomst ervan beter aantoonbaar te maken.
