De risico’s van AI-wapens zijn niet te onderschatten. Dit stelt Toby Walsh, een gerenommeerde KI-expert van de University of New South Wales (UNSW). In zijn ogen zouden deze autonome wapensystemen net zo behandeld moeten worden als chemische en biologische wapens: met een volledig verbod.
In een recente aflevering van de UNSW-podcast sprak Walsh uitgebreid over zijn zorgen. Vooral het toenemende gebruik van dergelijke wapens in het huidige conflict in Oekraïne baart hem zorgen. “Drones en KI beginnen de manier waarop we oorlog voeren drastisch te veranderen. En de tekenen zijn niet positief,” merkte hij op.
De Conventie van Genève, die al sinds 1864 regels stelt aan oorlogsvoering, verbiedt sinds 1925 het gebruik van chemische en biologische wapens. Walsh pleit ervoor om AI-wapens aan deze lijst toe te voegen. “De verwoestende effecten van ongecontroleerde technologie in oorlogsvoering kunnen onomkeerbaar zijn,” waarschuwt hij.
Zijn kritiek op AI-wapens heeft niet alleen te maken met hun vernietigende capaciteit. Volgens Walsh is een van de grootste problemen dat machines geen onderscheid kunnen maken tussen burgers en strijders. Ze missen ook het vermogen om empathisch te handelen in complexe situaties.
Rusland heeft de deskundige eerder de toegang tot het land ontzegd. Dit gebeurde nadat hij kritiek had geuit op een Russische claim over een “humanitaire” mijn, aangedreven door KI. Maar Walsh blijft kritisch over de ontwikkeling en inzet van dergelijke wapens, niet alleen door Rusland, maar wereldwijd.
Hij besluit: “Oorlog is tragisch en complex. Het introduceren van autonome wapens, die niet de nuances van het menselijk oordeel kunnen vatten, is een gevaarlijke stap. Ik hoop dat we als samenleving het verbod op dergelijke wapens kunnen ondersteunen voordat het te laat is.”
