killer robots

De risico’s van AI-wapens zijn niet te onderschatten. Dit stelt Toby Walsh, een gerenommeerde KI-expert van de University of New South Wales (UNSW). In zijn ogen zouden deze autonome wapensystemen net zo behandeld moeten worden als chemische en biologische wapens: met een volledig verbod.

Het Russische leger heeft naar verluidt Marker-gevechtsrobots naar Oekraïne gestuurd, een autonoom gevechtssysteem dat tot taak heeft westerse tanks zoals de Leopard en Abrams te vernietigen. Eerder maakte de Russische voormalige ruimtebaas Dmitry Rogozin op zijn Telegram Channel bekend dat de gevechtsrobot zou worden ingezet op de slagvelden van Oekraïne.

De politie van San Francisco krijgt geen toestemming om robots te gebruiken die zijn uitgerust met dodelijke wapens. In een verrassende draai heeft de raad van toezichthouders van San Francisco hun eerdere stemming in de eerste ronde teruggedraaid, waardoor de politie verdachten met robots kon doden. Dit resultaat van de tweede stemronde kwam na massale publieke protesten tegen het inzetten van killer robots.

De Nederlandse landmacht is het eerste Westerse leger dat operationele tests heft gedaan met bewapende robots, in dit geval de zogenoemde unmanned ground vehicles (UGVs) van MilRem. Defensiemagazine Jane’s deed hier als eerste verslag van, en ondertussen is de oefening bevestigd door het Ministerie van Defensie.

In een  brief aan de Tweede Kamer hebben de ministers Minister Hoekstra (Buitenlandse Zaken) en Ollongren (Defensie) gezegd bijna alle adviezen uit het rapport ‘Autonome wapensystemen: Het belang van reguleren en investeren’ over te nemen. Onderdeel hiervan is het streven naar een verbod op autonome wapensystemen.

Vandaag presenteren Minister Ollongren, staatssecretaris van der Maat en commandant der strijdkrachten Onno Eichelsheim de Defensienota. Vooraf is al uitgelekt dat hierin onder meer zal worden aangekondigd dat het aantal Reaperdrones wordt uitgebreid. Eerder al bleek dat een meerderheid van de Tweede Kamer voorstander is van bewapening van deze oorspronkelijk voor verkenning aangeschafte drones.

Volgende week dient Peter Valstar, lid van de Tweede Kamer voor de VVD, een motie in om de recent in gebruik genomen MQ-9 Reaper-drones te voorzien van bewapening. Door de steun van CDA, CU, PVV, SGP en JA21 is er nu een kamermeerderheid voor dit voorstel. De drones zijn aangeschaft als verkenningstoestellen, maar zijn al wel technisch voorbereid op het toevoegen van wapensystemen.

Het Oekraïense legert claimt de Turkse Bayraktar TB2 Unmanned Aerial Vehicle (UAV) succesvol te hebben ingezet tegen Russische militaire voertuigen. In een video op sociale media wordt de aanval op een militair konvooi getoond, ogenschijnlijk door een drone. Dit zou de eerste keer zijn dat drones worden gebruikt om mensen te doden in een grootschalig conflict, hoewel de Bayraktar ook bij eerdere conflicten al is ingezet.

Volgens Gartner zullen cyberaanvallers tegen 2025 beschikken over gevaarlijke operationele technologie (OT)-omgevingen waarmee zij in staat zijn mensen te verwonden of te doden. Aanvallen op OT – hardware en software die apparatuur, bedrijfsmiddelen en processen bewaakt of bestuurt – komen steeds vaker voor. Ze zijn ook geëvolueerd van onmiddellijke procesonderbrekingen, zoals het sluiten van een fabriek, tot het in gevaar brengen van de integriteit van industriële omgevingen om fysieke schade te veroorzaken. Andere recente gebeurtenissen, zoals de ransomware-aanval op de Colonial Pipeline, hebben duidelijk gemaakt dat er behoefte is aan goed gesegmenteerde netwerken voor IT en OT.

Er moet een internationaal verbod komen op het ontwikkelen en inzetten van volledig autonome wapensystemen, ook wel bekend als killer robots, schrijft D66 in de Initiatiefnota Autonome Wapens. De partij wil voorkomen dat wapensystemen  zonder menselijke handeling zelf hun doelwitten kiezen, en zelfstandig geweld inzetten.