Wat als de mens de controle verliest over wapensystemen?

Een killer robot, een term die als verzamelnaam dient voor wapensystemen die eigenhandig kunnen doden, klinkt misschien meer als iets uit een lugubere sciencefictionfilm dan de werkelijkheid, maar dat is niet het geval. Dankzij de snelheid waarmee technologische ontwikkelingen zich ontplooien, wordt het binnenkort mogelijk om een gewelddadig wapensysteem te ontwikkelen die zonder controle van een mens opereert. Daarmee komen sommige afleveringen uit de serie Black Mirror wel heel dichtbij.

Vredesbeweging PAX is een van de organisaties die streeft naar een preventief verbod op de ontwikkeling en productie van killer robots. In een coalitie van 75 niet-gouvernementele organisaties (ngo’s) – waaronder Human Rights Watch – startte zij in 2013 de campagne Stop Killer Robots.

Hoe ver is de technologie nu op het gebied van autonome wapens?
“Op dit moment zijn er nog geen volledig autonome wapens, ook wel killer robots genoemd, maar wel voorlopers daarvan. Veel mensen denken bij killer robots aan drones, maar die worden juist nog door de mens op een afstand bestuurd. Een goed voorbeeld van een voorloper van zo’n autonoom wapen is de Harpy raket, ontwikkeld door Israël. Het leger kan daarmee boven vijandig gebied vliegen op zoek naar radiosignalen van radarstations om die vervolgens uit te schakelen. Het systeem bepaalt dus zelfstandig het doelwit. Naast Israël weten we dat ook de Verenigde Staten, Rusland, China en het Verenigd Koninkrijk bezig zijn met de ontwikkeling van killer robots.”

Wat zijn de gevaren van deze wapensystemen?
“Een machine kan maar moeilijk onderscheid maken tussen een burger en een soldaat. Het kan dus makkelijk gebeuren dat het verkeerde doelwit wordt geselecteerd. Bovendien is het ethisch onverantwoord om beslissingen over leven en dood over te laten aan een algoritme.

Wie is er verantwoordelijk als er iets dramatisch gebeurt? De fabrikant, de militair? En ook niet onbelangrijk: wat gebeurt er als een dictator of een terrorist zo’n wapen in handen krijgt? Het blijft daarnaast onvoorspelbaar hoe een robot op een andere robot reageert. Het kan ook gebeuren dat we zelf doelwit worden van killer robots.”

Moeten we ons in Nederland ook zorgen maken?
“Jazeker. Niet alleen in conflictgebieden, maar ook hier in Nederland kunnen we er mee te maken krijgen. Het zou kunnen dat de politie in de toekomst robots zal inzetten om geweld te gebruiken, als vervanging van de ME bijvoorbeeld. Deze wapens blijven onvoorspelbaar en onnauwkeurig. Terroristen hebben daar geen moeite mee, zo lang ze er maar zo veel mogelijk mensen mee raken. Als vredesorganisatie focussen wij ons echter vooral op het verminderen van leed van burgers in conflictgebieden.”

Wat hoop jij te bereiken tijdens de bijeenkomst?
“Dat er een juridisch bindend verdrag wordt afgesproken dat de ontwikkeling, productie en inzet van killer robots verbiedt. Als dat deze week wordt besloten, kunnen we in 2019 beginnen met de onderhandelingen.”

Zijn er dingen die wij als burgers kunnen doen om mee te strijden?
“Dat kan zeker. Je kunt de Nederlandse regering oproepen zich in te zetten voor een verbod. Dat kan via een oproep aan de Tweede Kamer. Maar ook via social media kun je een statement maken. Duik in het onderwerp, kom tot een standpunt en heb het er met zoveel mogelijk mensen over.”