- Regeringen zouden de discussies over een verdrag over autonome wapensystemen, ook wel bekend als ‘moordenaarsrobots’, moeten verplaatsen van vergaderingen over een bestaand wapenverdrag, waar ze vastlopen.
- Dergelijke wapensystemen werken zonder zinvolle menselijke controle en delegeren beslissingen over leven en dood aan machines. Verschillende landen investeren in de technologie om ze te ontwikkelen.
- Regeringen zouden onderhandelingen moeten beginnen over een nieuw verdrag, hetzij buiten de VN, zoals de landmijn- of clustermunitieverdragen, of in de Algemene Vergadering van de VN, zoals het verdrag inzake het verbod op kernwapens.
(Genève, 10 november 2022) – Regeringen zouden de vastgelopen discussies over een verdrag over autonome wapensystemen, bekend als ‘killer robots’, moeten verplaatsen naar een nieuw internationaal forum, zei Human Rights Watch in een vandaag vrijgegeven rapport. Dergelijke wapensystemen werken zonder zinvolle menselijke controle en delegeren beslissingen over leven en dood aan machines.
Het 40 pagina’s tellende rapport, “An Agenda for Action: Alternative Processes for Negotiating a Killer Robots Treaty”, is mede-uitgegeven door Human Rights Watch en de Harvard Law School Internationale mensenrechtenkliniek. Het stelt voor dat landen een verdragsproces starten op basis van humanitaire ontwapeningsmodellen uit het verleden, zoals voor het verdrag dat clustermunitie verbiedt.
“Een nieuw internationaal verdrag dat autonome wapensystemen aanpakt, heeft een geschikter onderhandelingsforum nodig”, zegt Bonnie Docherty, senior wapenonderzoeker bij Human Rights Watch, associate director van gewapend conflict en civiele bescherming bij de Harvard Human Rights Clinic, en hoofdauteur van het verslag. “Er is ruimschoots een precedent om aan te tonen dat een alternatief proces om wettelijke regels te creëren voor dodelijke robots levensvatbaar en wenselijk is, en landen moeten nu handelen om gelijke tred te houden met technologische ontwikkelingen.”
Meer dan 70 landen, niet-gouvernementele organisaties en het Internationale Comité van het Rode Kruis beschouwen een nieuw verdrag met verboden en beperkingen als noodzakelijk, dringend en haalbaar. Secretaris-generaal van de Verenigde Naties, António Guterres, riep op tot “internationaal overeengekomen limieten” voor wapensystemen die op zichzelf mensen zouden kunnen aanvallen en aanvallen, en beschreef dergelijke wapens als “moreel weerzinwekkend en politiek onaanvaardbaar”.
Onder auspiciën van de Convention on Conventional Weapons (CCW) zijn sinds 2014 besprekingen gaande over zorgen over dodelijke autonome wapensystemen. is geen indicatie dat ze in 2023 of in de nabije toekomst zullen overeenkomen om via de CCW te onderhandelen over een nieuw juridisch bindend instrument.
De belangrijkste reden voor het gebrek aan vooruitgang onder het CCW is dat de lidstaten vertrouwen op een consensusbenadering van de besluitvorming, wat betekent dat een enkel land een voorstel kan afwijzen, zelfs als elk ander land ermee instemt. Een handvol grote militaire machten hebben het afgelopen jaar herhaaldelijk voorstellen om over te gaan tot onderhandelingen geblokkeerd, met name India en Rusland. Beide landen probeerden ook niet-gouvernementele organisaties te blokkeren van deelname aan discussies in 2022.
India en Rusland, evenals Australië, China, Iran, Israël, Zuid-Korea, Turkije, het Verenigd Koninkrijk en de Verenigde Staten investeren zwaar in de militaire toepassingen van kunstmatige intelligentie en aanverwante technologieën om lucht-, land- en zee- gebaseerde autonome wapensystemen.
Gezien de tekortkomingen van het CCW-forum, moeten alternatieve processen voor het onderhandelen over een nieuw verdrag worden onderzocht, aldus Human Rights Watch en de Harvard Human Rights Clinic. Een optie is een onafhankelijk proces buiten de VN, zoals dat is gebruikt voor de verdragen die antipersoonsmijnen en clustermunitie verbieden. Een andere is via de Algemene Vergadering van de VN, die de onderhandelingen over het verdrag inzake een verbod op kernwapens op gang heeft gebracht.
Vier kenmerken van deze alternatieve processen zijn in het bijzonder bevorderlijk voor het tijdig tot stand komen van sterke verdragen: een gemeenschappelijk doel; besluitvorming op basis van stemmen; duidelijke en ambitieuze deadlines; en een verbintenis tot inclusiviteit, zeiden Human Rights Watch en de Harvard Human Rights Clinic.
Landen hebben al brede steun uitgesproken voor essentiële elementen die nodig zijn om de bezorgdheid over het wegnemen van menselijke controle over het gebruik van geweld aan te pakken. Een nieuw internationaal verdrag moet autonome wapensystemen verbieden die inherent geen zinvolle menselijke controle hebben, evenals systemen die zich richten op mensen. Het moet positieve verplichtingen bevatten om te zorgen voor zinvolle menselijke controle in andere wapensystemen met autonomie. “Betekenisvolle menselijke controle” wordt algemeen beschouwd als de vereiste dat technologie begrijpelijk, voorspelbaar en beperkt in ruimte en tijd is.
In oktober spraken 70 landen hun steun uit voor “internationaal overeengekomen regels en limieten” op autonome wapensystemen in een gezamenlijke verklaring aan de Eerste Commissie voor ontwapening en internationale veiligheid van de Algemene Vergadering van de VN.
Ook zijn er vanuit het bedrijfsleven meer steunbetuigingen voor regulering. In oktober hebben Boston Dynamics en vijf andere roboticabedrijven toegezegd om hun geavanceerde mobiele robots niet te bewapenen en riep anderen op om “vergelijkbare toezeggingen te doen om dergelijke robots niet te bouwen, autoriseren, ondersteunen of de bevestiging ervan mogelijk te maken.”
Human Rights Watch is medeoprichter van Stop moordende robotsde coalitie van meer dan 190 niet-gouvernementele organisaties in 67 landen die pleit voor nieuw internationaal recht inzake autonomie in wapensystemen.
“Hoe langer het probleem van de moordende robots op het huidige forum blijft hangen, hoe meer tijd ontwikkelaars van autonome wapensystemen hebben om nieuwe technologieën aan te scherpen en commerciële levensvatbaarheid te bereiken”, zei Docherty. “Een nieuw verdrag zou wapenwedlopen helpen indammen en proliferatie voorkomen door het wegnemen van menselijke controle te stigmatiseren.”
