"Er is geen plaats voor dodelijke autonome wapensystemen in onze wereld", zei Guterres maandag tijdens een informele VN-bijeenkomst in New York, die zich richtte op het gebruik en de impact van dergelijke wapens.
“Machines die de macht en de discretionaire bevoegdheid hebben om menselijke levens te nemen zonder menselijke controle, zouden verboden moeten worden door het internationaal recht.”
Tijdens de tweedaagse bijeenkomst in New York kwamen lidstaten, academische experts en vertegenwoordigers van het maatschappelijk middenveld bijeen om de humanitaire en mensenrechtenrisico's die deze systemen met zich meebrengen te onderzoeken.
Het doel: de basis leggen voor een juridisch bindende overeenkomst om het gebruik ervan te reguleren en te verbieden.
Menselijke controle is van vitaal belang
Hoewel er geen internationaal geaccepteerde definitie Onder autonome wapensystemen verstaan we in brede zin wapens zoals geavanceerde drones die doelen selecteren en geweld toepassen zonder menselijke instructies.
De Secretaris-Generaal zei in zijn bericht aan de vergadering dat alle regels en verboden ervoor moeten zorgen dat mensen verantwoordelijk worden gehouden.
"Menselijke controle over het gebruik van geweld is essentieel", zei Guterres. "We kunnen beslissingen over leven en dood niet aan machines delegeren."
Er zijn grote zorgen dat autonome wapensystemen de internationale humanitaire wetgeving en mensenrechten schenden, doordat ze het menselijk oordeel uit oorlogsvoering halen.
De VN-chef heeft de lidstaten opgeroepen om vóór 2026 duidelijke regels en verboden voor dergelijke systemen op te stellen.
Het naderen van een juridisch bindende overeenkomst
Lidstaten van de VN overwegen sinds 2014 regelgeving voor autonome wapensystemen in het kader van het Verdrag inzake bepaalde conventionele wapens (CCW) die betrekking heeft op wapens die mogelijk in strijd zijn met het humanitaire recht.
Het meest recent is het Pact voor de Toekomst, aangenomen In september vorig jaar werd opgeroepen om de bewapening en het misbruik van voortdurend evoluerende wapentechnologieën te vermijden.
Stop Killer Robots, een coalitie van ongeveer 270 maatschappelijke organisaties, was een van de organisaties die zich tijdens de bijeenkomst van deze week uitsprak.
Dat vertelt directeur Nicole van Rooijen VN-nieuws dat er consensus begon te ontstaan rond een paar belangrijke kwesties, iets wat zij een “enorme verbetering” noemde.
Er bestaat met name consensus over wat bekendstaat als een ‘tweeledige’ aanpak, wat betekent dat er zowel verboden op bepaalde typen autonome wapensystemen als regelgeving voor andere moet zijn.
Er zijn echter nog andere knelpunten. Zo blijft het onduidelijk wat een autonoom wapensysteem precies kenmerkt en hoe het zou zijn om wetgeving voor "betekenisvolle menselijke controle" te creëren.
Tot nu toe zijn de gesprekken slechts consultaties geweest en “We zijn nog niet aan het onderhandelen”, vertelde mevrouw Rooijen VN-nieuws: “Dat is een probleem.”
'De tijd dringt'
De secretaris-generaal heeft herhaaldelijk opgeroepen tot een verbod op autonome wapensystemen, gezegde dat het lot van de mensheid niet aan een ‘black box’ kan worden overgelaten.
De laatste tijd is er echter meer urgentie rond dit probleem, deels vanwege de snel evoluerende aard van kunstmatige intelligentie, algoritmes en dus ook autonome systemen in het algemeen.
"De kosten van onze inactiviteit zullen groter zijn naarmate we langer wachten, vertelde mevrouw Rooijen ons.
Mevrouw Rooijen merkte ook op dat de ontwikkeling van systemen steeds goedkoper wordt, wat aanleiding geeft tot zorgen over de wildgroei onder zowel overheids- als niet-overheidsactoren.
De secretaris-generaal onderstreepte in zijn opmerkingen van maandag ook de “dringende noodzaak” om regelgeving vast te stellen rond autonome wapensystemen.
"De tijd dringt om preventieve maatregelen te nemen", aldus de heer Guterres.
