PAX-rapport waarschuwt voor wedloop in autonome wapensystemen

In een nieuw rapport waarschuwt de Nederlandse vredesorganisatie PAX, de zusterorganisatie van Pax Christi Vlaanderen, voor potentieel catastrofale gevolgen als landen geen maatregelen nemen om een wapenwedloop op het gebied van artificiële intelligentie (AI) te voorkomen. Het rapport onderzoekt de status van militaire projecten rond artificiële intelligentie in zeven landen: de Verenigde Staten, China, Rusland, het Verenigd Koninkrijk, Frankrijk, Israël en Zuid-Korea.

Het rapport komt er op een moment dat VN-lidstaten in Genève bespreken hoe ze moeten omgaan met de opkomst van ‘killer robots’, volledig autonome wapensystemen die zonder menselijke controle doelwitten kunnen selecteren en doden. In augustus 2019 beslissen landen of er in 2020 onderhandelingen worden opgestart voor een internationaal verbod op killer robots.

België speelt een belangrijke rol in deze VN-besprekingen. In maart 2019 steunde ons land als een van de eerste Europese landen een verbod op ‘killer robots’. Eerder spraken het federale parlement en 88 Belgische topexperts inzake AI en robotica zich al uit voor een verbod.

Geld naar wapenwedloop

Een verbod op volledig autonome wapensystemen zou niets te vroeg komen. Verschillende grootmachten investeren grote sommen in de ontwikkeling van steeds autonomere wapensystemen. De VS investeren de komende vijf jaar bijvoorbeeld twee miljard dollar (zo’n 1,8 miljard euro) om AI-technologieën te ontwikkelen. De VS werken nu al aan het ATLAS-programma, dat AI en machine learning zal gebruiken om gevechtsvoertuigen de mogelijkheid te geven zelfstandig doelen te selecteren. Ook Rusland heeft al in 2017 aangekondigd een leidende rol te willen spelen in AI-technologie. En China heeft een meerjarenprogramma Nieuwe Generatie Artificiële Intelligentie, dat ook militaire toepassingen kent. 

Als deze nieuwe wapenwedloop doorzet, komt dat neer op een ernstige verstoring van het wankele evenwicht tussen de grootmachten. Op zijn minst tijdelijk. Enorme hoeveelheden geld zullen dan naar militaire technologieën gaan, en niet voor onderwijs, gezondheidszorg en andere sociaaleconomische doelen gebruikt worden.

Techbedrijven hebben sleutelrol

Het rapport laat daarnaast zien dat in alle zeven onderzochte landen samenwerking met commerciële bedrijven cruciaal is voor de militaire AI-projecten. Waar sommige bedrijven al hebben gezegd dat ze niet zullen bijdragen aan de ontwikkeling van autonome wapens, zoals het Franse Thales, zijn er veel anderen die wel graag met Defensie willen samenwerken.

PAX en Pax Christi Vlaanderen, beide lid van de International Campaign to Stop Killer Robots, roepen staten op internationale afspraken te maken en volledig autonome wapens te verbieden. In de tussentijd moeten staten een moratorium instellen op de ontwikkeling van volledig autonome wapensystemen. Commerciële techbedrijven zouden daarnaast niet moeten meewerken aan het ontwikkelen van deze wapens, en kunnen hiertoe een intern beleid ontwikkelen.

Daan Kayser, projectleider autonome wapens bij PAX: “Als de huidige ontwikkelingen doorzetten, zullen wapens met artificiële intelligentie de rol van mensen gaan overnemen, en doelwitten zelfstandig kunnen selecteren en aanvallen. Zonder heldere internationale regels zijn het in de toekomst algoritmes, niet mensen, die beslissingen nemen over leven en dood.”