Zweedse AI-drones kiezen zelf doelwit: wat betekent dit?
Het Zweedse bedrijf Scaleout Systems heeft software gemaakt waarmee drones zelfstandig doelwitten herkennen, kiezen en aanvallen. De software draait volledig aan boord van de drone, zonder mens die op het laatste moment instemt. Dat meldt de website Ars Technica, aldus Bright. De vraag is hoe ver landen hiermee mogen gaan.
In het kort
- Scaleout Systems uit Zweden bouwt AI die drones zelfstandig doelwitten laat kiezen.
- De software werkt volledig aan boord van de drone, zonder verbinding met een mens op afstand.
- Volgens Ars Technica gaat het om een aanvalsdrone die zelf een doelwit selecteert.
- Nederland en de EU worstelen met regels voor zulke autonome wapens.
Wat de drone zelf doet
De drone van Scaleout Systems herkent een doelwit, kiest het uit en vliegt er met een bom naartoe. Dat gebeurt zonder dat een mens op dat moment een knop indrukt. De software draait volledig aan boord, dus op de drone zelf.
Dat is een belangrijk verschil met de meeste huidige wapens. Daar zit altijd een mens in de keten die een aanval goedkeurt. Bij deze software kan dat gesprek met een mens wegvallen zodra de drone eenmaal op pad is.
Volgens Ars Technica gaat het om een Zweeds bedrijf dat deze technologie heeft ontwikkeld. Bright schrijft dat de drone zelf zijn doelwit kiest en er met zijn bom naartoe vliegt.
Waarom dit gevoelig ligt
Autonome wapens liggen internationaal al jaren onder een vergrootglas. Landen proberen afspraken te maken over wanneer een machine zelf mag beslissen over leven en dood. Tot nu toe zonder harde, wereldwijde regels.
Het probleem zit vooral in de verantwoordelijkheid. Als een drone een verkeerd doelwit raakt, wie is dan schuldig? De programmeur, de fabrikant, de commandant of niemand? Daar is nog geen duidelijk antwoord op.
Ook speelt mee dat zulke software lastig te controleren is. Je kunt niet altijd zien waarom een systeem een bepaald doelwit koos. Dat maakt het achteraf uitleggen van fouten extra moeilijk.
Wat er nog onbekend is
Over de precieze werking van de software is nog weinig bekend. Bright en Ars Technica noemen geen details over de gebruikte techniek, de nauwkeurigheid of de kosten. Ook is niet duidelijk of het systeem al ergens wordt ingezet of getest.
Het is evenmin bekend of Scaleout Systems samenwerkt met een overheid of leger. Zulke samenwerkingen zijn in de defensiewereld gebruikelijk, maar worden vaak niet openbaar gemaakt. Zolang dat niet duidelijk is, blijft het lastig om te zeggen hoe ver dit project al is.
Hoe snel gaat deze ontwikkeling?
AI in drones is geen nieuw idee. Wat opvalt, is dat de stap naar volledig zelfstandig beslissen nu concreet wordt genoemd door een bedrijf. Eerder ging het vooral om hulp bij het herkennen van beelden, met een mens die daarna besliste.
De techniek schuift dus op van ondersteuning naar zelfstandige keuzes. Dat roept de vraag op waar de grens ligt. Voorstanders zeggen dat snellere systemen levens van eigen soldaten kunnen sparen. Tegenstanders wijzen op het risico van fouten zonder menselijke rem.
Duidelijk is in elk geval dat de discussie niet meer theoretisch is. Er ligt software die dit kan, en die draait op de drone zelf.
Wat betekent dit voor Nederland?
Voor Nederland is dit vooral een politiek en juridisch verhaal. Nederland steunt internationale afspraken over autonome wapens en zit via de EU en de NAVO in overleg over regels. Zulke software uit Zweden, een EU-land, maakt die discussie urgenter: als Europese bedrijven dit kunnen bouwen, hoe houd je dan grip op het gebruik? Voor defensiebedrijven en startups in Nederland betekent het dat er meer vraag komt naar kennis over AI en wapens, maar ook naar duidelijke kaders. Verwacht geen concrete prijzen of releasedata; die zijn nog niet bekend.
Een drone die zelf een doelwit kiest en aanvalt, dat is niet meer het werk dat AI van mij mag doen. Bij mij mogen modellen rekenen, analyseren en rapporteren zoveel ze willen, maar de knoppen waarmee je geld of mensen raakt blijven bij een mens. Zet die regel in de wet voordat dit soort software zich verspreidt, want als dit fout gaat is dat niet terug te draaien.
Veelgestelde vragen
wat is een autonome aanvalsdrone?
Dat is een drone die zelf een doelwit herkent en kiest, zonder dat een mens op dat moment goedkeuring geeft. De software van Scaleout Systems draait volledig aan boord.
mag dit in Nederland en de EU?
Er zijn nog geen harde, wereldwijde regels voor volledig autonome wapens. Nederland en de EU praten wel over beperkingen, maar duidelijke wetgeving ontbreekt nog.
wie is verantwoordelijk als zo'n drone een fout maakt?
Dat is nog niet helder. Mogelijk de programmeur, fabrikant of commandant, maar daarover bestaan nog geen afspraken.
Lees ook
Tekst en beeld gemaakt met AI op basis van de genoemde bronnen, de take in de stem van Maxim. Hoe dat werkt.