Mogen killer robots beslissen over leven en dood?

Een robotsoldaat die zelf beslist of hij een mogelijke terrorist doodschiet, oftewel: een ‘killer robot’. Klinkt als sci-fi, maar deze week vergaderen experts bij de VN over de vraag of autonome wapensystemen moeten worden verboden.

Voorstanders zeggen dat het inzetten van autonome robots levens kan redden, tegenstanders vinden ze veel te gevaarlijk. Echte ‘killer robots’ bestaan nog niet, maar veel moderne wapens beslissen voor een deel al zelf of ze wel of niet vuren. En er zijn al drones natuurlijk, waarbij een militair soms op duizenden kilometers afstand besluit om te schieten.

Meer info

Militaire robots

Onbemande vliegtuigen die zelf beslissen over leven en dood. Nu nog toekomstmuziek, maar hoe lang nog? Militaire robottechnologie is in een stroomversnelling gekomen. Met name de Amerikanen maken er veel gebruik van. Lambèr Royakkers is van de techniek aan de Technische Universiteit Eindhoven. Hij pleit in het boek Overal robots. Automatisering van de liefde tot de dood voor een verbod op de ontwikkeling van bewapende robots.

Luister hier naar de uitzending (20 mei 2013, IKON, De andere wereld)

Alziend oog is gevaar voor privacy

Drones met intelligente camerasystemen en geur- en warmte-detectiesensoren bieden nieuwe mogelijkheden bij het uitvoeren van politietaken: het opsporen van wetsovertredingen en misdrijven, handhaving van de rechtsorde en preventie. In Nederland worden al politiedrones ingezet voor het opsporen van wietplantages, het beveiligen van festivals, het ontruimen van gebouwen en het verkennen van stedelijk gebied om inbraken te voorkomen.

De keerzijde is een mogelijke aantasting van de privacy van burgers. Door de inzet van drones kan controle worden uitgeoefend op een wijze die daarvoor niet mogelijk was. Inbreuk op privacy is toegestaan, indien daar goede redenen voor kunnen worden gegeven. De overheid draagt tenslotte de verantwoordelijkheid voor de veiligheid van haar burgers. De mogelijkheid bestaat echter dat handelingen van burgers 24 uur per dag geregistreerd worden.

Lees hier het hele artikel (16 mei 2013, Eindhovens Dagblad)

Bijna ondoendlijk om drones te handhaven

De politie is bezig met het opzetten van een drone-afdeling. Dat blijkt uit antwoorden van minister Opstelten op kamervragen over het gebruik van drones door de politie. Afgelopen jaar maakte de politie al 81 keer gebruik van drones bij opsporing en handhaving van de openbare orde. Ook worden drones ingezet door de brandweer en Rijkswaterstaat. U hoort Lamber Royakkers, universitair hoofddocent Ethiek en Techniek aan de TU in Eindhoven.

Luister hier naar de uitzending (10 mei 2013, NOS)

Killer Robots: hoe ver zijn we daar al mee?

De Terminator en Robocop – pure Science Fiction? Niet volgens een aantal mensenrechtenorganisaties. Zij lanceerden vandaag een campagne tegen zulke ‘killer robots’, gevechtsapparaten die zelfstandig beslissen of ze iemand doden of niet. Maar hoe ver zijn we daar eigenlijk mee? We vroegen het aan Lambèrt Royakkers van de Technische Universiteit Eindhoven.

Bekijk hier de aflevering (24 april 2013, NOS op 3)

Drones, HELA cellen en het afweersysteem

Drones worden steeds vaker ingezet, en ook privé worden ze steeds meer gebruikt. In de studio vertelt universitair hoofddocent Ethiek & Techniek aan de TU in Eindhoven Lambèr Royakkers over hoe drones de onze wereld gaan veranderen. Verder praten we met Edwin Cuppen, moleculair geneticus van het Hubrecht instituut in Utrecht, over de HELA-cellen die veel worden gebruikt voor onderzoek maar waarover tot nu toe nog niet zoveel bekend was. Ook spreken we met Jorieke Peters, onderzoeker bij het Radboud Medisch Centrum over het afweersysteem bij orgaantransplantatie.

Luister hier de uitzending (24 maart 2013, Wetenschap 24)

De Andere Wereld: Militaire robots

Luister hier de radiouitzending van de IKON (De Andere Wereld) over militaire robots (20 mei 2012)

Onbemande vliegtuigen die zelf beslissen over leven en dood. Nu nog toekomstmuziek, maar hoe lang nog? Militaire robottechnologie is in een stroomversnelling gekomen. Met name de Amerikanen maken er veel gebruik van. Lambèr Royakkers is van de techniek aan de Technische Universiteit Eindhoven. Hij pleit in het boek Overal robots. Automatisering van de liefde tot de dood voor een verbod op de ontwikkeling van bewapende robots.

Drones voor politie. Big Brother in de lucht

De Groene Amsterdammer – Tom Vandyck – 22 december 2011

Drones worden alziend oog voor de politie – Big Brother kiest het luchtruim

Na de oorlogen in Iran en Afghanistan staan drones – onbemande vliegtuigen – aan de rand van een doorbraak in de burgerluchtvaart. Politiekorpsen staan vooraan in de rij om ze in te zetten. Maar daar bestaat behoorlijk wat onrust over: de privacy van de burger gaat eraan, zeggen sceptici.

De luchtvaartschool van de University of North Dakota (UND) in Grand Forks ligt even ten oosten van de naar het stadje vernoemde luchtmachtbasis en een uurtje ten zuiden van de Canadese grens. Tijdens de Koude oorlog waren hier strategische bommenwerpers en ballistische raketten gestationeerd die in geval van oorlog de Sovjet-Unie tot een radioactieve puinhoop moesten herleiden.

Grand Forks Air Force Base is sindsdien een groot deel van zijn strategisch belang verloren. De raketten en de meeste bommenwerpers zijn weg. Maar onder de radar zijn hier dingen aan de gang die de toekomst van de luchtvaart grondig kunnen veranderen. Vandaag is Grand Forks ook de thuisbasis voor Predator-drones van de U.S. Customs & Border Protection, de grenspolitie, die ze gebruikt om de instroom van illegale immigranten en vermeende terroristen tegen te houden.

Tenminste: in principe. Begin december werd één Predator B (hetzelfde toestel waarmee de VS in het buitenland op terroristen jaagt) in North Dakota ingezet om enkele Amerikaanse staatsburgers te helpen inrekenen. Het ging om zes leden van de familie Brossart. Die hadden geweigerd om zes op hun land verdwaalde koeien terug te geven aan hun buurman.

De Brossarts stonden bij de politie bekend als gewapende ‘sovereign citizens’, extreemrechtse lui die het niet op de overheid begrepen hebben. De plaatselijke sheriff riep dan ook de hulp in van de grenspolitie, die de Brossarts vond met de Predator en vaststelde dat ze niet gewapend waren, waarna ze zonder al teveel verdere incidenten gearresteerd werden.

Het was niet de eerste keer dat de politie de drones gebruikte. In de nasleep van de interventie gaf de plaatselijke politie aan de krant The Los Angeles Times toe dat ze al “minstens twee dozijn keer” de hulp van de Predators heeft ingeroepen. Ook in andere delen van de VS zijn er drones ingezet door de politiediensten en het Drug Enforcement Agency (DEA). En daar zijn critici bezorgd over. Voor het gebruik van onbemande vliegtuigen bestaan namelijk geen wettelijke regels. De politie bespioneert de bevolking op ongeoorloofde wijze, zo luidt de kritiek.

Verdwaalde jager

Op UND is men niet ongelukkig met die evolutie. Daar heeft men sinds 2005 een school voor drone-piloten en een onderzoekscentrum voor onbemande luchtvaarttechnologie dat onder andere het Pentagon en de Nasa onder zijn klanten telt.

“Wat je met deze toestellen kan, wordt alleen beperkt voor je eigen verbeelding” Zegt Alan W. Palmer, de generaal die het hoofd is van het Center for UAS Research, Education & Training, zoals de drone-school voluit heet. “Volgens ons zal de onbemande luchtvaart de komende jaren heel wat banen scheppen.”

Palmer heeft overigens liever niet dat je over drones praat. Hoewel dat woord ook meermaals over zijn eigen lippen rolt, hoort hij liever ‘UAS’ (Unmanned Aerial System), of ‘RPA’ (Remotely Piloted Aircraft).

Hoe dan ook kan hij het met zijn optimistische toekomstverwachtingen wel eens bij het rechte eind hebben. Nu de oorlog in Irak voorbij is en die in Afghanistan zijn eindfase ingaat, zijn de fabrikanten van drones naarstig op zoek naar nieuwe afzetmarkten. Veel aandacht gaat daarbij naar de burgermarkt.

Tot nog toe laten de burgerluchtvaartregels nauwelijks toe dat er met ombemande vliegtuigen rondgevlogen wordt in het Amerikaanse luchtruim. In Europa is het net eender. Maar dat lijkt te zullen veranderen, want de fabrikanten lobbyen volop om nieuwe regels, zodat de burgermarkt open kan. Op UND wordt er dan ook geëxperimenteerd met boordcomputers die vermijden dat onbemande toestellen ongelukken veroorzaken in de lucht en dat ze volautomatisch kunnen landen, zelfs als ze het contact verliezen met de piloot op de grond.

Potentiële burgertoepassingen zijn er bij de vleet (zie kader). Zo stuurde UND vorig jaar met succes een kleine ScanEagle-drone uit om een verdwaalde jager terug te vinden in de dichte noordelijke wouden van de buurstaat Minnesota. Maar de grootste potentiële klanten zijn politiekorpsen.

“Steden die niet de middelen hebben voor een eigen helikopter, kunnen misschien een klein UAS gebruiken om luchtbeelden krijgen als ze die nodig hebben”, zegt Trevor J. Woods, vluchtinstructeur voor dronepiloten op UND. “Dat kan zijn om een gestolen auto te volgen, voor snelheidscontroles uit de lucht, of om verkeersopstoppingen in de gaten te houden.”

Vooral het prijskaartje is aantrekkelijk. Palmer: “Een typische politiehelikopter is de Bell 206. Die kost ongeveer een miljoen dollar. Een klein UAS kost tien- tot twintigduizend dollar. Tel uit je winst. En dan tel je de piloot en de operationele kosten niet eens mee. In de VS zijn er 19.000 politiekorpsen. 670 daarvan hebben luchtsteun. Alleen de grote steden, met andere woorden. Die kunnen zich dat permitteren.”

Hellend vlak

En daar begint het probleem. Als politiekorpsen massaal zulke goedkope drones ter beschikking krijgen, dan is dat een rechtstreekse bedreiging voor de privacy van de burgers, stellen critici.

“Drones maken een nooit geziene politiestaat mogelijk” stelde de invloedrijke Amerikaanse advocaat/publicist Glenn Greenwald onlangs op de website Salon.com. “Omdat kleine drones veel goedkoper zijn dan politiehelikopters, kan men er veel meer tegelijkertijd inzetten, zodat een veel groter gebied onder surveillance gehouden kan worden. Omdat ze zo klein zijn, kunnen ze veel langer in de lucht kunnen blijven dan politiehelikopters, zonder opgemerkt te worden.”

Met andere woorden: door vloten van drones in te zetten, kan de politie de burgers constant in de gaten houden vanuit de lucht. Voor de prijs van één heli, heb je tientallen ScanEagles, een toestel dat in de koffer van een flinke auto past. Een vliegveld heeft de ScanEagle niet nodig: je lanceert hem met een katapult. Een kabel vangt hem op bij de landing. “Schiet hem van een hoog gebouw af en je kan een grootstand onder surveillance houden”, bevestigt Trevor Woods.

Tegelijkertijd worden er miniatuurdrones ontwikkeld, toestelletjes die niet veel groter zijn dan een libel en binnenin gebouwen kunnen opereren. Palmer: “In augustus hadden we hier een competitie en ze hadden er toen één die binnenvloog in een gebouw en helemaal alleen uitzocht waar de ramen en deuren waren en hoe de ruimtes eruit zagen. Heel goed voor bijvoorbeeld een interventieteam van de politie dat met een gijzelingssituatie te maken heeft.”

“We zitten op een hellend vlak”, zegt Lambèr Royakkers,professor in de ethiek aan de Technische Universiteit Eindhoven. “Je moet je afvragen: hoe ver gaan we hiermee? Anders gaan we echt langzaan naar een cultuur van Big Brother is watching you.”

Palmer relativeert. Volgens hem zijn drones niet anders dan politiehelikopters. “Je kan een helikopter de lucht in sturen, maar die kost veel meer geld en hij kan maar twee uur vliegen. Met een UAS doe je veel goedkoper exact hetzelfde.”

Palmer erkent dat er potentiële privacy-issues zijn, maar daar wordt te paniekerig op gereageerd, vindt hij. “Je hoort vertellen dat die drones uitgerust zijn meer zeer krachtige camera’s die je nummerplaat kunnen lezen vanuit de lucht. Ik zeg je: dat is onmogelijk. Op de kleinere ombemande systemen – degene die je in de nabije toekomst zal zien bij de politie – zitten camera’s met onderdelen die je gewoon in de winkel kan krijgen. Je kan niet in iemands raam binnenkijken vanwege de weerspiegeling van het zonlicht en je kan geen nummerplaat lezen, want dat is een heel klein doelwit en de helft van de tijd film je het uit zo’n scherpe hoek dat je sowieso niks kan zien.”

Surveillancestaat

Belgische politiediensten overwegen op dit moment niet om drones in te schakelen. “Die toestellen beantwoorden niet aan onze behoeften en opdrachten”, zeg Agnes Reis, woordvoerster van de federale politie. In Nederland is er wel denkwerk verricht over politiedrones. Daar onderzocht men scenario’s als het inzetten van drones om mensen te vinden die vermist zijn in natuurgebieden, of het opsporen van cannabisplantages.

Daar is in principe niets op tegen, zegt Royakkers, maar er moeten regels zijn over wat wel en niet mag. De technologie wordt steeds beter en goedkoper. De camera’s waarmee de CIA terroristen identificeert van op kilometers hoogte zal op termijn ook binnen het bereik van politiekorpsen liggen. Daar bestaan momenteel gen regels voor en dat is een risico, vindt Royakkers.

“We zitten sinds 9/11 in een tendens waarin veiligheid het steeds haalt van privacy. In naam van de veiligheid mogen we in één keer alles over een persoon weten. Maar je moet je afvragen: waarom zouden we een deel van onze privacy opgeven? Ik kan me voorstellen waarom ik dat soms wél doe. Als ik bijvoorbeeld naar de VS ga, weet ik dat ik voorbij de douane moet en dat men daar precies weet wie ik ben. Maar dat is wat anders dan constant gevolgd worden.”

Ook dat vindt Palmer meevallen. “Ik was pas nog in New York. Ik liep over 5th Avenue met mijn vrouw en dan word je toch ook constant gefilmd door bewakingscamera’s? Maar daar denk je niet eens over. Ik deed trouwens niks wat niet gezien mocht worden.”

Daar gaat het niet om, zegt Royakers. Neem de veiligheidscamera’s op de grond samen met drones en software die steeds beter wordt in gezichtsherkenning en het identificeren van verdacht gedrag en je kan jezelf onder al teveel moeite een alziende surveillancestaat voorstellen.

“De gedachte dat je constant gevolgd kan worden op zich zorgt ervoor dat je niet echt meer een vrij mens bent. De vraag is: is het nog te stoppen? Vanuit de politiek hoor je weinig aanzet tot debat. Daar laat men de technologie komen en pas als het er is, grijpt men in. Maar de politiek hoort dus nu al te reageren, want als de techniek er is en sluipend wordt ingevoerd in de maatschappij, dan lopen we achter de feiten aan en is het heel moeilijk om het nog terug te draaien.”

***KADER***

De opmars van de drones

Niet alleen bij de politie kunnen onbemande vliegtuigen gedienstig zijn. Een reeks andere burgertoepassingen dient zich aan.

In de landbouw Drones kunnen niet alleen – voor de hand liggend – gewassen besproeien, ze kunnen ook uitgerust worden met sensoren die de gezondheid van gewassen registeren, of de vruchtbaarheid van de bodem. Vooral in ontwikkelingslanden, waar er weinig wegen zijn, kan dat een verschil maken, zegt generaal Alan Palmer. “We zullen efficiënter voedsel kweken. Meer productiviteit met minder pesticiden en chemicaliën. We moéten drones niet gebruiken om mensen te doden, we kunnen ze ook helpen.”

Bij natuurrampen Het grote voordeel: een drone moet veel minder tanken – en dus landen – dan een bemand toestel. De grotere drones kunnen tot 36 uur aan een stuk doorvliegen. De piloten op de grond kunnen elkaar zo vaak als nodig aflossen. Gevolg: het toestel kan zich veel langer bezighouden met het opsporen van vermisten. Is de communicatie uitgevallen, dan kan je een drone volproppen met gsm-apparrauur en hem gebruiken als vliegende zendmast. Toen de kerncentrale in Fukushima aan het smelten ging, vlogen Amerikaanse drones er overheen om de straling te meten. En, meer prozaïsch: toen er vorig jaar watersnood dreigde nabij Grand Forks, vloog een drone van de universiteit elke dag uit om de situatie in kaart te brengen. Vluchtinstructeur Trevor Woods: “Normaal hebben we mensen die over de dijken lopen om ze te inspecteren. Het is beter dat je zo’n ding in de lucht hebt op het moment dat de dijk breekt dan dat er iemand op die dijk staat.”

In de luchtvaart Vrachtvliegtuigen hebben vandaag doorgaans meerdere piloten aan boord die elkaar aflossen bij lange vluchten. Dat hoeft niet zo te blijven. In principe heb je genoeg aan één piloot die het opstijgen voor zijn rekening neemt en dan desnoods kan dutten terwijl piloten op de grond overnemen, tot het tijd is om te landen. In principe kan dat zelfs net zo goed met passagiersvliegtuigen. Palmer: “Vandaag vliegen die ook al vaker dan je denkt op computers, terwijl de passagiers van niks weten. In grote vliegtuigen zet men kort na opstijgen de automaat op. Je moet dat vliegtuig niet meer aanraken tot je van de landingsbaan af moet taxiën. De automaat zet het vliegtuig zelf aan de grond.” Woods: “Op dat punt gaat de lijn vervagen tussen een robotsysteem en een op afstand bestuurd vliegtuig. De vraag is: zullen mensen ooit op een vliegtuig willen stappen waar geen piloot in zit die op zijn minst en deel van de vlucht voor zijn rekening neemt?”