Nadenken over de consequenties van robotica

Bijna elke faculteit aan de TU/e is wel op een of andere manier bezig met robotica. Robots die ingezet worden bij een oogoperatie, die helpen in de huishouding of die samen voetballen. In het lab zijn het ongevaarlijke machines, gemaakt om ons te helpen of te amuseren. Toch moeten ingenieurs nu al nadenken over de gevolgen van hun technologie. Want wie is straks verantwoordelijk wanneer een zorgrobot een bejaarde zwaar verwondt en welke gevolgen heeft een autonome auto voor ons gezinsleven?

Lees hier het volledige interview met Lamber Royakkers in Slash, het tijdschrift van de Technische Universiteit Eindhoven.

Willen we wel overal robots

Cursor – 18 april 2012

Robotica is booming business. Maar willen we wel slimme autorobots of zorgrobots die onze billen wassen? Lambèr Royakkers, UHD Ethiek en Techniek (IE&IS), inventariseerde daarom de robotica-ontwikkelingen met twee onderzoekers van het Rathenau Instituut. Nederland dreigt achterop te raken in de robotica-innovatiestrijd doordat het politici en beleidsmakers ontbreekt aan een goeddoordachte visie, zo concluderen ze in hun boek “Overal Robots. Automatisering van de liefde tot de dood”.

Lambèr Royakkers en zijn twee medeauteurs onderzochten de kansen en risico’s van de toenemende inzet van robots op vijf verschillende gebieden: robots thuis, in de zorg, in het verkeer, bij de politie en bij defensie. Dat robots in de toekomst onze smerige, gevaarlijke of geestdodende handelingen gaan overnemen vinden we prima. Maar bij een op de mens geïnspireerde robot, die zelf kan handelen en beslissen, liggen de zaken gecompliceerder. Daarom is het volgens Royakkers belangrijk dat er nagedacht wordt over ethische en privacykwesties rond ontwikkelingen in de robotica.

Royakkers: “De ontwikkelingen in de roboticawereld gaan zo snel dat we nu onze richting moeten bepalen, anders zijn we te laat. Zo is er een wapenwedloop gaande en worden er bij militaire acties al volop onbemande drones in gezet. En het duurt niet lang meer voordat er soldatenrobots rondlopen die zelf beslissen te doden. Op dit gebied is er al bijna geen weg meer terug. Maar op andere vlakken kunnen we nog bepalen wat we wel en niet willen. Het is dus van belang dat de politiek hier snel aandacht aan gaat besteden.”

De officiële boekpresentatie van “Overal Robots. Automatisering van de liefde tot de dood” vindt plaats op 15 mei van 15.30 uur tot 18.00 uur in het Theater aan het Spui (Den Haag). Naast een lezing van Lambèr Royakkers, worden er ook een talkshow met experts en enkele robotpresentaties gehouden. (NT)

Bekijk hier het artikel in de Cursor

Drones voor politie. Big Brother in de lucht

De Groene Amsterdammer – Tom Vandyck – 22 december 2011

Drones worden alziend oog voor de politie – Big Brother kiest het luchtruim

Na de oorlogen in Iran en Afghanistan staan drones – onbemande vliegtuigen – aan de rand van een doorbraak in de burgerluchtvaart. Politiekorpsen staan vooraan in de rij om ze in te zetten. Maar daar bestaat behoorlijk wat onrust over: de privacy van de burger gaat eraan, zeggen sceptici.

De luchtvaartschool van de University of North Dakota (UND) in Grand Forks ligt even ten oosten van de naar het stadje vernoemde luchtmachtbasis en een uurtje ten zuiden van de Canadese grens. Tijdens de Koude oorlog waren hier strategische bommenwerpers en ballistische raketten gestationeerd die in geval van oorlog de Sovjet-Unie tot een radioactieve puinhoop moesten herleiden.

Grand Forks Air Force Base is sindsdien een groot deel van zijn strategisch belang verloren. De raketten en de meeste bommenwerpers zijn weg. Maar onder de radar zijn hier dingen aan de gang die de toekomst van de luchtvaart grondig kunnen veranderen. Vandaag is Grand Forks ook de thuisbasis voor Predator-drones van de U.S. Customs & Border Protection, de grenspolitie, die ze gebruikt om de instroom van illegale immigranten en vermeende terroristen tegen te houden.

Tenminste: in principe. Begin december werd één Predator B (hetzelfde toestel waarmee de VS in het buitenland op terroristen jaagt) in North Dakota ingezet om enkele Amerikaanse staatsburgers te helpen inrekenen. Het ging om zes leden van de familie Brossart. Die hadden geweigerd om zes op hun land verdwaalde koeien terug te geven aan hun buurman.

De Brossarts stonden bij de politie bekend als gewapende ‘sovereign citizens’, extreemrechtse lui die het niet op de overheid begrepen hebben. De plaatselijke sheriff riep dan ook de hulp in van de grenspolitie, die de Brossarts vond met de Predator en vaststelde dat ze niet gewapend waren, waarna ze zonder al teveel verdere incidenten gearresteerd werden.

Het was niet de eerste keer dat de politie de drones gebruikte. In de nasleep van de interventie gaf de plaatselijke politie aan de krant The Los Angeles Times toe dat ze al “minstens twee dozijn keer” de hulp van de Predators heeft ingeroepen. Ook in andere delen van de VS zijn er drones ingezet door de politiediensten en het Drug Enforcement Agency (DEA). En daar zijn critici bezorgd over. Voor het gebruik van onbemande vliegtuigen bestaan namelijk geen wettelijke regels. De politie bespioneert de bevolking op ongeoorloofde wijze, zo luidt de kritiek.

Verdwaalde jager

Op UND is men niet ongelukkig met die evolutie. Daar heeft men sinds 2005 een school voor drone-piloten en een onderzoekscentrum voor onbemande luchtvaarttechnologie dat onder andere het Pentagon en de Nasa onder zijn klanten telt.

“Wat je met deze toestellen kan, wordt alleen beperkt voor je eigen verbeelding” Zegt Alan W. Palmer, de generaal die het hoofd is van het Center for UAS Research, Education & Training, zoals de drone-school voluit heet. “Volgens ons zal de onbemande luchtvaart de komende jaren heel wat banen scheppen.”

Palmer heeft overigens liever niet dat je over drones praat. Hoewel dat woord ook meermaals over zijn eigen lippen rolt, hoort hij liever ‘UAS’ (Unmanned Aerial System), of ‘RPA’ (Remotely Piloted Aircraft).

Hoe dan ook kan hij het met zijn optimistische toekomstverwachtingen wel eens bij het rechte eind hebben. Nu de oorlog in Irak voorbij is en die in Afghanistan zijn eindfase ingaat, zijn de fabrikanten van drones naarstig op zoek naar nieuwe afzetmarkten. Veel aandacht gaat daarbij naar de burgermarkt.

Tot nog toe laten de burgerluchtvaartregels nauwelijks toe dat er met ombemande vliegtuigen rondgevlogen wordt in het Amerikaanse luchtruim. In Europa is het net eender. Maar dat lijkt te zullen veranderen, want de fabrikanten lobbyen volop om nieuwe regels, zodat de burgermarkt open kan. Op UND wordt er dan ook geëxperimenteerd met boordcomputers die vermijden dat onbemande toestellen ongelukken veroorzaken in de lucht en dat ze volautomatisch kunnen landen, zelfs als ze het contact verliezen met de piloot op de grond.

Potentiële burgertoepassingen zijn er bij de vleet (zie kader). Zo stuurde UND vorig jaar met succes een kleine ScanEagle-drone uit om een verdwaalde jager terug te vinden in de dichte noordelijke wouden van de buurstaat Minnesota. Maar de grootste potentiële klanten zijn politiekorpsen.

“Steden die niet de middelen hebben voor een eigen helikopter, kunnen misschien een klein UAS gebruiken om luchtbeelden krijgen als ze die nodig hebben”, zegt Trevor J. Woods, vluchtinstructeur voor dronepiloten op UND. “Dat kan zijn om een gestolen auto te volgen, voor snelheidscontroles uit de lucht, of om verkeersopstoppingen in de gaten te houden.”

Vooral het prijskaartje is aantrekkelijk. Palmer: “Een typische politiehelikopter is de Bell 206. Die kost ongeveer een miljoen dollar. Een klein UAS kost tien- tot twintigduizend dollar. Tel uit je winst. En dan tel je de piloot en de operationele kosten niet eens mee. In de VS zijn er 19.000 politiekorpsen. 670 daarvan hebben luchtsteun. Alleen de grote steden, met andere woorden. Die kunnen zich dat permitteren.”

Hellend vlak

En daar begint het probleem. Als politiekorpsen massaal zulke goedkope drones ter beschikking krijgen, dan is dat een rechtstreekse bedreiging voor de privacy van de burgers, stellen critici.

“Drones maken een nooit geziene politiestaat mogelijk” stelde de invloedrijke Amerikaanse advocaat/publicist Glenn Greenwald onlangs op de website Salon.com. “Omdat kleine drones veel goedkoper zijn dan politiehelikopters, kan men er veel meer tegelijkertijd inzetten, zodat een veel groter gebied onder surveillance gehouden kan worden. Omdat ze zo klein zijn, kunnen ze veel langer in de lucht kunnen blijven dan politiehelikopters, zonder opgemerkt te worden.”

Met andere woorden: door vloten van drones in te zetten, kan de politie de burgers constant in de gaten houden vanuit de lucht. Voor de prijs van één heli, heb je tientallen ScanEagles, een toestel dat in de koffer van een flinke auto past. Een vliegveld heeft de ScanEagle niet nodig: je lanceert hem met een katapult. Een kabel vangt hem op bij de landing. “Schiet hem van een hoog gebouw af en je kan een grootstand onder surveillance houden”, bevestigt Trevor Woods.

Tegelijkertijd worden er miniatuurdrones ontwikkeld, toestelletjes die niet veel groter zijn dan een libel en binnenin gebouwen kunnen opereren. Palmer: “In augustus hadden we hier een competitie en ze hadden er toen één die binnenvloog in een gebouw en helemaal alleen uitzocht waar de ramen en deuren waren en hoe de ruimtes eruit zagen. Heel goed voor bijvoorbeeld een interventieteam van de politie dat met een gijzelingssituatie te maken heeft.”

“We zitten op een hellend vlak”, zegt Lambèr Royakkers,professor in de ethiek aan de Technische Universiteit Eindhoven. “Je moet je afvragen: hoe ver gaan we hiermee? Anders gaan we echt langzaan naar een cultuur van Big Brother is watching you.”

Palmer relativeert. Volgens hem zijn drones niet anders dan politiehelikopters. “Je kan een helikopter de lucht in sturen, maar die kost veel meer geld en hij kan maar twee uur vliegen. Met een UAS doe je veel goedkoper exact hetzelfde.”

Palmer erkent dat er potentiële privacy-issues zijn, maar daar wordt te paniekerig op gereageerd, vindt hij. “Je hoort vertellen dat die drones uitgerust zijn meer zeer krachtige camera’s die je nummerplaat kunnen lezen vanuit de lucht. Ik zeg je: dat is onmogelijk. Op de kleinere ombemande systemen – degene die je in de nabije toekomst zal zien bij de politie – zitten camera’s met onderdelen die je gewoon in de winkel kan krijgen. Je kan niet in iemands raam binnenkijken vanwege de weerspiegeling van het zonlicht en je kan geen nummerplaat lezen, want dat is een heel klein doelwit en de helft van de tijd film je het uit zo’n scherpe hoek dat je sowieso niks kan zien.”

Surveillancestaat

Belgische politiediensten overwegen op dit moment niet om drones in te schakelen. “Die toestellen beantwoorden niet aan onze behoeften en opdrachten”, zeg Agnes Reis, woordvoerster van de federale politie. In Nederland is er wel denkwerk verricht over politiedrones. Daar onderzocht men scenario’s als het inzetten van drones om mensen te vinden die vermist zijn in natuurgebieden, of het opsporen van cannabisplantages.

Daar is in principe niets op tegen, zegt Royakkers, maar er moeten regels zijn over wat wel en niet mag. De technologie wordt steeds beter en goedkoper. De camera’s waarmee de CIA terroristen identificeert van op kilometers hoogte zal op termijn ook binnen het bereik van politiekorpsen liggen. Daar bestaan momenteel gen regels voor en dat is een risico, vindt Royakkers.

“We zitten sinds 9/11 in een tendens waarin veiligheid het steeds haalt van privacy. In naam van de veiligheid mogen we in één keer alles over een persoon weten. Maar je moet je afvragen: waarom zouden we een deel van onze privacy opgeven? Ik kan me voorstellen waarom ik dat soms wél doe. Als ik bijvoorbeeld naar de VS ga, weet ik dat ik voorbij de douane moet en dat men daar precies weet wie ik ben. Maar dat is wat anders dan constant gevolgd worden.”

Ook dat vindt Palmer meevallen. “Ik was pas nog in New York. Ik liep over 5th Avenue met mijn vrouw en dan word je toch ook constant gefilmd door bewakingscamera’s? Maar daar denk je niet eens over. Ik deed trouwens niks wat niet gezien mocht worden.”

Daar gaat het niet om, zegt Royakers. Neem de veiligheidscamera’s op de grond samen met drones en software die steeds beter wordt in gezichtsherkenning en het identificeren van verdacht gedrag en je kan jezelf onder al teveel moeite een alziende surveillancestaat voorstellen.

“De gedachte dat je constant gevolgd kan worden op zich zorgt ervoor dat je niet echt meer een vrij mens bent. De vraag is: is het nog te stoppen? Vanuit de politiek hoor je weinig aanzet tot debat. Daar laat men de technologie komen en pas als het er is, grijpt men in. Maar de politiek hoort dus nu al te reageren, want als de techniek er is en sluipend wordt ingevoerd in de maatschappij, dan lopen we achter de feiten aan en is het heel moeilijk om het nog terug te draaien.”

***KADER***

De opmars van de drones

Niet alleen bij de politie kunnen onbemande vliegtuigen gedienstig zijn. Een reeks andere burgertoepassingen dient zich aan.

In de landbouw Drones kunnen niet alleen – voor de hand liggend – gewassen besproeien, ze kunnen ook uitgerust worden met sensoren die de gezondheid van gewassen registeren, of de vruchtbaarheid van de bodem. Vooral in ontwikkelingslanden, waar er weinig wegen zijn, kan dat een verschil maken, zegt generaal Alan Palmer. “We zullen efficiënter voedsel kweken. Meer productiviteit met minder pesticiden en chemicaliën. We moéten drones niet gebruiken om mensen te doden, we kunnen ze ook helpen.”

Bij natuurrampen Het grote voordeel: een drone moet veel minder tanken – en dus landen – dan een bemand toestel. De grotere drones kunnen tot 36 uur aan een stuk doorvliegen. De piloten op de grond kunnen elkaar zo vaak als nodig aflossen. Gevolg: het toestel kan zich veel langer bezighouden met het opsporen van vermisten. Is de communicatie uitgevallen, dan kan je een drone volproppen met gsm-apparrauur en hem gebruiken als vliegende zendmast. Toen de kerncentrale in Fukushima aan het smelten ging, vlogen Amerikaanse drones er overheen om de straling te meten. En, meer prozaïsch: toen er vorig jaar watersnood dreigde nabij Grand Forks, vloog een drone van de universiteit elke dag uit om de situatie in kaart te brengen. Vluchtinstructeur Trevor Woods: “Normaal hebben we mensen die over de dijken lopen om ze te inspecteren. Het is beter dat je zo’n ding in de lucht hebt op het moment dat de dijk breekt dan dat er iemand op die dijk staat.”

In de luchtvaart Vrachtvliegtuigen hebben vandaag doorgaans meerdere piloten aan boord die elkaar aflossen bij lange vluchten. Dat hoeft niet zo te blijven. In principe heb je genoeg aan één piloot die het opstijgen voor zijn rekening neemt en dan desnoods kan dutten terwijl piloten op de grond overnemen, tot het tijd is om te landen. In principe kan dat zelfs net zo goed met passagiersvliegtuigen. Palmer: “Vandaag vliegen die ook al vaker dan je denkt op computers, terwijl de passagiers van niks weten. In grote vliegtuigen zet men kort na opstijgen de automaat op. Je moet dat vliegtuig niet meer aanraken tot je van de landingsbaan af moet taxiën. De automaat zet het vliegtuig zelf aan de grond.” Woods: “Op dat punt gaat de lijn vervagen tussen een robotsysteem en een op afstand bestuurd vliegtuig. De vraag is: zullen mensen ooit op een vliegtuig willen stappen waar geen piloot in zit die op zijn minst en deel van de vlucht voor zijn rekening neemt?”

De zelfmoordrobot komt eraan

De Volkskrant – 30 november 2011 – Maarten Keulemans

Ze hebben krijgslustige namen als SWORDS, Crusher, en Reaper en duiken op steeds meer slagvelden op. Tijd voor reflectie op gewapende oorlogsrobots, vindt technisch-ethicus Lamber Royakkers van de TU Eindhoven en de Nederlandse Defensie Academie. En een verbod op robots die geheel zelfstandig vechten, betoogde hij gisteren op een debat in Amsterdam.

Lees hier het volledige artikel.

 

 

Verbied bewapende robot

Reformatorisch Dagblad – 11 september 2011 – Lamber Royakkers

Bewapende militaire robots worden steeds vaker ingezet. Over de ethische en maatschappelijke problemen die daaraan kleven, is volgens dr. ir. Lambèr Royakkers nog onvoldoende nagedacht. Hij pleit voor een verbod op de ontwikkeling van bewapende robots.

Over de hele wereld worden momenteel militaire robots ontwikkeld en duizenden robots zijn al actief in Irak en Afghanistan. Het gaat dan bijvoorbeeld om onbemande bewapende gevechtsvliegtuigen, zoals de Predator, en het onbemande grondvoertuig Swords (Special Weapons Observation Reconnaissance Detection System), dat is uitgerust met camera’s, een grijparm, communicatiemiddelen en eventueel met machinegeweren. Het is met name ontwikkeld voor verkenningen en het opruimen van bermbommen.

De meeste militaire robots zijn nu nog onbewapend en leveren een bijdrage aan het uitvoeren van taken die voor militairen saai of gevaarlijk zijn, of worden ingezet om bepaalde taken effectief en efficiënt uit te voeren. Doel daarbij is het vergroten van de veiligheid van de eigen militairen én van burgers.

De ethische en maatschappelijke problemen doemen op wanneer militaire robots worden uitgerust met wapens. Bewapende systemen moeten alvorens ze kunnen worden ingezet, voldoen aan de beginselen van het oorlogsrecht. Daarbij horen onder meer het proportionaliteitsbeginsel (er mag geen grotere schade worden berokkend dan het doel dat het geweldsgebruik rechtvaardigt) en het discriminatiebeginsel (bij doelwitkeuze moet onderscheid gemaakt kunnen worden tussen strijders en burgers).

In veel gevallen is er inlevingsvermogen en gezond verstand nodig om aan deze beginselen te voldoen, zeker nu er steeds vaker sprake is van niet-traditionele oorlogsvoering van een conventioneel leger met moderne technologie tegen opstandelingen die niet als strijders herkenbaar zijn. Het is zeer vraag of een militaire robot dit vermogen ooit zelf gaat bezitten. In ieder geval niet de komende tien jaar. Het is dus onverantwoord en onrechtmatig om deze robots nu in te zetten.

Ethische reflectie

Sommige auteurs betogen dan ook dat de beslissing over het al dan niet vernietigen van militaire doelen altijd via menselijke tussenkomst moet worden genomen. Het probleem is echter dat dit in feite onmogelijk is. Om een beslissing te nemen moet een veelheid aan informatie uit verschillende bronnen worden geïntegreerd en geïnterpreteerd. Computers kunnen dit veel beter dan mensen, voor wie dit haast ondoenlijk is. Met als gevolg dat de operator die zo’n robot op afstand bestuurt, geen volledige controle meer heeft over zijn beslissingen.

Daarnaast zijn de interfaces voor de operators zo ontworpen dat ze slechts abstracte en indirecte beelden tonen van de vijand en van militaire doelen, omdat ze minder stress veroorzaken dan realistische beelden. Daardoor ontstaat een morele en emotionele afstand tussen een fatale actie en de ethische implicatie van die actie, waardoor de operator ongevoelig wordt voor de gevolgen van zijn beslissingen. Het kan toch niet zo zijn dat operators beslissingen nemen over leven en dood alsof ze een videospelletje spelen?

Misschien wel het grootste, maar ook het meest onderschatte probleem is de proliferatie van bewapende robots. Militaire robots zijn relatief goedkoop en eenvoudig te kopiëren. Daarbij is het onderzoek en de ontwikkeling van deze systemen vrij transparant en toegankelijk. De kans is dan ook groot dat instabiele landen en terroristische organisaties in de toekomst bewapende robots gaan inzetten als ze op de markt zijn. Ze zouden wel eens hét strijdmiddel kunnen worden van fundamentalisten of terroristen. Dit zou dramatische gevolgen kunnen hebben, waarbij de impact van bermbommen en zelfmoordaanslagen in het niet valt.

Een verbod op de ontwikkeling van bewapende robots is daarom wenselijk. Of zo’n verbod haalbaar is, is voornamelijk afhankelijk van de opstelling van de Verenigde Staten, die juist hun zinnen hebben gezet op autonome bewapende robots en voor de ontwikkeling daarvan in 2010 4,5 miljard dollar hebben gereserveerd. Het is daarom van groot belang dat de andere NAVO-landen, die vooral inzetten op de ontwikkeling van onbewapende militaire robots, de Verenigde Staten aan de onderhandelingstafel krijgen.

Verenigde Staten

Dit zal niet eenvoudig zijn omdat de Verenigde Staten met enige regelmaat dit soort ontwikkelingen frustreren. Dit blijkt bijvoorbeeld uit het feit dat de Verenigde Staten geen partij is in de wapenbeheersingsverdragen en geen partij is bij het statuut van het Internationaal Strafhof. Dit hof is bevoegd in strafzaken op het gebied van genocide, misdrijven tegen de menselijkheid en oorlogsmisdaden.

Door de snelle ontwikkeling van de militaire robotica is een internationaal debat over de gevolgen hiervan tot nu toe uitgebleven. De inzet van militaire robots gaat de hele wereld aan, en het is dan ook van belang dat alle betrokkenen met verschillende belangen en opvattingen met elkaar in debat gaan. Uitgangspunt van zo’n debat moet zijn het ontwikkelen van gemeenschappelijke juridische en ethische principes voor een verantwoorde inzet van militaire robots.

De auteur is universitair hoofddocent ethiek van de techniek aan de Technische Universiteit Eindhoven en universitair hoofddocent militaire ethiek aan de Nederlandse Defensie Academie in Breda.

Competenties voor de ‘nieuwe’ militair

Cursor – 2 juli 2009

NWO honoreerde onlangs twee aanvragen die de TU/e had ingediend in het kader van het NWO-programma ‘Maatschappelijk Verantwoord Innoveren’. Mr.dr.ir. Lambèr Royakkers, docent bij de faculteit Industrial Engineering & Innovation Sciences, is de hoofdaanvrager van het programma ‘Moral fitness of military personnel in a networked environment’. Royakkers gaat onderzoeken wat het voor militairen betekent om te moeten opereren in missies die steeds gecompliceerder worden en die steeds meer vragen om het snel evalueren van situaties door de militair zelf.

“Militaire organisaties maken steeds intensiever gebruik van netwerktechnologie, om het delen van informatie en samenwerken tussen partijen in het netwerk te bevorderen. Het succes van een missie wordt in toenemende mate bepaald door het vermogen van soldaten om kritieke situaties snel te evalueren, goed afgewogen beslissingen te maken en samen te werken in allianties.” Royakkers betitelt dit als ‘network-centric warfare’. Deze nieuwe militaire doctrine is tien jaar geleden gestart in de VS en wordt daar beschouwd als een revolutie op het gebied van moderne oorlogsvoering. De laatste twee à drie jaar begint het ook door te dringen in de Nederlandse strijdkrachten, aldus Royakkers. Ethiek en moraliteit spelen volgens hem een cruciale rol in het omgaan met de diversiteit van perspectieven en het afwegen van meervoudige belangen van samenwerkende partijen en eigen belangen. “Dat vraagt om een ‘nieuwe’ militair, die op een compleet nieuwe manier wordt opgeleid en getraind. Ook vraagt het om een andere opzet van de missies die ze moeten uitvoeren. “Het militaire apparaat in de VS besteedt aan die laatste aspecten echter nauwelijks aandacht”, aldus Royakkers, “wat er dan ook voor zorgt dat het met enige regelmaat fout gaat in het veld.” Als voorbeeld noemt hij de incidenten waarbij de eigen troepen elkaar of hun bondgenoten beschieten, het zogeheten ‘friendly fire’. Royakkers doet het onderzoek in samenwerking met TNO en de Nederlandse Defensie Academie.