Ook in 2045 wil je op je gemakje nog even naar de bakker kunnen fietsen, zonder plotseling van je tweewieler te worden geschoten, door een killer robot die zijn dag niet heeft. Dit lijkt natuurlijk vergezocht en we kunnen ons hier dan ook niets bij voorstellen. Toch waarschuwen 116 topwetenschappers die zich dagelijks bezighouden met geavanceerde kunstmatige intelligentie en robotica, voor het ontsporen van geautomatiseerde wapensystemen.

Oncontroleerbare kunstmatige intelligentie

We staan aan de vooravond van de vierde industriële revolutie waarbij allerlei soorten technologieën met elkaar zullen samensmelten. Hierdoor zullen er de komende jaren heel veel spectaculaire doorbraken worden gerealiseerd, op allerlei terreinen. De gezondheidszorg, de retail, het onderwijs, de bouwsector en ga zo nog maar even door. Ook de ontwikkeling van kunstmatige intelligentie, robotica en biotechnologie zal de komende decennia razendsnel gaan. Dat is natuurlijk heel spannend, maar dergelijke technologieën kunnen ook ontsporen. Er zou een situatie kunnen ontstaan van technologische singulariteit, die voor mensen oncontroleerbaar wordt. Dat zo’n situatie niet ondenkbaar is, wordt benadrukt door de crème de la crème op het gebied van kunstmatige intelligentie.

Open brief aan de Verenigde Naties

De meest vooraanstaande ontwikkelaars en ondernemers op het gebied van kunstmatige intelligentie, laten er geen misverstand over bestaan: “Het ontwikkelen van zogenaamde killer robots kan leiden tot een situatie die niet langer beheersbaar is door mensen.” In een open brief aan de VN schrijven de techneuten, denkers en ondernemers dat we de gevaren van autonome wapensystemen niet mogen onderschatten. De brief is ondertekend door 116 individuen, waaronder Elon Musk (SpaceX en Tesla), Mustafa Suleyman (Google Deep Mind), en Marcus Frei (Next.robotics). Ook een aantal Nederlandse specialisten op het gebied van robotica en AI hebben de brief ondertekend. Het gaat onder andere om Jaap van Leeuwen (Blue Ocean Robotics), Maja Rudinac (Robot Care Systems) en Koen Hindriks en Joachim de Greeff (Interactive Robotics).

Als de SGR-A1 met je flirt, dan heb je een probleem!

Een vorm van geavanceerde autonome wapens staan al gestationeerd langs de grens tussen Noord- en Zuid Korea. De SGR-A1 is een wapen dat zijn doel detecteert aan de hand van sensoren en geheel automatisch zijn munitie richt en afvuurt. Deze killer robots werden in 2003 ontwikkelt en in 2006 werden de eerste prototypes gebouwd, door onder andere de universiteit van Seoul en Samsung. De SGR-A1 beschouwt iedereen binnen de gedemilitariseerde zone tussen de twee vijandstaten, per definitie als vijand. Op het moment dat de killer robot iemand in het vizier heeft, dan zal het systeem eerst zelf proberen om het potentiële doelwit te identificeren, door middel van stemherkenning. Als dan blijkt dat identificatie van het doelwit niet lukt, dan heeft de SGR-A1 een aantal keuzes waaronder: een alarm laten afgaan of rubber kogels afvuren en het slachtoffer voorzien van “de volle laag”.

Gewapende conflicten op hele grote schaal

Als die rubber kogels worden vervangen door echte kogels dan is het wel een eindje gebeurd met je. De killer robots op het Koreaanse schiereiland kunnen echter wel worden “overruled” door operators. In dat geval kan een operator contact krijgen met het doelwit, door middel van een ingebouwde microfoon en een audiosysteem. Als dergelijke wapens in de toekomst op grote schaal autonoom “hun werk” gaan doen op basis van sensoren en voorhanden zijnde data, dan is dat inderdaad een zorgwekkende situatie. De ondertekenaars van de brief aan de Verenigde Naties denken dat er dan gewapende conflicten kunnen ontstaan, op een schaal waar we ons nu eigenlijk nog niet zoveel bij kunnen voorstellen. Daarnaast is er het gevaar van “foutieve” executies van personen die onterecht worden aangemerkt als doelwit, als zulke wapensystemen worden gehackt. Als killers robots dan worden voorzien van verkeerde of aangetaste data, dan zijn de rapen wel gaar.

Ontwerpen van wetgeving voor killer robots

Deze open brief maakt duidelijk dat geautomatiseerde wapensystemen, geen sciencefiction meer zijn en er zal heel goed moeten worden nagedacht, over welke rol dit soort killer robots moeten krijgen in onze samenlevingen. Het zou natuurlijk het mooiste zijn als er een verbod komt op de ontwikkeling van dergelijke wapens, maar dat ziet er niet naar uit. Om wetgeving te ontwerpen voor deze geautomatiseerde wapens lijkt me nog knap lastig, maar het is een interessante ontwikkeling.

Op de hoogte blijven van de ontwikkelingen op het gebied van blockchaintechnologie? Meld je dan nu aan voor de blogpost!