Robotrecht

(Hebben die advocaten echt niets beters te doen?!)

Vorige week was ik (zoals meestal als enige Limburger) bij de oprichting van de Nederlandse Vereniging voor AI (kunstmatige intelligentie) en Robotrecht. Een bont gezelschap juristen van alle leeftijden, boog zich heel geïnspireerd over de gevolgen van de steeds verdergaande digitalisering en vooral het feit dat machines (computers, robots, wat maakt het nog uit?) steeds zelfstandiger beslissingen gaan nemen. Ze nemen ons werk uit handen, maar ze nemen ook (soms de volledige) macht over en doordat ze zelflerend zijn, komen ze straks tot oplossingen en handelingen die de maker of programmeur van het apparaat helemaal niet heeft kunnen voorzien. Critici waarschuwen al voor ‘killer robots’, die zelf oorlogen starten.

Ver van ons bed?: letterlijk en figuurlijk niet! Dat leert ons het verhaal van de welbekende robotstofzuiger voor thuisgebruik (o zo handig voor onder kasten en je bed). Dat apparaat kun je programmeren met de opdracht om zo goed mogelijk te stofzuigen en dat zal het ook doen en zich daartoe beperken. Als zo’n apparaat echter wordt geprogrammeerd om een kamer zo schoon mogelijk te houden (let op het verschil met de vorige, meer beperkte, opdracht!), dan kan het na enige tijd tot de conclusie komen, dat de zwaarste vervuiling komt doordat mensen de kamer in en uit te lopen, want daarmee wordt vuil mee naar binnen genomen. Wat doet die robotstofzuiger dus na enige tijd: hij blokkeert de deur, want zo voorkomt hij verdere vervuiling en voert hij zijn taak het beste uit. Niet de bedoeling en jammer voor de bewoners, maar wel heel logisch vanuit de gegeven opdracht aan het apparaat. Je kunt je voorstellen wat bij grote industriële en administratieve projecten kan gebeuren. Denk ook aan die nieuwe Boeings, waarvan er twee neerstortten omdat de besturingssoftware èn fout was èn de captain kon overrulen!

Het verhaal maakt duidelijk hoe belangrijk de opdracht is die in het programma wordt vastgelegd, maar ook dat het meest simpele huishoudelijke apparaat al heel slim is. Op een chip van enkele millimeters en enkele dubbeltjes duur kan al een enorme kennis en kunde worden geprogrammeerd en dat zal alleen maar meer worden. De combinatie met steeds meer data input, blockchain, sensoren, nanotechnologie en de verbinding van alle apparaten (internet of things), vergroot de gevolgen voor ons zakelijk en privéleven nog eens exponentieel. Hoe groter en complexer de systemen, hoe ingrijpender de gevolgen en des te heftiger ook de juridische complicaties. Als advocaat moet je dan wel minimaal begrijpen dat het een enorm verschil maakt of een schade wordt veroorzaakt door fouten in de hardware, software, gebruikte data, de opdracht die een apparaat mee kreeg, de gekozen architectuur van computers of wat dan ook. Een fantastisch nieuw speelveld voor juristen die zich door al die nieuwe technieken laten inspireren en nu eindelijk eens door een groep die niet  op de rem wil trappen, maar dit alles wil faciliteren en daarmee zo soepel mogelijk ons laat profiteren van de vooruitgang. Ook dat is de taak van juristen.

Mijn advies aan iedereen die met innovatie bezig is: laat je dus niet beperken door juridische overwegingen; juristen zijn er om te helpen. Mijn advies aan alle ondernemers in de tussentijd: breek er je hoofd niet over; die techniek komt toch (sterker nog: die is er al) en daar kun je je als ondernemer niet voor afsluiten. Het brengt ons onvermijdelijk aangename en onaangename verrassingen. Die “stomme” robotstofzuiger is een heel onschuldig voorproefje van veel grotere zaken. Niet zo gek dus dat er al advocaten zijn die zich daar op voorbereiden.

Charles Lückers

LegalShares.nl / Luckers.nl

Brightlands Smart Services Campus Heerlen, Strijp-S Eindhoven, 21 mei 2019

Naschrift Jan Scheele:

Het is enerzijds inspirerend, anderzijds redelijk angstwekkend om te zien hoe ver men hier al mee is. Albert Heijn heeft in haar recent geopende distributie centrum nog maar 20 medewerkers, de rest robots. Veel consumenten zien nu vervelende klussen thuis overgenomen worden door robots. Dat is prettig, maar op wereldwijd niveau zijn er ook andere dingen gaande. ‘Killer robots’  maken straks het leger bijna overbodig en kunnen zonder menselijke tussenkomst gaan beslissen of ze ergens een bom op gooien. Willen we dat?

Wat gebeurt er als een robot op straat vast loopt of in de rondte gaat slaan? Hij kan makkelijk de kracht hebben  om je hoofd er af te slaan? Wie is er dan verantwoordelijk?

Ik sprak laatst met een partij in Limburg die robots bouwt voor partijen als Emirates en Lufthansa. Zij geven hun robots altijd een ‘kill switch’ mee, om hen zich direct uit te laten schakelen als het mis gaat. Heel slim , maar doet iedereen dat? Er zijn nog veel vragen die nog niet beantwoord zijn. Dezelfde ‘struggle’ zie je nu op gebied van autonoom rijden. De technologie werkt, maar hoe zit het met het praktische gebruik in de maatschappij en met de verantwoordelijkheden? Hoe alert en bekwaam is onze wetgever op dit terrein, en hoe met rechters, advocaten e.d.?


Ik wens je veel succes!