In zijn recensie in de Volkskrant van Zomergasten met Marleen Stikker noemt Julien Althuisius het trolleyprobleem uit de filosofie een overtuigend argument tegen de zelfrijdende auto. Ik vind de argumentatie van Stikker getuigen van ethische luiheid en ethische zelfgenoegzaamheid: liever geen techniek op basis van betwistbare ethische keuzes, dan dat er mensenlevens gespaard worden. Dat zelfrijdende auto’s in de toekomst tot minder verkeersdoden kunnen leiden, wordt namelijk ook door Stikker niet betwist.
Laten we het trolleyargument eens wat nauwkeuriger bekijken. Een trambestuurder rijdt op een tweesplitsing. Als hij rechtdoor gaat, rijdt hij vijf wegwerkers dood. Als hij afslaat, rijdt hij één persoon dood. Wat moet hij doen? Typisch aan deze oorspronkelijke versie van het gedachtenexperiment, is dat de trolleybestuurder met één en dezelfde handeling vijf mensen redt en één mens doodt, of omgekeerd. Er zijn ook varianten denkbaar waarbij je eerst één persoon moet doden, om vervolgens pas vijf mensen te kunnen redden: in het door Stikker getoonde fragment van The Good Place, is ook sprake van een dokter die door één levensvatbare patiënt te doden, met diens organen het leven van vijf anders ten dode opschreven patiënten kan redden. Voor het kwantitatieve resultaat maakt het niks uit: vijf tegen één. Maar de dokter moet wel eerst een handeling verrichten waarmee op dat moment niets anders dan dat een mens actief wordt gedood.
Er bestaan legio variaties van het trolleyprobleem die we onmogelijk allemaal kunnen bespreken. Dat hoeft ook niet. Waar het om gaat is dat Stikker zegt dat er voor het trolleyprobleem geen goed antwoord bestaat. Iedereen wil weten:
”wat is het goede antwoord? Maar dat bestaat niet, er is geen goed antwoord. Het hangt van principes en waarden af. Als je nu kijkt naar die zelfrijdende auto’s, dan moet je een deel van die waarden in die software gaan schrijven. […] Dat betekent dat je moet expliceren wat je wereldbeeld is. Wat je in die auto programmeert, zegt iets over wat voor filosofie je hebt. Het is een discussie over ethiek.”
Stikker vraagt zich af: als je zowel een Tesla als een Google-auto in de situatie van de trolley plaatst, wat doen die twee auto’s dan? Reageren ze verschillend, op basis van een verschillende moraal? Om dit te voorkomen, is in Duitsland een begin gemaakt met wetgeving. Zelfrijdende auto’s moeten bijvoorbeeld altijd voorrang geven boven dieren. Toch is Stikker daarmee niet tevreden gesteld. Kernprobleem blijft volgens haar:
”op het moment dat er regels zijn, neem je het moment weg dat een persoon, een mens, een afweging moet maken.”
Haar probleem is niet dat ze denkt dat een mens in staat is tot betere afwegingen dan een zelfrijdende auto. Eerder omgekeerd: onze normen en waarden zijn te wazig, niet vastomlijnd genoeg om ingevoerd te worden. Dat wordt aan het slot van het getoonde fragment uit The Good Place verbeeld met een scene waarin juist de ethicus in paniek raakt, als deze de trolley moet besturen. Hij is niet in staat is tot een vakkundige conclusie te komen voordat hij de splitsing passeert. De trolley rijdt dus gewoon rechtdoor en dood vijf werklui.
Bij de totstandkoming van wetgeving rond zelfrijdende auto’s hoeft een betrokken ethicus natuurlijk niet in the heat of the moment te beslissen. Bovendien vraag ik me af of het programmeren van zelfrijdende auto’s wel verloopt via het oplossen van filosofische vraagstukken zoals het trolleyprobleem. Ik acht het waarschijnlijk dat zelfrijdende auto’s in de toekomst veel veiliger zijn dan door automobilisten bestuurde auto’s, ook zonder dat in de programmatuur een keuze wordt gemaakt ten aanzien van ethische problemen als het trolleyprobleem. Mijns inziens gaat het bij het programmeren veeleer om het ontwijken van welk object dan ook. Een groot voordeel om ongelukken te voorkomen in het geval van zelfrijdende auto’s, kan daarbij zijn dat deze kunnen samenwerken. Nu gebeurt het nogal eens dat de ene automobilist weliswaar een obstakel ontwijkt, maar dat een andere automobilist verrast wordt door deze uitwijkmanoeuvre, waardoor er alsnog een ongeluk gebeurd. Of simpeler, dat een chauffeur hard op de rem trapt om een aanrijding te voorkomen, waardoor de daarachter rijdende auto op de remmende auto knalt. Volgens dit principe komen kettingbotsingen tot stand. Bij zelfrijdende auto’s krijgen alle in de buurt rijdende auto’s tezelfdertijd dezelfde informatie, waaronder ook informatie over elkaars gedrag. Er ontstaat daardoor een soort collectief gedrag om ongelukken te vermijden, een type gedrag dat vergelijkbaar is met fietsers die en masse een kruispunt passeren: iedereen past zich aan iedereen aan.
Maar ook als ethische dillema’s, zoals het trolleyprobleem, via wetgeving toch van een keuze worden voorzien, dan nog zeg ik dat dergelijke keuzes toch gemaakt mogen worden, ofschoon een eensluidend ethisch oordeel niet mogelijk is. Er zijn wel meer zaken waarover geen eensluidend oordeel mogelijk is. Is het bijvoorbeeld ethische te verantwoorden dat we in Nederland rechts van de weg te rijden met het stuur aan de linkerkant van de auto? De oplossing om links te rijden met het stuur aan de rechterkant van de auto is even goed. Om mensenlevens te redden, is het toch van belang dat de wetgever voor het een, dan wel het ander kiest. Zo kan het ook bij de programmatuur van zelfrijdende auto’s van belang dat men bij ethische dilemma’s hoe dan ook knopen doorhakt, om te komen tot een vastomlijnde set van regels, voor alle zelfrijdende auto’s. Alleen al door die keuzes te maken, onafhankelijk van wat die keuzes precies zijn, zullen zelfrijdende auto’s veiliger worden, en dus mensenlevens redden.
Als werkdefinitie is het niet verkeerd om te zeggen dat ethiek zijn bestaansrecht bewijst door mensenlevens te redden. In extreme verkeerssituaties nemen automobilisten allerlei beslissingen die mensenlevens kunnen kosten. Als Stikker er dan voor pleit om mensenlevens te blijven offeren omdat een eenduidig ethisch antwoord niet mogelijk blijkt, dan noem ik dat ethische luiheid. Ik zie het als een exponent van een bredere maatschappelijke neiging om vervelende ethische beslissingen voor ons uit te schuiven, omdat we alleen maar goed willen doen. Het trolleyprobleem, hoort ongetwijfeld tot het soort vervelende beslissingen die we liever niet nemen. Daarnaast vind ik de stellingname van Stikker ook getuigen ethische zelfingenomenheid. Dit omdat, als je de ethische knoop niet doorhakt, je ethiek daarmee belangrijker maakt, dan de reden waarom ethiek volgens de werkdefinitie überhaupt bestaat. Die reden is: mensenlevens redden. Het hoogste doel van Stikker lijkt te zijn: als er maar geen smet komt op mijn ethisch blazoen.
Meer lezen van Paul Hekkens: Zie hier
