Volvo heeft herhaald dat als een van zijn zelfsturende auto’s in volledig autonome modus bij een verkeersongeluk betrokken is, Volvo aansprakelijk is. Dat is natuurlijk alleen interessant als de zelfsturende auto verkeerd heeft gehandeld. En dat is nogal gemakkelijk. Want ook een zelfsturende auto kan kinderen doodrijden.
De enorme hoeveelheid veiligheidschecks ten spijt, een zelfsturende auto werkt op basis van een computer. En die computer is feilbaar. Niet vanwege programmeerfouten, maar omdat sommige dilemma’s op zijn minst moreel onbeslisbaar zijn. Onbeslisbaarheid is een enorm probleem voor machines die de facto kunnen beslissen over leven en dood.
Dat klinkt wat theoretisch, maar het concept van beslisbaarheid is heel makkelijk uit te leggen. Neem de zin ‘Deze uitspraak is onwaar’. Dit is een van de meeste hardnekkige paradoxen in de filosofie, logica en wiskunde. Ze komt in verschillende verschijningsvormen voor in bijna alle (complete) formele systemen.
(Voor de wijsneus die stiltes op verjaardagen graag invult met een vernis van intellect; het probleem houdt zelfs verband verband met die favoriete stoplap van aspirant-denkers, de Onvolledigheidsstellingen van Gödel.) De vraag is steeds: is deze zin nu waar of onwaar? Als ze waar is, is ze onwaar – en als ze onwaar is, is ze waar.
Hoewel het vast mogelijk is om je dood te denken over deze paradox, klinkt dit niet levensgevaarlijk. Toch kan ze dat in haar toepassing wel zijn. Op zijn minst in morele zin. Een zelfsturende auto moet uitwijken voor een kind dat ineens de weg oprent. Maar de enige uitwijkmogelijkheid is de stoep, waar een omaatje loopt. Remmen is in alle gevallen te laat. Wat moet de wagen nu doen? Het kind dat weg oprent de ultieme straf geven voor zijn onoplettendheid, of toch uitwijken en die oma – die al een heel leven heeft gehad – scheppen?
Dit probleem is in strikt logische zin alles behalve onbeslisbaar. Er is gewoon een set criteria te programmeren en dan lijkt het onwaarschijnlijk – als de auto haar als zodanig zou kunnen herkennen – dat grootmoeder het gelag overleeft. Maar ethisch is dit probleem wel onbeslisbaar. Dat wordt helemaal duidelijk als we twee kinderen de weg laten oprennen, terwijl er eentje op de stoep loopt. Botte criteria als body count werken dan niet echt.
Wat Volvo met zijn toezegging effectief zegt, is dat het dilemma niet zo belangrijk is. Hoe veilig zelfsturende auto’s ook zijn, uiteindelijk zullen er een keer doden vallen. En dan zegt het Zweedse merk te betalen. Grote vraag is nu of je een ethisch dilemma kunt afkopen. Uiteindelijk heeft Volvo namelijk beslist dat kind x en niet kind y wordt aangereden.
