We zijn gewend om verklaringen te zoeken bij factoren die we zelf kunnen beïnvloeden. Ook gaan we uit van wat wij normaal vinden. De wereld is echter complex. Om niet wanhopig te worden, maken we het simpel genoeg om de wereld te begrijpen en te kunnen managen. AI kent deze spanningen niet. Miljoenen factoren worden in beschouwing genomen, alsook alle relaties ertussen en zelfs mogelijke veranderingen in de loop van het proces. Het probleem is echter dat we niet weten hoe AI tot haar conclusies komt.
De Europese Unie eist dat duidelijk wordt hoe AI tot haar conclusies komt, vooral als deze conclusies gevolgen hebben voor de burgers. Een goed voorbeeld hiervan is de selectie van sollicitanten. Als bij de data die worden ingevoerd ook de huidskleur of de religie meetelt, is de kans op discriminatie levensgroot. Zelfrijdende auto’s zijn een ander voorbeeld. Zonder AI zou het nooit mogelijk zijn zelfrijdende auto’s te produceren. Eenmaal op de weg worden via AI allerlei beslissingen genomen. Aan wie moet voorrang worden gegeven? Mag er meer risico genomen om het comfort te verhogen? Moet prioriteit worden gegeven aan vermindering van de luchtvervuiling?
Dit vragenstellen heeft een belangrijk voordeel. We moeten namelijk voortdurend onderhandelen over welke beslissingen we zullen nemen en welke prioriteiten we zullen stellen. Dit geldt ook voor het gewone leven, maar met AI moet het nog preciezer en explicieter. Het gaat hier niet zozeer om het eisen van verklaringen, maar vooral om de vraag wat we verwachten van deze systemen.
Dit expliciteren maakt duidelijk dat we ethische vraagstellingen, ook bij iets technisch als AI, niet kunnen ontwijken. Het hoofdprincipe moet zijn dat onze fundamentele waarden niet genegeerd mogen worden. Optimalisatie kan nooit het enige criterium zijn. Bij de selectie van sollicitanten met behulp van AI kan en mag nooit gediscrimineerd worden. Bij het rijden met een zelfrijdende auto moet de veiligheid van anderen op de weg de absolute prioriteit blijven.
Volgens Weinberger verlaten we meer en meer de wereld van Newton en gaat de digitale wereld voor ons open. In Newton’s wereld zoeken we naar de oorzaken van de verschijnselen. Het effect is afhankelijk van de kracht van de oorzaak. Eenvoudige natuurwetten beheersen ons wereldbeeld. Hierdoor lijkt de wereld simpeler dan ze werkelijk is. Deze natuurwetenschappelijke visie heeft een allesoverheersende invloed op ons denken. Ook psychische verschijnselen menen we met eenvoudige wetmatigheden te kunnen verklaren.
Freud had het over drie krachten die allesbepalend zijn voor de mens: het Es, het Ego en het Superego. Dit euvel van een te simpele voorstelling werd door deze geniale mensenkenner enigszins goedgemaakt door zijn aandacht voor uitgebreide gevalsbeschrijvingen. Dit bood hem de kans de complexiteit van ieder individu voor het voetlicht te brengen. De hedendaagse psychologen hebben meestal te weinig aandacht voor het individuele en denken volkomen ten onrechte dat ze op empirische wijze de psyche kunnen onderzoeken.
Onze politieke en levensbeschouwelijke overtuigingen zijn om dezelfde reden vrijwel altijd het resultaat van een te simpele voorstelling van zaken. Alles wat niet past binnen onze simplificerende verklaringsmodellen, wordt compleet genegeerd. In de wereld van Newton is God werkelijk dood (er is daar geen plaats voor het Oneindige). De vaste natuurwetten regelen de gehele kosmos en daarom is de idee van een God die alles beheerst niet meer nodig. Atheïsme is de logische consequentie van een beperkt wereld- en mensbeeld.
De digitale wereld komt beter overeen met de werkelijkheid. Hier hangt alles met alles samen. De kleinste oorzaak kan wereldwijde gevolgen hebben. Een sterk voorbeeld hiervan is de #MeToo beweging: een simpele hashtag heeft de hele wereld veroverd, mensen aan het denken gezet en talloze juridische procedures op gang gebracht. Softwareprogramma’s als Facebook en Instagram verbinden miljarden mensen met elkaar. Alles beïnvloedt alles, waardoor er sprake is van, wat Weinberger noemt, een ‘vruchtbare onvoorspelbaarheid’: in de digitale wereld worden steeds meer mogelijkheden gecreëerd en zijn steeds nieuwe interacties mogelijk. Helaas kan dit ook de verkeerde weg opgaan, bijvoorbeeld als fake news ernstige gevolgen heeft of als mensen gepest en belasterd worden.
Internet confronteert ons met chaos, wat op zichzelf een goede zaak is. De wereld is niet meer beperkt tot wat wij kunnen begrijpen en kunnen controleren. AI maakt het mogelijk onze zeer complexe wereld beter te managen. Enerzijds worden we meer en meer gecontroleerd, want de data over ons persoonlijk worden verzameld door de overheid en door bedrijven. Anderzijds is er meer en meer onvoorspelbare chaos, waaruit steeds nieuwe creatieve mogelijkheden zich voordoen.
De digitale wereld is ook en vooral de wereld van interacties. Tussen de overheid, de bedrijven en de burgers zijn de scheidingsmuren afgebroken. Iedereen kan met alles meedenken. Er is geen eenrichtingsverkeer meer. De burgers kunnen hun eigen gevoelens, waarden en ervaring inbrengen. Er is in deze wereld sprake van een exponentiële vooruitgang. Vanuit de principes waarop AI is gebaseerd is de richting van deze vooruitgang veelvoudig, niet geanticipeerd. Er is geen vaste lijn. Iedereen kan bijdragen en doelen vaststellen. Open source is hier een prachtig voorbeeld van.
Internet toont de ware aard van de wereld: chaotisch, niet te begrijpen, niet rechtlijnig, heel veel proberen en mislukken. Sommige mensen kunnen hier moeilijk mee omgaan. AI leidt vaak tot ontkenning, woede en weerstand. De kracht van internet is nochtans dat iedereen gehoord kan worden. Er kan meer tegemoet gekomen worden aan de individuele noden en wensen. We hebben minder illusies over wat wij menen te begrijpen.
Als we in de digitale wereld ons weten te houden aan elementaire ethische normen, zal er meer begrip zijn voor elkaar, zal er meer openheid zijn voor de ideeën van anderen en zal er nooit eerder bij de mensheid zo’n gevoel van verbondenheid zijn. Zal AI misschien uiteindelijk leiden tot openheid voor en verbondenheid met wat de wereld transcendeert?
(Dit is het derde artikel in een drieluik. Lees hier het eerste deel, en hier het tweede deel.)
