Voor de pluimveehouderij zijn kuikenseksers van groot belang. Kuikenseksers kunnen in een paar seconden het geslacht van kuikens vaststellen. De haantjes gooien ze dan levend in een vleesmolen en de hennetjes zijn bestemd om eieren te leggen. Op die manier wordt voorkomen dat nutteloos geld wordt besteed aan het voederen van haantjes. Geen enkele kuikensekser kan uitleggen op grond van welke kenmerken (data) hij de hennetjes van de haantjes kan onderscheiden. De opleiding duurt drie jaar, gebeurt op grond van praktijkoefeningen samen met een ervaren kuikensekser en is geslaagd als een score van 98 procent correcte selecties is bereikt. Kuikenseksers verdienen een zeer goed loon, maar om acht uur of meer per dag aan het achterste van kuikens te voelen is voor weinig mensen een aantrekkelijk vooruitzicht.
Ook bij Artificiële Intelligentie (AI) weten we vaak niet welke data en welke verbanden tussen de data tot de conclusies leiden. Dit gaat in tegen onze normale manier van denken. We hanteren meestal een conceptueel model waarin de data nauwkeurig gedefinieerd worden en hypothesen worden geformuleerd over de verbanden. Dit conceptueel model leidt vervolgens ons onderzoek om te kijken of onze hypothesen kloppen. Bij AI gaat het er totaal anders aan toe. Alle mogelijke en beschikbare data worden verzameld, vrijwel zonder selectiecriteria en van hypothesen is helemaal geen sprake. Het gaat hier niet om een conceptueel model, maar om een werkmodel. In een werkmodel wordt gezocht wat met elkaar verband houdt. Een verklaring is niet nodig. Veel mensen hebben hier grote moeite mee, gewend als ze zijn om alles te willen verklaren. In onze zeer complexe wereld is wat er gebeurt niet altijd goed te verklaren. Bovendien is onze wereld voortdurend in verandering, zodat onze conceptuele modellen elk moment verouderd kunnen zijn.
Een conceptueel model is een simplificatie van de werkelijkheid. AI maakt het mogelijk om die simplificatie te overstijgen. We kunnen nu rekening houden met miljoenen data, waarbij alles met alles samenhangt. Dat stemt beter overeen met de werkelijkheid van onze wereld. Met behulp van AI ontdekken we verbanden tussen al die data, zonder te begrijpen hoe dat systeem werkt. Bij Deep Learning wordt gezocht naar relaties tussen data zonder instructies om naar wat te kijken. Dit is ongehoord en volgens David Weinberger is dit een van de meest significante verstoringen in onze geschiedenis. Het gaat volgens deze auteur om vier radicaal verschillende manier om tot inzicht te komen in de verschijnselen die we onderzoeken: (1) het zijn niet meer de mensen die de modellen maken; (2) eenvoudige principes zijn niet meer noodzakelijk; (3) Deep Learning of AI moet de wereld niet eenvoudiger maken opdat we het zouden kunnen begrijpen en (4) het model kan constant veranderen, voorbeeld hiervan zijn de feedback loops bij navigatiesystemen.
Traditioneel zoeken we naar één op één relaties tussen gebeurtenissen en data. Dit is naïef want alles beïnvloedt alles, de relaties zijn complex en niet-lineair. Deep Learning of AI houdt hiermee rekening. Zonder AI is dit voor de mens onmogelijk. Traditioneel stellen we de wereld voor op basis van wat wij ervan begrijpen. Dat is een proces dat werkt door het reduceren van de complexiteit. AI creëert daarentegen een voorstelling van de wereld op basis van een oceaan van data. AI leert ons anders naar de wereld te kijken, zowel wat betreft de inhoud, de structuur als de schaal van onze voorstelling.
Een mooie toepassing van deze verandering in onze voorstelling van de wereld wordt gegeven door een oud-directeur van de CIA, George Beebe, in zijn boek The Russia trap: How our shadow war with Russia could escalate to World War III. Beebe waarschuwt voor een te simpele voorstelling van zaken, zoals de aanname dat Rusland een ambitieuze, agressieve staat is die haar macht steeds verder wil uitbreiden. Dit zou vergelijkbaar zijn met de Tweede Wereldoorlog met Duitsland als de agressor. De situatie nu lijkt meer op de Eerste Wereldoorlog. Toen wenste niemand die oorlog, maar de aanslag in Sarajevo was de trigger die leidde tot een verschrikkelijke escalatie. Toen was er geen agressieve staat die haar territorium wilde uitbreiden. Beebe ziet de oorzaak van de Eerste Wereldoorlog als een ‘systeemprobleem’: de combinatie van allerlei factoren zette landen tot de oorlog aan, zoals nieuwe technologieën die als een grote bedreiging werden gezien, allianties tussen landen, tegengestelde belangen en verkeerde percepties van de bedoelingen van ‘vijandelijke’ mogendheden. Het ligt daarom voor de hand om via AI het systeem te analyseren waarin een oorlog kan plaatsvinden.
Het systeem waarin we ons nu bevinden lijkt op de situatie die leidde tot de Eerste Wereldoorlog. Na het einde van de Koude Oorlog ontstond in Oost-Europa een vacuüm. Dit werd opgevuld door een uitbreiding van de NAVO. Voor Rusland was dit een bedreiging. In de beleving van de Russen wordt hun land omringd door vijandige staten, die tot doel hebben het regime in Rusland te veranderen en hun land in stukken te laten vallen. Met nieuwe technologieën proberen zowel de westerse landen als Rusland elkaar schade toe te brengen of de binnenlandse situatie te ondermijnen. Er woedt een ware cyberoorlog over en weer. Zelfs de Amerikaanse verkiezingen zouden door de Russen beïnvloed zijn.
Die cyberoorlog kan makkelijk escaleren tot een Derde Wereldoorlog. We kunnen ons daartegen nauwelijks verdedigen. Als ons computersysteem wordt gehackt, dan kunnen we dat weliswaar detecteren, maar het is vrijwel onmogelijk preventieve maatregelen te nemen. Het is dus mogelijk dat een vijandelijke mogendheid de Amerikaanse satellieten hacked, de stroomvoorziening in het hele land platlegt en de nucleaire installaties saboteert. Als dit wordt ontdekt, is het te laat. In deze situatie geldt het principe van wederzijdse afschrikking, zoals ten tijde van de Koude Oorlog, niet.
Zoals het Westen als Rusland zijn in dit internettijdperk erg kwetsbaar geworden. Deze situatie is volgens Beebe zeer riskant. Er hoeft slecht iets verkeerd te gaan en er volgt een escalatie. Nu zien we al dat Rusland en de VS in Syrië, Oekraïne en Iran tegengestelde belangen hebben. Ook hier kan makkelijk een ‘systeemprobleem’ ontstaan en zitten we, zonder dat iemand het wenselijk acht in de Derde Wereldoorlog. Willen we deze wereldramp voorkomen, dan kan AI ons helpen precies inzicht te verwerven in de processen dit kunnen leiden tot escalatie. Aangezien we kunnen aannemen dat geen van de wereldleiders een oorlog wil, kan dit nieuwe inzicht een diplomatieke oplossing tijdig mogelijk maken. AI biedt een voorstelling van wat er werkelijk gaande is in de wereld en tussen de mogendheden, zonder vooroordelen en zonder hypothesen waarover verdeeldheid kan ontstaan.
In de traditionele manier van denken wordt gezocht naar mogelijke verklaringen van de oorlogsdreiging. Elke partij heeft haar eigen verklaring. Geen enkele verklaring is op zichzelf voldoende. AI biedt hier een oplossing. De analyse met behulp van AI is vrij neutraal, houdt rekening met de data over alle betrokken partijen en biedt een uitweg zonder dat dit verder verklaard hoeft te worden. Het gaat niet zozeer om verklaringen, maar om een ’werkmodel’ waarmee controle verworven kan worden over de onderzochte situatie.
In de volgende en laatste bijdrage wil ik verduidelijken hoe de digitale wereld het voor de mens mogelijk maakt zich open te stellen voor een oneindigheid, waardoor hij bevrijd wordt van zijn beperkingen.
(Dit is het tweede artikel in een drieluik. Lees hier het eerste deel.)
