Advertentie

AlphaGo is een computerprogramma dat de beste Go-spelers ter wereld heeft verslagen. Hoe doet het dat? Geen idee. Zelfs de programmeurs van AlphaGo hebben geen idee waarom het zo goed speelt. Het maakt gebruik van convolutionele neurale netwerken, een vorm van deep learning, wat zelf evolueert. Als het niet werkt, weten de programmeurs ook niet hoe het gerepareerd moet worden.
Judea Pearl, schrijver van ‘Het boek waarom’, is duidelijk geen voorstander van deze manier van systeemontwikkeling. Niet transparant. Ook kun je geen zinnige gesprekken met zo’n ondoorgrondelijke robot voeren. Als het ’s ochtends vroeg begint te stofzuigen, moet je kunnen zeggen: dat had je nou niet moeten doen…., en je robot moet tot het inzicht kunnen komen dat een hoop herrie dat boze onuitgeslapen hoofd heeft veroorzaakt. Zover is het echter (nog) niet. Pearl zet in zijn boek uiteen dat zodra we causaliteit, de wetenschap van oorzaak en gevolg, kunnen programmeren, we de eerste stap hebben gezet naar kunstmatige intelligentie die alle menselijke cognitieve vaardigheden heeft, inclusief empathie en zelfbeheersing, die goed en kwaad kan onderscheiden, en waarvan we kunnen leren. Klinkt droog en technisch, he? Maar dat is dit boek allerminst!
Net als de bijbel begint het boek met Adam en Eva. ‘Heb je van die boom gegeten?’ vraagt God aan Adam. ‘Eva heeft ze mij gegeven’, zegt Adam. ‘Wat heb je gedaan?’ vraagt God aan Eva. ‘De slang heeft mij verleid’, zegt Eva. God vraagt ‘Wat’, beiden schuiven de schuld op een ander met de uitleg ‘Waarom’. Alsof het daarmee wel oké was. Niet dus. In onze evolutie hadden we er meer aan: ‘Waarom?’ bracht ons inzicht in oorzaak en gevolg, en nog belangrijker, verbeeldingskracht: ‘wat als ik dit zou doen’, en de overtreffende trap: ‘wat als ik dat níét had gedaan’. Dit onderscheidt ons van dieren en heeft ons zo succesvol gemaakt, beginnend bij de goed geplande mammoetjacht.
Pearl onderscheidt 3 stadia van ontwikkeling: associatie (bijvoorbeeld: wat vertelt een symptoom over een ziekte), interventie (wat gebeurt er als ik een aspirine slik) en contrafeitelijkheden (wat als ik die aspirine niet had geslikt?). Die 3 treden op de ‘Ladder van Causatie’ vullen het eerste hoofdstuk, waarin ook de modellen en causale diagrammen aan de orde komen.
In de hoofdstukken 2 en 3 gaat het over statistiek en Bayesiaanse netwerken, waarin hij zich flink afzet tegen de statistici die het licht van modellen en causatie niet zien en zich baseren op big data en regels. Dit afzetten heeft trouwens heel wat geïrriteerde reacties van de betreffende wetenschappers opgeleverd, die stellen dat die zwart-wit positie onzin is. De controverse doet aan de inhoud van het boek niets af, die blijft leerzaam en amusant.
In hoofdstuk 4 komen de experimenten aan de orde: gerandomiseerde gecontroleerde testen (RCT), waarin de invloed van variabelen wordt ontleed. Hoofdstuk 5 is volledig gewijd aan de geschiedenis van de discussie of roken kanker veroorzaakt en welke statistische modellen werden gebruikt. De ultieme test voor causatie! Uiteindelijk kon de oorzaak-gevolg relatie worden aangetoond, waarna maatregelen tegen roken werden genomen. Daarna komen in hoofdstuk 6 een aantal leuke paradoxen, die bewijzen dat wij causaal denken, en niet statistisch.
Ik was erg gecharmeerd van dit hoofdstuk over paradoxen, met name de Simpson paradox, die in het boek een aantal keren terugkomt. Stel, je hebt 60 mannen en vrouwen die een medicijn uitproberen, en er is ook een controlegroep van 60 mannen en vrouwen die dat niet doen. Het medicijn zou het risico op een hartaanval moeten verkleinen. In de eerste (slik-)groep krijgt 3 van de 40 vrouwen (=7,5%) een hartaanval, en 8 van de 20 mannen (40%). In de tweede (niet-slik) groep zijn dat 1 van de 20 vrouwen (5%) en 12 van de 40 mannen (30%). Je ziet dat in de tweede groep zowel voor mannen als vrouwen de percentages lager liggen. Niet slikken dus, dat medicijn! Maar wacht eens even….In de slikgroep krijgt in totaal 11 van de 60 mensen (18%) een hartaanval, in de niet-slik groep 13 van de 60 (22%). Dus toch maar wel slikken! Hoe kan dat? Lees vooral het boek als je dol bent op dergelijke puzzels, want Pearl strooit deze royaal tussen alle formules door. Oh, en het antwoord? Niet slikken.
De hoofdstukken 7, 8 en 9 gaan verder de diepte in met veel formules die voor de data scientists onder ons appeltje-eitje zullen zijn, maar voor mij, met mijn ver weg gezakte schoolstatistiek, toch wel hard werken waren. Pearl trekt zijn conclusies over causatie en Artificial Intelligence tenslotte in hoofdstuk 10, wat weer meer filosofisch is, met de morele robot als happy end.
Het boek is uitstekend geschreven, toegankelijk en grappig, en als je geconcentreerd leest pik je heel wat statistiek op. Er staan vrij veel formules in, die soms vrij lastig zijn. Nog lastiger is het dat (minimaal) 5 formules onjuist in deze vertaling terecht zijn gekomen (gecheckt met het Engelse origineel, dat is mijn accountants-DNA), waardoor je op sommige punten bijna afhaakt. Ook zijn sommige tabellen slecht (of juist niet) vertaald, waardoor je even moet zoeken naar de relatie tussen de afkortingen in de tabel en de uitleg eronder. Ondanks deze kritiek is dit een prima, uitdagend en ook uiterst relevant boek voor iedereen die geïnteresseerd is in kunstmatige intelligentie en (nog) iets van statistiek weet. En die liever niet gewekt wordt door zijn robotstofzuiger.
Elly Stroo Cloeck is interim- en projectmanager. Daarnaast schrijft ze samenvattingen en recensies van managementboeken. Ze ontving dit boek van MavenPublishing om te recenseren.

Reacties op: Oorzaak, gevolg en de morele robot

4
Het boek waarom - Judea Pearl
Jouw boekenplank Jouw waardering
Jouw recensie   Schrijf een recensie
? Bestel dit boek bij Libris.nl Bestel het boek vanaf € 24,50 Bestel het e-book € 15,00
E-book prijsvergelijker