Wat de wetenschap vermag

‘Welke verantwoordelijkheid hebben we voor wat we scheppen?’ Sicco de Knecht las in het nieuwste boek van Benjamín Labatut vooral een waarschuwing uit het verleden: maniakale genieën zijn van alle tijden. De Knecht onderstreept de actualiteit van Von Neumanns verhaal: ‘de drang om te scheppen – niet omdat er noodzaak of vraag naar is maar simpelweg omdat het kan – blijft de drijfveer van een aftakelend genie’ – en die van Kunstmatige Intelligentie anno 2024.

‘Fanatisme was de norm in Centraal-Europa, zelfs onder ons wiskundigen.’ Het is de poëtische en tegelijkertijd lugubere duiding waarmee John von Neumanns leermeester Gábor Szegő aangeeft uit wat voor wervelwind de verhalen in Labatuts nieuwste boek geboren werden. Tussen de rookwolken van de kwantumtheorie treffen we zowel wiskundigen die de weg zijn kwijtgeraakt, als wetenschappers die gretig op zoek blijven naar de basis. We hebben het over een crisis in de fundamenten van de wiskunde en een zoektocht naar onveranderlijke waarheden ‘op zoek naar zekerheid en veiligheid in een onzekere en onveilige wereld.’

De bevlieging die Labatut beschrijft is precies die plek waar wetenschap en andere kunsten elkaar vinden: de wetenschappers raken geobsedeerd, worden opgeslokt en creëren zonder morele begrenzing – een volledige overgave aan het cognitieve, waarbij alles dat lijfelijk is wordt vergeten. Om inzichtelijk te maken hoe visceraal de beleving van een intellectuele ontdekkingstocht kan zijn heeft de Chileense auteur dit keer een zeer intrigerende hoofdpersoon uitgelicht: de Hongaars-Amerikaanse wiskundige Von Neumann.

Mathematica is niet iets ‘voor zichzelf’, zo leren we. Het is geen abstractie of leuk puzzelspel; het is de meest essentiële vorm van denken die de mens bezit en juist daarom de moeite van het bestuderen waard. Maar er is geen orde, geen logica, geen unified theory. Er is slechts chaos. En ironisch genoeg is Von Neumann, die zelf uitputtend – nee, maniakaal – zocht naar het patroon, naar het principe, ook iemand die geweldig bleek te gedijen in de chaos die achterbleef.

Een geschreven documentaire

In zijn bespreking van De Maniac betreurt Daan Mulder de eenvormigheid in het werk van Labatut. Hoewel zijn voorbeelden treffend zijn, beschrijven ze mijns inziens niet zozeer dit boek als wel het vorige. Waar Het blinde licht eigenlijk een stilistisch homogeen vierluik is, doet Labatut in zijn meest recente werk juist een poging een nieuwe weg in te slaan.

Labatut kwam pas recent op mijn radar en De Maniac was het eerste dat ik van hem las (misschien maakte dat wel het verschil). Ik was juist positief verrast door de fascinerende stijl waarin de hoofdmoot van het boek geschreven is. Von Neumanns verhaal wordt verteld in de vorm van een documentaire, inclusief korte zwarte shots met louter tekst erdoor. Een voor een worden hoofd- en bijpersonen uit het leven van Janci, Janos, Johnny of John opgevoerd om hun versie van de gebeurtenissen met ons te delen. Labatut werkt vanuit verschillende bronnen en bouwt een verhaal op vanuit uiteenlopende perspectieven. Het is wat harder werken als lezer, maar juist de afwisseling in perspectieven, de snapshots, bieden een verfrissende benadering waarin je gedwongen wordt je eigen mening te vormen over dit genie, deze alien, deze duivel. Overigens is zijn stijl geen garantie voor succes: wanneer bijvoorbeeld Feynman aan het woord komt, letterlijk in zijn eigen woorden omdat Labatut hier werkt vanuit geluidsopnames, verliest het verhaal ironisch genoeg aan geloofwaardigheid. Het wordt te veel – te veel beroemde namen, te veel interessante feitjes en te veel bespiegelingen.

De duivel zat altijd al in hem

Wat vermag de wetenschap? Welke verantwoordelijkheid hebben we voor wat we scheppen? Dat zijn de hoofdvragen in beide werken van Labatut. Een inzicht, technologie of idee werkt door, in de wetenschap en in de maatschappij, en de voorbeelden van wat deze wiskundigen, scheikundigen en natuurkundigen de wereld in hebben geslingerd liegen er niet om. Eenmaal bedacht is nooit meer ontdacht.

Elk op hun eigen wijze vinden de wetenschappers manieren om om te gaan met wat ze hebben geschapen. Fritz Haber ging ten grave met een brief waarin hij opbiechtte een ‘ondraaglijk schuldgevoel’ bij zich te hebben gedragen. De invloedrijke wiskundige Alexander Grothendieck riep zijn studenten op om afstand te nemen van de ‘smerige en gevaarlijke praktijk die wiskunde heet’ en besloot de wereld te beschermen voor zijn laatste grote idee; hij leefde verder in seclusie.

Niet John von Neumann…

Al krijgen we verschillende perspectieven op Johnny, toch lijkt Labatut helder over Von Neumanns beweegredenen. Kort gezegd: het kan hem allemaal niets schelen. Hij wil prima meewerken aan de ontwikkeling van de waterstofbom, zolang hij op de supercomputer in de avonduren maar lekker mag spelen met zijn ideeën. Dat bepaalde waarheden worden ontdekt staat vast. Dat hij, hoe gevaarlijk ze ook zijn, liever heeft dat hij degene is die ze blootlegt evenzeer.

Of het kantelpunt dat Mulder leest in het verhaal ook echt een kantelpunt is voor Von Neumann, durf ik te betwijfelen. In het karakter van Von Neumann lijkt het nihilisme de overhand te krijgen. Aan de andere kant leren we dat Szegő Von Neumann al een ‘een sinistere, machine-achtige intelligentie’ toedichtte die ‘de terughoudendheid die ons allen beperkt, miste.’ Diep en tegelijkertijd oppervlakkig. Deze man bezat geen goedmoedigheid, tederheid, humor of zelfspot.

De kinderlijk naïeve zoektocht van Von Neumann naar ‘het fundament’ blijkt in ieder geval niet om te slaan. Nadat hij de basis van de wiskunde niet kan vinden, bijt hij steevast weer grotere happen af: het weer, autoreplicatie, de menselijke emotie en het denken zelf. Deze drang om te scheppen – niet omdat er noodzaak of vraag naar is maar simpelweg omdat het kan – blijft de drijfveer van een aftakelend genie en uiteindelijk staat hij aan de basis van wat volgens Labatut de volgende waterstofbom is: Kunstmatige Intelligentie.

Het gevaar van AI

Afgelopen jaar zou het jaar zijn geweest waarin de kunstmatige intelligentie ‘door zou breken’. Mocht er al zoiets bestaan als de doorbraak van een technologie die al geruime tijd in aantocht is – en waarvan je bovendien niet echt kunt vaststellen wat dan als de definitieve doorbraak zou moeten gelden – dan nog kunnen we wel stellen dat dit moment bepaald niet vlekkeloos verliep. Geoffrey Hinton stapte op bij Google om open en eerlijk te kunnen vertellen over de risico’s van AI en een internationale petitie deed de ronde voor een cooldown van zes maanden op nieuwe ontwikkelingen.

Hoe we deze ontwikkelingen ook moeten duiden, Labatut is duidelijk: hij is er bepaald niet op uit om ons gerust te stellen over deze nieuwe technologie, nee; hij waarschuwt. We weten niet wat we bouwen, we weten niet waar we aan beginnen, we weten niet waar het toe gaat leiden. Doen alsof er geen controle mogelijk is of dat niemand de verantwoordelijkheid heeft is als het hoofd in het zand steken. We worden ook nu omringd door maniakale genieën – en wie weet reproduceren ze zichzelf, ook nu al, via computernetwerken.