If anyone builds it, everyone dies is de spijkerharde titel van het tweede boek dat ik graag had uitgegeven.

Die titel is ook een prima samenvatting, want de auteurs, Eliezer Yudkowsky en Nate Soares, willen ons waarschuwen: de roekeloze ontwikkeling van ‘artificial superintelligence’ is een bedreiging voor de hele mensheid. Yudkowsky en Soares zijn gerespecteerde experts en maken zich grote zorgen. Het maakt niet uit of zo’n superintelligente AI wordt ontworpen met goede of slechte bedoelingen, zeggen ze: het risico is telkens even hoog. We begrijpen simpelweg niet hoe zo’n AI werkt. Waaruit logisch volgt is dat we hem/haar/het op geen enkele manier onder controle kunnen houden.

Yudkowsky en Soares wilden die boodschap duidelijk bij een zo groot mogelijk publiek krijgen, want ze hebben hun boek beknopt gehouden en leesbaar voor iedereen (zelfs voor deze lezer!). Wie technische uitweidingen wil kan die krijgen door de QR-code onderaan elk hoofdstuk te scannen. Heel leerzame, nekhaar-verstijvende lectuur. Helaas was ik nét te laat: de rechten voor de Nederlandse markt waren al weggesnaaid door de collega’s van Maven Publishing. Als ik Bol mag geloven verschijnt Als iemand dit bouwt, gaat iedereen dood op 24 maart. Kopen! Lezen! Huiveren!

Huiveren deed ik trouwens ook bij het lezen van het derde gemiste boek. Daarover hoort u alles in het derde en laatste deel van deze column.