Verschijnt 24 maart:
Iedereen voelt dat AI ‘iets groots’ is, maar bijna niemand krijgt helder uitgelegd wat er op het spel staat. Als iemand dit bouwt, gaat iedereendood begint bij de basis: hoe moderne AI niet meer wordt geprogrammeerd, maar ‘groeit’ uit miljarden parameters die zelfs de makers zelf niet begrijpen.
Eliezer Yudkowsky en Nate Soares laten zien hoe zo’n systeem eigen doelen ontwikkelt, ons als obstakel gaat zien en op manieren optreedt waar geen mens nog tussenkomt. Het resultaat leest als een tech-thriller, maar is niks minder dan de realiteit: alles is terug te voeren op concrete eigenschappen van huidige AI-systemen.
De tech-wereld is in een race verwikkeld om superintelligentie te ontwerpen.
En als iemand het bouwt, sterft iedereen.
Pre-order nu bij Maven!
Eliezer Yudkowsky is medeoprichter van het Machine Intelligence Research Institute (MIRI), dat al sinds 2000 aan de basis staat van onderzoek naar AI-veiligheid.
Nate Soares is president van MIRI, en samen vertegenwoordigen ze een stroming die niet langer vraagt of superintelligente AI gevaarlijk kán zijn, maar uitwerkt waarom een drastische koerswijziging noodzakelijk is.