In un saggio del 2003 il filosofo svedese Nick Bostrom ha immaginato una macchina a cui viene dato un solo compito: produrre quante più graffette possibile. Nell’esperimento mentale di Bostrom non ci sono condizioni d’arresto né limiti dati alla macchina ma solo il comando da eseguire interpretandolo letteralmente. Più graffette.
Secondo il filosofo, una macchina simile, con capacità illimitate e accesso illimitato alle risorse, comincerebbe con il comprare metallo, poi costruirebbe fabbriche, quindi convertirebbe in graffette il metallo a disposizione. Poi procederebbe convertendo qualunque materia disponibile, inventando nuove tecnologie per farlo. Prima si dedicherebbe alla Terra e poi a porzioni sempre più vaste dell’universo osservabile: tutto verrebbe convertito in graffette (c’è anche un videogame ispirato a questo esperimento. Attenzione: può generare dipendenza negli animi più nerd).
La macchina di Bostrom non lo farebbe per cattiveria o per ostilità ma per coerenza con il suo compito di partenza: massimizzare la produzione di graffette. Siccome non c’è un punto di arrivo di questo compito di “crescita infinita”, non esiste un momento in cui ha senso fermarsi.
Il 26 aprile 1986 nella centrale nucleare di Cernobyl, in Ucraina, si stava eseguendo un test di sicurezza sul reattore numero quattro. Per condurlo, i tecnici abbassarono la potenza e disattivarono una parte dei sistemi di protezione automatica, che altrimenti avrebbero interrotto la prova. Il reattore esplose.
