Caricamento player
C’è almeno un tratto comune tra i ricercatori e gli sviluppatori che nelle ultime settimane hanno annunciato le proprie dimissioni dalle aziende che si occupano di intelligenza artificiale (AI), come OpenAI e Anthropic. Le accusano di sottovalutare i rischi per l’umanità che possono derivare dalla creazione di AI sempre più potenti e con grandi autonomie. Alcuni di loro si sono spinti ancora oltre, sostenendo che tra non molto tempo la nostra specie potrebbe essere distrutta da una AI fuori controllo.
Sembra uno scenario da fantascienza, e secondo numerosi esperti a questo stadio dello sviluppo delle intelligenze artificiali lo è ancora, ma ormai da tempo vengono prodotti studi e simulazioni per capire che cosa potrebbe andare storto.
La questione era in realtà dibattuta ben prima che le AI raggiungessero le capacità attuali e fossero usate da centinaia di milioni di persone sui loro smartphone e computer. Una ventina di anni fa il filosofo svedese Nick Bostrom pubblicò un esperimento mentale che sarebbe stato molto ripreso e citato negli anni seguenti.
Bostrom immaginava un’intelligenza artificiale estremamente potente alla quale veniva assegnato un unico obiettivo, apparentemente innocuo: produrre il maggior numero possibile di graffette. Col tempo l’AI diventava sempre più abile nel farle e scopriva che per raggiungere il proprio obiettivo doveva servirsi di tutte le risorse disponibili. Cercava quindi di procurarsi in ogni modo le materie prime, impediva che venisse spenta e aumentava di continuo la propria capacità produttiva. Alla fine riusciva a trasformare tutta la materia dell’Universo in graffette, e visto che anche gli umani sono fatti di materia, la nostra specie finiva per estinguersi per il grande obiettivo finale.
