Genova - Decine di migliaia di persone, fra scienziati, premi Nobel, politici, imprenditori, attrici, cantanti e persone comuni hanno firmato nelle ultime ore una petizione (questa) in cui si chiede di sospendere lo sviluppo della super intelligenza artificiale, uno stadio dell'IA ancora da raggiungere e che potrebbe rappresentare una minaccia per l'umanità. Nel testo della proposta si chiede il blocco allo sviluppo della cosiddetta super intelligenza “finché non ci sarà un consenso scientifico sul fatto che possa essere realizzata in modo controllato e sicuro” e soprattutto “finché non ci sarà il sostegno pubblico” e dunque le persone saranno consapevoli di quello che è e di quelle che potrebbero essere le conseguenze. XIX Tech: le ultime notizie dal mondo della tecnologia
Chi ha firmato lo Statement on Superintelligence L'iniziativa, lanciata dal Future of Life Institute, un'organizzazione no-profit con sede negli Stati Uniti che da tempo mette in guardia sui rischi dovuti alla nuova tecnologia, e legata a un’altra simile messa in piedi da Eko (questa), ha raccolto un sostegno trasversale. Tra i firmatari ci sono quelli che sono i padri dell'IA generativa come la conosciamo oggi, compresi Geoffrey Hinton, premio Nobel per la Fisica nel 2024 (qui le sue posizioni critiche sulle IA), e Stuart Russell, professore di Informatica all'Università della California a Berkeley. Ci sono anche rappresentanti del mondo della tecnologia come Steve Wozniak, co-fondatore di Apple insieme con Steve Jobs, personaggi politici come Steve Bannon, ex assistente di Trump, Susan Rice, consigliere per la sicurezza nazionale degli Stati Uniti, l'ex capo di Stato maggiore congiunto degli Usa, Mike Mullen e anche europarlamentari come Brando Benifei, ex relatore dell'AI Act, Michael McNamara e Markéta Gregorovs. Ancora: fra i firmatari ci sono leader religiosi come Paolo Benanti, consigliere del Papa proprio sulle IA, e celebrità come il rapper William e il principe Harry e sua moglie, Meghan Markle. Cos’è l’IA Forte e perché dovremmo preoccuparci La cosiddetta super intelligenza è una sorta di evoluzione delle IA attuali, quella che in italiano si chiama IA Forte (l’avevamo spiegata qui) e che in inglese è contraddistinta dalla sigla AGI, che sta per Artificial General Intelligence: è una IA che dovrebbe essere in grado di risolvere problemi di natura generale anche al di là della sua specifica programmazione. Non necessariamente superiore agli esseri umani, o senziente come si sente dire nei libri o nei film di fantascienza: non una cosa come la Skynet di Terminator (che l’anno scorso ha compiuto 40 anni) ma comunque qualcosa per cui gli interessi della specie umana potrebbero passare in secondo piano. Per cui saremo quello che le formiche sono per noi, per citare un noto esempio fatto dall’astrofisico Stephen Hawking (che era spaventato dalle IA già nel 2015, come ricordammo qui). Il punto è che se a questi software verranno affidati compiti in campo militare, sanitario o di selezione del personale (tutti ambiti dove le IA sono utilizzate già oggi), potrebbero prendere decisioni non necessariamente coerenti con la sopravvivenza delle persone o comunque con il bene delle persone. Non è un’ipotesi campata per aria: sia OpenAI sia Meta hanno dichiarato esplicitamente che il loro obiettivo è proprio lo sviluppo di una super intelligenza, che stanno cercando di raggiungere il più velocemente possibile, con l’unico obiettivo di arrivare primi e di massimizzare i profitti. Secondo Sam Altman, CEO della compagnia che creato ChatGPT (con i soldi di Microsoft), il traguardo della AGI potrebbe essere raggiunto entro 5 anni, come ha spiegato a settembre durante un evento del gruppo mediatico Axel Springer.
