Aggiungi Milano Finanza alle tue fonti preferite su Google per non perderti i nostri contenuti
Secondo fonti vicine alla vicenda, Demis Hassabis, il principale scienziato di Alphabet, ha avuto colloqui con funzionari governativi e leader di altri laboratori di intelligenza artificiale riguardo alla creazione di un nuovo ente indipendente per la sicurezza del settore nelle settimane precedenti alle sue dimissioni da amministratore delegato di Google DeepMind. Hassabis, co-fondatore di Google DeepMind e considerato un pioniere nel campo dell'apprendimento automatico, ha dedicato sempre più tempo a promuovere l'idea di un'organizzazione che codificasse le linee guida e le migliori pratiche per lo sviluppo dell'intelligenza artificiale generale (AGI), affermano le stesse fonti. Nei colloqui con i colleghi, ha paragonato l'ente proposto all'Agenzia Internazionale per l'Energia Atomica (Aiea), un organismo di controllo non governativo che promuove la cooperazione in materia di energia nucleare. All'inizio dell'estate, Hassabis ha discusso alcuni aspetti del suo piano con alti funzionari dell'amministrazione Trump, tra cui il segretario del Tesoro Scott Bessent e Michael Kratsios, uno dei principali consiglieri tecnologici del presidente Trump, secondo quanto riferito da fonti vicine alla vicenda. La sicurezza è di vitale importanza per Google Hassabis non ha risposto alle richieste di commento. Un portavoce di Google ha affermato che l'azienda considera la sicurezza dei modelli di intelligenza artificiale avanzata «di vitale importanza per la società» e che Hassabis si trova in una posizione privilegiata per lavorare a questo obiettivo. «Demis ha scelto di assumere un nuovo ruolo in Google e sta concentrando i suoi sforzi in modo più strategico sulle scoperte scientifiche e sulla definizione del futuro dell'intelligenza artificiale generale (AGI)», ha dichiarato il portavoce. I più grandi laboratori di intelligenza artificiale del mondo sono impegnati in una corsa per raggiungere l'AGI, ovvero computer in grado di sviluppare un'intelligenza simile a quella umana, ma molte delle menti più brillanti del settore tecnologico, compresi i leader delle stesse aziende, hanno espresso timori che la diffusione di questa tecnologia possa sconvolgere la società o che il suo potere diventi difficile da controllare. I vertici di OpenAI e Anthropic hanno chiesto la creazione di nuovi meccanismi che consentano alle aziende di intelligenza artificiale di coordinarsi sulle questioni di sicurezza. Il ceo di OpenAI, Sam Altman, il mese scorso ha proposto un «forum internazionale guidato dagli Stati Uniti» per definire gli standard e garantire la supervisione dei laboratori, mentre Anthropic ha appoggiato un accordo globale per rallentare lo sviluppo e verificarne la conformità. Gli sforzi di Hassabis rappresentano alcuni dei passi più ampi e concreti intrapresi da un funzionario di un laboratorio di primo piano. I recenti casi di alto profilo di bot di intelligenza artificiale fuori controllo che hanno condotto attacchi informatici hanno alimentato le diffuse preoccupazioni sul fatto che lo sviluppo della tecnologia stia procedendo troppo velocemente e senza un'adeguata regolamentazione. L'amministrazione Trump ha intensificato il controllo sui rischi per la sicurezza posti dall'AI, ma ha mantenuto volontarie le valutazioni dei modelli per gli strumenti più potenti. Il piano di Hassabis A metà luglio, Hassabis ha pubblicato un saggio su X in cui sosteneva che gli Stati Uniti dovrebbero creare un «organismo di standardizzazione» finanziato dall'industria per contribuire a valutare la sicurezza dei modelli di AI. Secondo quanto affermato da Hassabis, l'ente opererebbe in modo simile alla Financial Industry Regulatory Authority (Finra), un organismo di autoregolamentazione istituito durante la Grande Depressione che sovrintende alle società di intermediazione mobiliare ed è finanziato dal settore stesso. In base al suo piano, le agenzie federali e i laboratori nazionali del dipartimento dell'Energia collaborerebbero con aziende di intelligenza artificiale per testare i modelli «in aree rilevanti per la sicurezza nazionale» e stabilirebbero dei criteri di qualificazione che etichetterebbero un modello come «di frontiera» se soddisfacesse determinati standard. Nelle settimane precedenti la pubblicazione del saggio, Hassabis ha anticipato la sua idea a Bessent e Kratsios. Bessent ha contribuito a definire la strategia dell'amministrazione in materia di intelligenza artificiale, avvertendo che modelli recenti come Mythos di Anthropic rappresentano una minaccia informatica per il sistema finanziario. Hassabis lascia la carica di ceo di DeepMind La scorsa settimana, Google ha annunciato un drastico rimpasto dirigenziale a DeepMind, la sua unità di ricerca sull'intelligenza artificiale, che ha visto Hassabis dimettersi dalla carica di ceo e venire sostituito dal suo vice, Koray Kavukcuoglu. Hassabis è stato nominato anche presidente di DeepMind e responsabile scientifico di Alphabet. «Ho lavorato per tutta la vita all'intelligenza artificiale generale (AGI) e ora, come molti di voi, sento che è ormai vicina», ha scritto in una nota. «In questo contesto, ho deciso che ora è il momento giusto per cedere le mie responsabilità operative quotidiane a Gdm, in modo da avere il tempo e lo spazio per concentrarmi sul quadro generale e contribuire a influenzare il futuro al meglio delle mie capacità». Jeff Dean, storico responsabile scientifico dell'azienda e co-fondatore di DeepMind, che ha avuto un ruolo chiave nella creazione di diversi prodotti di punta di Google, si è dimesso per fondare una startup di ricerca sull'intelligenza artificiale. In un post sul blog della scorsa settimana, il ceo di Alphabet, Sundar Pichai, ha scritto che lui e Hassabis «discutono da tempo di un ruolo che gli permetta di dedicarsi completamente a plasmare attivamente il futuro dell'intelligenza artificiale generale (AGI)». Hassabis, premio Nobel, ha discusso della necessità che gli Stati Uniti guidino uno sforzo coordinato a livello globale per stabilire standard per l’AI durante il vertice del G7 tenutosi a giugno in Francia, a cui hanno partecipato Trump, altri leader mondiali e dirigenti del settore dell'AI, tra cui Altman e il ceo di Anthropic, Dario Amodei. I critici dell'approccio della Casa Bianca e dell'idea di Hassabis sostengono che gli sforzi volontari e i concetti di autoregolamentazione non siano sufficienti ad affrontare le minacce alla sicurezza e all'economia poste dall'AI. Molti legislatori chiedono revisioni obbligatorie dei modelli e una maggiore supervisione governativa. (Translated from the original version by Milano Finanza Editorial Staff)
