Cosa sono automiglioramento e disallineamento
Il 9 settembre il ricercatore Jacob Coxon, 27 anni, si è dimesso da Anthropic per sentirsi libero di denunciare pubblicamente quelli che a suo parere sono i pericoli derivanti da uno sviluppo poco controllato dei modelli più avanzati di intelligenza artificiale.
1 Che cosa ha scritto Jacob Coxon sui social?L’informatico ha lavorato tre anni all’allenamento dei modelli di AI, prima a OpenAI quindi ad Anthropic. «Nessuna delle due aziende sta agendo in modo responsabile... stanno giocando d’azzardo con le nostre vite». A suo sostegno altri due ricercatori, tra cui Evan Hubiger, responsabile scientifico per l’allineamento — il «comportamento» di un modello — sempre ad Anthropic: «Crediamo davvero che l’AI potrebbe sterminare tutta l’umanità! Personalmente, penso che la percentuale che questo possa accadere supererà il 10% entro il prossimo decennio».
