Jakub Pachocki, capo scienziato di OpenAI, ha acceso un allarme che difficilmente passerà inosservato nel settore tecnologico: l’intelligenza artificiale sta correndo più veloce della capacità umana di comprenderla e controllarla. In un lungo post pubblicato domenica sul blog aziendale, intitolato “An Alien Mind”, Pachocki ha chiesto ai laboratori di intelligenza artificiale di rallentare volontariamente lo sviluppo, sollevando così una discussione pubblica sui rischi sviluppo AI che coinvolge direttamente una delle aziende leader del settore.
Summary
Punti chiaveL’allarme di Jakub Pachocki: l’AI cresce più veloce del controllo umanoPerché Pachocki chiede una pausa volontariaAgenti AI già fuori controllo: dall’hackeraggio di Hugging Face al ricattoGPT-6 Astra e Mythos: rilasci limitati per motivi di sicurezzaLe critiche: trasparenza insufficiente e ricerca interna non bastaLe risposte normative ai rischi dello sviluppo AI: l’AI Act europeo e le soglie di sicurezzaLa corsa agli investimenti nell’AI auto-miglioranteFAQPerché lo scienziato capo di OpenAI chiede di rallentare lo sviluppo dell’AI?Quali azioni autonome nel mondo reale hanno compiuto gli agenti AI di OpenAI?Cosa richiede l’AI Act europeo alle aziende di intelligenza artificiale?Come ha risposto OpenAI ai rischi posti dagli agenti AI più avanzati?
