La scorsa settimana Anthropic, l’azienda che sviluppa il chatbot di intelligenza artificiale (AI) Claude, ha scritto sul suo sito un lungo post in cui sostiene che tutto il settore dovrebbe rallentare o fermarsi temporaneamente per via dei crescenti rischi dovuti al rapido sviluppo che sta osservando. Non è una novità: Anthropic è nota per i suoi richiami alla cautela, che però fin qui sono rimasti più un modo per tenere alta la propria reputazione di azienda “etica” che la base di interventi concreti. Anthropic è infatti insieme a OpenAI l’azienda che ha raggiunto i risultati più sorprendenti con i suoi modelli di intelligenza artificiale e ha da poco annunciato di volersi quotare in borsa.
Nel suo invito a rallentare, Anthropic spiega che oggi circa l’80 per cento del codice prodotto dall’azienda viene generato da Claude. Fino all’inizio del 2025, la maggioranza del lavoro veniva svolto dai programmatori di Anthropic e la quota di codice scritta da Claude si aggirava attorno a pochi punti percentuali: la rapidità con cui è cresciuto l’intervento di Claude è, secondo l’azienda, un segnale che lo sviluppo dell’AI sta accelerando in modo difficile da controllare. La prospettiva è che possa portare in breve tempo al raggiungimento di uno degli obiettivi più ambiziosi e temuti del settore: l’auto-miglioramento ricorsivo (recursive self-improvement).
