La startup di Dario Amodei torna a battere il chiodo sui rischi derivanti dal progresso sfrenato. Il momento in cui le macchine saranno indipendenti non è troppo lontano. Per questo chiede a tutto il settore – e ai Paesi – di rallentare. Ma serve un coordinamento globale difficile da ottenere
Una pausa di riflessione per evitare l’irreparabile. A chiederla è Anthropic, la startup di Dario Amodei, che si rivolge a tutto il settore. “Riteniamo che sarebbe positivo per il mondo avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell’intelligenza artificiale di frontiera per consentire alle strutture sociali e alla ricerca di allineamento di stare al passo con il progresso della tecnologia”, scrive l’azienda. L’appello arriva nel momento peggiore, sotto l’aspetto della produzione. La competizione ormai si è spostata su livelli sempre più alti, spostati man mano che qualcuno annunci un nuovo modello sul mercato. Per Anthropic però sono talmente potenti che presto potrebbero scappare al controllo umano. Ormai sono capaci di automigliorarsi, capendo dove si trovano le proprie vulnerabilità per superarle da soli. “Le prove suggeriscono che il ruolo umano si sta riducendo a ogni fase del processo di sviluppo dell’intelligenza artificiale”, sottolinea Anthropic specificando che questo momento potrebbe arrivare prima di quanto si immagini.
