C’è qualcosa di paradossale, e proprio per questo di molto significativo, nell’appello lanciato da Dario Amodei. Il fondatore di Anthropic non è un osservatore esterno della rivoluzione dell’intelligenza artificiale, né uno dei suoi critici. È uno degli uomini che quella frontiera la stanno spostando. Eppure oggi sostiene che sia necessario rallentarne il passo, non arrestare la ricerca, ma introdurre una distanza tra ciò che tecnicamente possiamo fare e ciò che siamo effettivamente in grado di governare. La distinzione è decisiva. Amodei parla di «pacing the frontier»: concedere alla sicurezza, ai controlli e alle istituzioni il tempo necessario per non essere definitivamente superati dalla tecnologia. Secondo la sua previsione, nell’arco di sei-dodici mesi sistemi sufficientemente avanzati potrebbero arrivare a coordinare sciami di agenti capaci di compromettere su vasta scala infrastrutture digitali e reti. Si può discutere, naturalmente, sulla precisione della previsione. Sarebbe invece un errore ignorare il problema che quella previsione rende visibile.
Perché il punto non è sapere se la data indicata da Amodei sarà esatta. Nella storia delle tecnologie le profezie temporali sono quasi sempre la parte meno affidabile. Il punto è che sta cambiando la natura stessa del rischio. Per molto tempo abbiamo discusso dell’intelligenza artificiale soprattutto attraverso i suoi risultati: discriminazioni, errori, disinformazione, violazioni della privacy, opacità delle decisioni automatizzate. Oggi la questione si sposta progressivamente a monte. Sistemi agentici possono programmare, coordinarsi, utilizzare strumenti, svolgere in sequenza compiti complessi e intervenire sull’ambiente digitale. Il rischio, quindi, non riguarda più soltanto la risposta sbagliata prodotta da una macchina, ma la capacità della macchina di trasformare quella risposta in azione.
