Il rischio più inquietante dell’intelligenza artificiale applicata alla guerra potrebbe non essere quello che Hollywood ci ha insegnato a temere. Non servono macchine che sviluppano una coscienza, decidono di sterminare l’umanità e lanciano missili contro le nostre città. Potrebbe bastare qualcosa di molto più banale: esseri umani che, poco alla volta, smettono di fidarsi del proprio giudizio.
È la tesi di un saggio di Emelia S. Probasco, ricercatrice del Center for Security and Emerging Technology, pubblicato su Foreign Affairs. L’esperta invita a guardare oltre lo scenario Skynet e a concentrarsi su un problema meno spettacolare ma forse più concreto: che cosa succede alla capacità cognitiva di soldati e comandanti quando cominciano a delegare sistematicamente alle macchine la valutazione delle informazioni e la formulazione delle decisioni?
Il fenomeno ha già un nome: automation bias. È la tendenza a considerare più affidabile il responso di una macchina rispetto al proprio giudizio, anche quando esistono elementi che dovrebbero indurre a dubitare. Non è una novità dell’intelligenza artificiale: basta pensare a chi segue ciecamente il navigatore fino a finire con l’auto in un lago. Ma con i nuovi modelli generativi il problema può diventare qualitativamente diverso, perché l’intelligenza artificiale non si limita a fornire una risposta: può costruire una spiegazione apparentemente convincente, suggerire alternative, organizzare informazioni e persino proporre una linea d’azione.
