Deloitte concederà al governo dell'Australia un rimborso parziale per colpa di un rapporto pieno di citazioni inventate e riferimenti a ricerche inesistenti generati dall’intelligenza artificiale, stando a quanto riportato dall’Australian Financial Review (Afr).Il report governativo di Deloitte fatto con l'AIIl documento in questione, prodotto da Deloitte e intitolato Targeted Compliance Framework Assurance Review, è stato ultimato a luglio e pubblicato ad agosto dal dipartimento per l’Occupazione e le relazioni sul Lavoro (Dewr) australiano (ne esiste una versione archiviata su Internet Archive). Il report, costato ai contribuenti circa 440mila dollari australiani (quasi 250mila euro), analizza il quadro tecnico che il governo usa per automatizzare le sanzioni legate al sistema di welfare del paese.Poco dopo la pubblicazione, Chris Rudge, vicedirettore dell’area di diritto sanitario all’Università di Sydney, ha notato che il rapporto conteneva citazioni inesistenti a numerosi articoli e pubblicazioni. Tra questi, c'erano diversi riferimenti a fantomatici lavori di Lisa Burton Crawford, professoressa alla facoltà di giurisprudenza della stessa università."È preoccupante vedere ricerche attribuite a me in questo modo", ha dichiarato Crawford all’Afr ad agosto. "Vorrei che Deloitte spiegasse come sono state generate queste citazioni".Correzioni e rimborsoDeloitte e il Dewr hanno pubblicato il 3 ottobre una versione aggiornata del testo originale, con un "piccolo numero di correzioni a riferimenti e note a piè di pagina", come riportato sul sito del dipartimento.Nella nuova versione, lunga 273 pagine, Deloitte ha aggiunto a pagina 58 un riferimento all’uso di “una catena di strumenti basata su un modello linguistico di grandi dimensioni (Azure OpenAI GPT-4o)”.Dei 141 riferimenti citati nel report originale, solo 127 compaiono nella nuova versione. Oltre alle citazioni inventate attribuite a Lisa Burton Crawford e ad altri accademici, Deloitte ha eliminato anche una citazione falsa collegata a una sentenza della giudice federale Jennifer Davies (il cui nome era stato scritto erroneamente come "Davis" nella versione precedente).Deloitte Australia ha annunciato che restituirà l’ultima parte del pagamento previsto dal contratto con il governo del paese, anche se non è chiaro a quanto ammonti la somma. Un portavoce del Dewr ha spiegato ad Afr che "i contenuti principali della revisione indipendente restano invariati e le raccomandazioni non sono state modificate".Sempre ad Afr, però, Rudge ha commentato che “non ci si può fidare delle raccomandazioni quando il rapporto stesso si basa su una metodologia difettosa, inizialmente non dichiarata e priva di reali competenze tecniche. Deloitte ha ammesso di aver utilizzato l’intelligenza artificiale generativa per un’analisi centrale del report, senza inizialmente renderlo noto”.Questo articolo è apparso originariamente su Ars Technica.