Un tribunale tedesco ha emesso una sentenza che potrebbe cambiare il modo in cui operano i motori di ricerca e i chatbot basati sull’intelligenza artificiale (AI) in tutto il mondo. La Corte regionale di Monaco ha stabilito in via preliminare che Google è responsabile di una serie di dichiarazioni false generate da AI Overviews e ha imposto alla società di impedire la diffusione di affermazioni errate o imprecise attraverso i riassunti generati dall'AI che compaiono in cima ai risultati delle ricerche.Il caso in GermaniaLa decisione nasce da un caso segnalato da The Decoder, relativo a due editori che avevano scoperto di essere associati senza alcun fondamento a pratiche commerciali discutibili, truffe e raggiri legati agli abbonamenti dalla funzione di Google.All’inizio dell’anno, secondo quanto ricostruito, le aziende coinvolte avevano inviato a Google una lettera di diffida. Il colosso ha però respinto ogni responsabilità, argomentando che i riassunti automatici avvertono gli utenti che le informazioni mostrate possono contenere errori e devono essere verificate in modo indipendente.Il tribunale tedesco ha però concluso che l’intelligenza artificiale di Google aveva combinato informazioni relative ad altre aziende segnalate per possibili pratiche illecite con i dati delle società ricorrenti, creando associazioni che non comparivano in nessuna delle fonti indicate dal motore di ricerca.I giudici hanno ritenuto che – a differenza dei motori di ricerca tradizionali, che si limitano a mostrare elenchi di link a dichiarazioni formulate da terzi – lo strumento di Google producesse “affermazioni nuove e autonome, dotate di un contenuto proprio”, nate da un’interpretazione errata delle informazioni disponibili online.Secondo il tribunale, la correzione del problema non può essere affidata a terzi. Google è l’unico soggetto in grado di modificare la tecnologia alla base delle AI Overviews e quindi “deve risponderne”. La corte ha inoltre giudicato priva di fondamento la linea difensiva dell’azienda, dal momento che il riassunto contestato “contiene dichiarazioni che non compaiono nei risultati di ricerca”.Le responsabilità sui contenuti generati dall’AILa lettura data dai giudici potrebbe fare di questo caso un precedente storico sulla responsabilità delle grandi aziende tecnologiche per l’impatto delle loro tecnologie più avanzate all’interno di piattaforme popolari.Nella maggior parte degli ordinamenti giuridici, i motori di ricerca sono attualmente considerati strumenti che si limitano a facilitare l’accesso a contenuti creati da terzi e disponibili online. È questa condizione ad aver garantito loro un certo livello di protezione quando le informazioni pubblicate si rivelano false, inesatte, ingannevoli o persino diffamatorie.Il tribunale tedesco ha però sostenuto che questa tutela viene meno quando i motori di ricerca integrano sistemi di AI generativa. Secondo il ragionamento dei giudici, una tecnologia di questo tipo può produrre affermazioni inesistenti a partire da più fonti e, di conseguenza, le aziende che la gestiscono devono rispondere dei contenuti generati.I giudici hanno anche osservato che, sebbene Google inviti gli utenti a verificare le informazioni a causa delle possibili allucinazioni dei modelli di AI, questa avvertenza non elimina la responsabilità di chi diffonde il contenuto. In caso contrario, le vittime di affermazioni false resterebbero di fatto senza tutele, dal momento che le fonti originali non hanno mai formulato quelle dichiarazioni e quindi non potrebbero essere oggetto di azioni legali.Secondo la corte, i risultati generati da un sistema di AI non possono nemmeno essere tutelati dai principi della libertà di espressione, perché sono il prodotto di un algoritmo progettato, addestrato e gestito da un’azienda, e non l’espressione di un’opinione individuale.Per evitare il ripetersi di episodi simili, il tribunale ha imposto a Google di rimuovere gran parte delle affermazioni considerate diffamatorie e di coprire l’80% delle spese giudiziarie legate al procedimento.Un portavoce della società, citato da Ars Technica, ha lasciato intendere che la decisione potrebbe essere impugnata. “Google investe molto nella qualità dei riassunti generati dall’AI, per garantire che la grande maggioranza delle risposte fornisca informazioni accurate e rifletta i contenuti disponibili sul web. Stiamo esaminando con attenzione questa decisione, che non è ancora definitiva”, ha dichiarato.Una decisione che può pesare su tutto il settoreLa sentenza potrebbe avere ripercussioni globali su tutto il settore dell’intelligenza artificiale. Aziende come OpenAI, Anthropic e Perplexity AI avvertono a loro volta gli utenti che le risposte generate dai loro sistemi possono contenere errori o risultare ingannevoli e, come Google, raccomandano di verificare le informazioni.Il caso tedesco suggerisce però che questi disclaimer non basterebbero a esonerare gli sviluppatori dalla responsabilità. Secondo i giudici, quando un’AI genera affermazioni nuove che non compaiono direttamente nelle fonti originali, l’azienda che ha progettato il sistema deve rispondere legalmente degli eventuali danni.Questo articolo è apparso originariamente su Wired en Español.