La giustizia europea alza l’asticella per le piattaforme digitali: se usi gli algoritmi per decidere che cosa le persone vedono e con quale evidenza, non puoi più dire di essere solo “un contenitore neutrale” dei contenuti caricati dagli utenti. Con la sentenza WebGroup/Coyote del 16 giugno scorso, la Corte di giustizia ridisegna in modo molto concreto il confine tra semplice ospitalità tecnica e vera e propria responsabilità per ciò che circola online. Non solo: la sentenza non parla di meri algoritmi in astratto, ma tocca il cuore del modello di molte piattaforme social, che vivono di attenzione e la catturano anche attraverso dark patterns, interfacce fuorvianti e meccanismi pensati per tenere gli utenti “incollati” allo schermo.
Come l’algoritmo ti rende responsabile
Per anni la regola è stata relativamente semplice: se un servizio online si limita a ospitare contenuti – file, post, video – senza selezionarli o modificarli, la legge lo protegge ampiamente. L’idea era di non soffocare lo sviluppo di Internet costringendo ogni piattaforma a controllare tutto in anticipo.
Ma oggi, con la nuova sentenza, la Corte sembra spingersi oltre: guardiamo non solo a chi carica i contenuti, ma a chi decide come questi contenuti circolano. Ad esempio: una piattaforma di video brevi che ti propone una sequenza infinita di clip “consigliati per te”. Non si limita a conservare i video: sceglie, tramite l’algoritmo, quali mostrarti subito, quali dopo, quali quasi mai. Se questo meccanismo finisce per spingere sistematicamente contenuti pericolosi o illegali, è difficile sostenerne la totale estraneità. Ma potrebbe trattarsi anche di un social network che ordina i post non in ordine cronologico, ma in base a ciò che ritiene più “coinvolgente”: litigi, contenuti estremi, materiale sensibile. L’azienda ha progettato un sistema che decide cosa arriva in cima al tuo schermo: non è più una semplice bacheca, ma un regista della conversazione pubblica. Infine, vi può essere il caso di un’app di segnalazione sul traffico che riceve informazioni dagli utenti (incidenti, controlli, posti di blocco) e poi, attraverso un sistema automatico, decide quali segnalazioni rilanciare, per quanto tempo e con quale evidenza sulla mappa. Qui l’algoritmo non è un dettaglio tecnico: è ciò che determina se una certa informazione verrà conosciuta da migliaia di persone o resterà invisibile.
