L'IA può leggere le emozioni sul lavoro? Il caso Myndoor spiegato - Agenda Digitale

Quando l’intelligenza artificiale entra negli spazi di lavoro per misurare il benessere psicologico dei dipendenti, il confine tra innovazione lecita e pratica vietata si fa sottile. È proprio su questo crinale che si è mosso il Garante per la protezione dei dati personali nel caso che ha coinvolto Myndoor S.r.l., riportando al centro del dibattito la questione dell’inferenza emotiva sul luogo di lavoro disciplinata dall’AI Act.Indice degli argomenti

Il provvedimento del Garante contro MyndoorIl caso: sentiment analysis su chat aziendaliL’art. 5(1)(f) AI Act: il divieto di inferire emozioni sul lavoroCome il Garante cita l’AI ActExplainability e trasparenza: tra GDPR e AI ActConclusioni: tra mitigazioni e divieti assoluti, occorre chiarezzaIl provvedimento del Garante contro MyndoorCon il provvedimento n. 342 del 14 maggio 2026, il Garante per la protezione dei dati personali ha emesso un avvertimento nei confronti di Myndoor S.r.l., società che commercializza un plug-in capace di analizzare il contenuto testuale dei messaggi scambiati su Slack e Teams per ricavarne parametri di stress psicologico dei lavoratori che scelgono volontariamente di utilizzarlo. Il provvedimento ha destato notevole attenzione nel mondo delle startup e delle imprese tech perché, nel suo percorso motivazionale, cita esplicitamente l’art. 5, par. 1, lett. f), del Regolamento (UE) 2024/1689, il cosiddetto AI Act, che vieta i sistemi di IA per inferire emozioni sul luogo di lavoro. Il punto è: quella di Myndoor è davvero una pratica vietata dall’AI Act? La risposta, a un esame rigoroso del testo normativo e delle Guidelines della Commissione europea, non è affatto scontata — e le conseguenze di questa ambiguità meritano una riflessione seria.Il caso: sentiment analysis su chat aziendaliMyndoor ha sviluppato un plug-in acquistabile da enti e imprese da mettere a disposizione dei propri dipendenti. Il funzionamento è semplice: il lavoratore sceglie liberamente di attivarlo, dopodiché il sistema analizza i messaggi che egli stesso invia nelle chat aziendali (Teams o Slack), restituendo all’utente una valutazione del proprio livello di stress psicologico con relativi suggerimenti di benessere. Tecnicamente, si tratta di sentiment analysis applicata a testo scritto, mediante un modello di intelligenza artificiale addestrato sul linguaggio naturale.Il Garante ha avviato accertamenti ispettivi verificando in particolare se e in quale misura i datori di lavoro che avevano acquistato il servizio potessero accedere ai dati individuali dei dipendenti. Dall’istruttoria è emerso che Myndoor opera come titolare del trattamento in via esclusiva, e che le aziende acquirenti non hanno accesso ai dati personali degli interessati. L’unica eccezione riguarda un report aggregato trasmesso, in un solo caso accertato, a una sola azienda cliente, contenente statistiche aggregate sullo stress dei dipendenti.All’esito dell’istruttoria, il Garante non ha irrogato sanzioni, ma ha emesso un avvertimento: i trattamenti previsti potrebbero verosimilmente violare il quadro normativo in materia di protezione dei dati personali.L’art. 5(1)(f) AI Act: il divieto di inferire emozioni sul lavoroIl cuore della questione su cui si vuole soffermare il presente articolo, però, è la perimetrazione del divieto sancito dall’art. 5, par. 1, lett. f), dell’AI Act, che proibisce l’immissione sul mercato, la messa in servizio o l’uso di “sistemi di IA per inferire le emozioni di una persona fisica nell’ambito del luogo di lavoro e degli istituti di istruzione”, salvo i casi in cui tali sistemi siano messi in servizio per motivi medici o di sicurezza.La norma, in sé, sembrerebbe tagliata su misura per un sistema come Myndoor. Senonché, le Guidelines della Commissione europea sulle pratiche vietate di IA — pubblicate proprio per guidare l’interpretazione uniforme delle proibizioni assolute — introducono un elemento qualificante che l’AI Act non esplicita con altrettanta chiarezza: il collegamento con i dati biometrici.Le Guidelines chiariscono che il citato divieto è concepito per colpire i sistemi che inferiscono stati emotivi a partire da segnali biometrici: espressioni facciali, tono e inflessioni della voce, postura corporea, parametri fisiologici come frequenza cardiaca o sudorazione, movimenti oculari. La ratio è chiara: proteggere i lavoratori da forme di sorveglianza biometrica invasiva e pervasiva, capace di penetrare nella sfera più intima della personalità senza che il soggetto possa esercitare alcun controllo effettivo.Ebbene, nel caso Myndoor il sistema analizza testo scritto — i messaggi digitati dall’utente nelle chat aziendali. Non sembrerebbe esservi, inoltre, alcuna analisi della digitazione (cd. keystroke analysis), la quale potrebbe far ricadere il dato personale nella categoria dei dati biometrici. Nel caso di specie, invece, il contenuto di un messaggio scritto non sarebbe, né per il GDPR né per l’AI Act, un dato biometrico. Sarebbe un dato testuale, prodotto in modo deliberato e consapevole dall’interessato.Ne consegue, sul piano strettamente tecnico-giuridico, che il sistema Myndoor, nella sua configurazione dichiarata, non sembrerebbe soddisfare il presupposto identificato dalle Guidelines come necessario per integrare il divieto dell’art. 5(1)(f) AI Act. Mancherebbe, appunto, il trattamento di dati biometrici. E senza dati biometrici, il divieto assoluto non scatta.Come il Garante cita l’AI ActIl Garante non afferma esplicitamente che Myndoor viola l’art. 5(1)(f) AI Act. Il provvedimento è più cauto. Il passaggio rilevante recita che occorre assicurare la conformità del prodotto al “separato quadro normativo in materia di intelligenza artificiale e, in particolare, al divieto previsto dall’art. 5, par. 1, lett. f)”, aggiungendo che tale principio “impone e conferma che l’impiego di siffatti sistemi non deve comportare la messa a disposizione dei datori di lavoro di informazioni, inferite tramite sistemi di intelligenza artificiale, riguardanti il proprio personale”.Si tratta di un utilizzo del divieto sancito dall’AI Act non come base di un accertamento di violazione, ma come argomento rafforzativo di un ragionamento che poggia prevalentemente sul GDPR, sul Codice privacy e sullo Statuto dei lavoratori. In altri termini, il Garante usa l’AI Act per confermare, sul piano dei principi, che le informazioni sullo stato emotivo dei dipendenti non devono raggiungere il datore di lavoro — non perché il sistema sia necessariamente vietato dall’AI Act, ma perché tale comunicazione violerebbe il quadro complessivo di tutela della dignità del lavoratore.Questa operazione interpretativa è comprensibile sul piano della politica del diritto, ma lascia irrisolto un problema di precisione giuridica non trascurabile: citare l’art. 5(1)(f) AI Act in relazione a un sistema di sentiment analysis su testo apparentemente privo di riferimenti biometrici, senza esplicitare che le Guidelines ne richiedono la presenza, può creare nell’operatore del diritto — e ancor più nell’imprenditore — l’impressione che quel sistema sia intrinsecamente vietato, quando invece potrebbe non esserlo.Explainability e trasparenza: tra GDPR e AI ActIl provvedimento contiene anche una riflessione più ampia, di notevole interesse, sulla capacità inferenziale dei sistemi di IA e sui rischi connessi alla scarsa spiegabilità dei modelli di machine learning. Il Garante richiama la necessità di explainability, di robustezza dei modelli, di qualità dei dati di addestramento e di controllo umano effettivo. Si tratta, tra l’altro, di principi pienamente condivisi tra il GDPR e l’AI Act.Il Garante è categorico sul punto: tali principi sono “condizioni essenziali” per prevenire trattamenti non conformi alla normativa.Conclusioni: tra mitigazioni e divieti assoluti, occorre chiarezzaIl provvedimento del Garante su Myndoor è un segnale importante, uno dei primi in quest’ambito. È bene sottolineare, in ogni caso, che non ogni sistema di intelligenza artificiale di analisi del benessere dei lavoratori corrisponde a una pratica vietata dall’AI Act: il divieto assoluto dell’art. 5(1)(f), come chiarito dalle Guidelines della Commissione, colpisce l’inferenza emotiva basata su dati biometrici.Per le startup e le imprese che operano nello spazio del wellbeing aziendale e dell’analisi del benessere dei lavoratori, la distinzione è esistenziale: un conto è trovare le mitigazioni tecniche e organizzative necessarie per rendere lecito un trattamento; un altro è fare qualcosa che è strutturalmente e assolutamente vietato. Nel primo caso, l’imprenditore può investire in privacy by design, in architetture di pseudonimizzazione, in soglie di aggregazione, in informative adeguate, in valutazioni d’impatto — e costruire un prodotto conforme. Nel secondo caso, nessuna mitigazione è sufficiente: il prodotto non può esistere.