Le aziende non possono più leggere emozioni e stress con algoritmi, ma restano due eccezioni ammesse dalla legge

Dal 2 febbraio 2025 l'articolo 5 del Regolamento europeo sull'intelligenza artificiale vieta alle aziende di usare sistemi capaci di inferire le emozioni dei lavoratori, salvo quando la finalità sia medica o legata alla sicurezza. Rientrano nel divieto gli strumenti che esaminano volto, voce, gesti, postura o altri dati biometrici e comportamentali per attribuire a una persona stati come felicità, rabbia, ansia, imbarazzo o coinvolgimento. Il consenso del dipendente non rende lecita una pratica vietata. Nemmeno l'anonimizzazione dei risultati risolve automaticamente la questione.

La norma interviene su una promessa tecnologica ormai presente in molti prodotti: trasformare stress, attenzione, gentilezza e motivazione in indicatori misurabili, da impiegare nella selezione, nell'organizzazione dei turni o nella valutazione delle prestazioni. Per un'impresa italiana, la verifica deve cominciare prima dell'acquisto. Un software HR, una piattaforma per call center o un sistema di videosorveglianza evoluta possono fare molto più di quanto lasci intendere la loro descrizione commerciale.

Il divieto europeo sul riconoscimento delle emozioni

Il Regolamento (UE) 2024/1689, conosciuto come AI Act, colloca alcune pratiche nella categoria del rischio «inaccettabile». Tra queste c'è l'immissione sul mercato, la messa in servizio o l'uso di sistemi di IA destinati a inferire le emozioni di persone fisiche sul luogo di lavoro e negli istituti di istruzione. La disposizione riguarda, quindi, sia chi sviluppa o fornisce la tecnologia sia l'organizzazione che decide di utilizzarla.

Il termine «emozione» ha un significato ampio. Può riferirsi a felicità, tristezza, rabbia, imbarazzo e divertimento, ma anche a valutazioni psicologiche ottenute combinando segnali visivi, vocali o comportamentali. Gli stati fisici, come dolore o affaticamento, seguono invece una disciplina diversa quando il sistema è destinato a motivi medici o di sicurezza.

Il luogo di lavoro non è soltanto la sede dell'azienda. La nozione comprende gli spazi fisici e virtuali in cui vengono svolti compiti assegnati, senza che conti la qualifica della persona: dipendente, professionista o apprendista. La tutela opera anche nella fase di selezione e assunzione. Per l'istruzione, il perimetro comprende istituti pubblici e privati.

Perché il consenso e l'anonimizzazione non bastano

Il consenso del lavoratore riguarda la protezione dei dati; il divieto previsto dall'AI Act riguarda prima ancora la pratica utilizzata. Quando un sistema viene impiegato per inferire emozioni sul lavoro, la volontà individuale non trasforma quell'uso in un'attività consentita. C'è poi un problema concreto di libertà del consenso: in un rapporto di subordinazione, rifiutare può essere percepito come una scelta sfavorevole.

L'anonimizzazione richiede una valutazione altrettanto precisa. Rendere non identificabili i risultati può ridurre alcuni rischi per la privacy, ma non modifica necessariamente la finalità del trattamento. Se webcam o microfoni classificano lo stato emotivo delle persone presenti per orientare mansioni, orari, formazione o valutazioni, l'operazione può restare riconducibile alla pratica vietata anche quando il dato finale viene mostrato in forma aggregata.

La verifica, dunque, non si esaurisce nella domanda «chi viene identificato?». Occorre capire che cosa il sistema stia cercando di inferire. Un questionario anonimo, nel quale gli addetti esprimono direttamente la propria opinione, è cosa diversa da un algoritmo che attribuisce stress o entusiasmo osservando la voce e i movimenti del volto.

Gli strumenti aziendali che possono rientrare nel divieto

Il confine appare più chiaro con alcuni esempi. In ambiente professionale sarebbero vietati sistemi che:

• analizzano il tono di voce degli operatori di un call center per decidere come assegnare le mansioni;
• usano webcam e movimenti oculari per attribuire un punteggio di attenzione o partecipazione;
• classificano candidati o dipendenti sulla base di espressioni facciali, postura o gestualità;
• valutano gentilezza, affidabilità, motivazione o coinvolgimento attraverso conversazioni, messaggi o riunioni;
• incrociano voce, immagini e parametri biometrici per stimare lo stato emotivo del personale.

La funzione non può essere mascherata con un'etichetta più rassicurante. Chiamare il prodotto strumento di produttività, soluzione per il benessere aziendale o applicazione di customer care non aggira il divieto. A contare è ciò che il software fa davvero: se produce un'inferenza sulle emozioni di una persona nel contesto lavorativo, il nome scelto dal fornitore non ne cambia la qualificazione giuridica.

La disciplina fa parte di un quadro più ampio. L'AI Act ha individuato complessivamente nove pratiche vietate, considerate incompatibili con i diritti e i valori dell'Unione. L'elenco comprende alcune forme di manipolazione, lo sfruttamento delle vulnerabilità, la categorizzazione biometrica discriminatoria, lo scraping indiscriminato di immagini facciali e determinati impieghi dell'identificazione biometrica remota in tempo reale.

Le eccezioni legate alla medicina e alla sicurezza

Per il riconoscimento delle emozioni nei contesti protetti, le eccezioni indicate sono legate a motivi medici o di sicurezza. Non basta presentare un progetto come utile alla salute o alla prevenzione. La finalità deve essere effettiva, specifica e coerente con l'impiego concreto del sistema.

Un dispositivo che rileva l'affaticamento di un conducente e suggerisce una pausa per ridurre il rischio di incidenti può rientrare tra gli usi ammessi. Lo stesso ragionamento può valere per sistemi destinati a individuare condizioni rilevanti per la sicurezza di autisti o piloti, purché il trattamento non serva a misurare la loro «buona disposizione» o il rendimento emotivo.

In ambito medico, l'eccezione può sostenere strumenti terapeutici o assistivi rivolti, per esempio, a dipendenti o studenti con autismo. Può riguardare anche soluzioni di accessibilità per persone non vedenti o non udenti. La progettazione e l'uso devono però restare ancorati a quella finalità. La motivazione medica o di sicurezza non può diventare un pretesto per sorvegliare il personale:

Quali strumenti possono continuare a usare le aziende

Il divieto non impedisce all'azienda di ascoltare il personale né di analizzare l'organizzazione del lavoro. La distinzione passa tra ciò che la persona dichiara direttamente e ciò che un algoritmo pretende di dedurre da segnali biometrici o comportamentali.

Possono quindi restare utilizzabili, se progettati e gestiti nel rispetto delle altre norme applicabili:

• survey volontarie e anonime sul clima aziendale o sul carico percepito;
• analisi aggregate delle presenze, senza attribuire a singoli lavoratori emozioni o giudizi psicologici;
• gestione di turni e assenze fondata su disponibilità, competenze e dati organizzativi necessari;
• questionari in cui le persone dichiarano direttamente esigenze, difficoltà o preferenze;
• strumenti di sicurezza che misurano affaticamento o condizioni fisiche per prevenire incidenti.

Questa distinzione non autorizza qualsiasi trattamento. Devono essere controllate la liceità, la trasparenza, la minimizzazione, la sicurezza dei dati e la proporzionalità richieste dal GDPR. Nel rapporto di lavoro può trovare applicazione anche l'articolo 4 dello Statuto dei lavoratori, quando lo strumento consente un controllo a distanza dell'attività. Restano poi gli obblighi informativi previsti dalla disciplina italiana.

• Le aziende non possono più leggere emozioni e stress con algoritmi, ma restano due eccezioni ammesse dalla legge
• Spiavano i propri dipendenti, 20 tra le più importanti aziende italiane sotto inchiesta: chi era sotto controllo e perché
• Litigi sul lavoro tra colleghi: il trasferimento del dipendente è ammesso senza capire chi ha torto o ragione

• Calcolo Part Time Agevolato