Negli Stati Uniti Burger King sta sperimentando in circa cinquecento ristoranti un sistema di intelligenza artificiale denominato “Patty”, progettato per analizzare le interazioni tra operatori e clienti nei drive-thru e valutare il livello di cortesia del servizio offerto.

Il sistema, secondo le informazioni diffuse dalla stampa, sarebbe in grado di analizzare il linguaggio utilizzato dagli addetti, il tono della voce e la qualità dell’interazione con il cliente, con l’obiettivo di migliorare l’esperienza del consumatore e standardizzare la qualità del servizio.

In concreto l’algoritmo identifica espressioni considerate segnali di cordialità – come “benvenuto”, “per favore” o “grazie” – e utilizza questi dati per elaborare report che consentono ai manager di monitorare l’andamento del servizio. La tecnologia fa parte della piattaforma operativa “BK Assistant” e viene attualmente sperimentata in circa 500 ristoranti negli Stati Uniti, con l’obiettivo di estenderla progressivamente a tutta la rete entro il 2026.

Secondo l’azienda si tratterebbe principalmente di uno strumento di supporto e di “coaching” destinato a migliorare l’esperienza del cliente. Tuttavia, l’idea che un sistema di intelligenza artificiale possa ascoltare le conversazioni dei lavoratori e valutare la loro cordialità ha immediatamente sollevato un interrogativo più ampio: dove finisce il miglioramento del servizio e dove inizia la sorveglianza del lavoro?

La questione diventa ancora più complessa se si considera la natura stessa di queste tecnologie. Un sistema come Patty non si limita infatti a registrare semplicemente un dato – come il tempo di risposta o il numero di ordini gestiti – ma pretende di misurare un comportamento umano qualitativo, la “gentilezza”, attraverso indicatori linguistici e modelli statistici.

Ci si può allora chiedere fino a che punto sia realmente affidabile un sistema che pretende di ricostruire – o addirittura anticipare – la volontarietà del lavoratore attraverso l’analisi di alcune parole o del tono della voce: la cordialità nell’interazione con il cliente è infatti il risultato di un insieme complesso di fattori relazionali, contestuali e situazionali difficilmente riducibili a parametri algoritmici.

In altri termini, il rischio non riguarda soltanto il controllo dell’attività lavorativa, tema tradizionalmente affrontato dall’articolo 4 dello Statuto dei lavoratori. L’utilizzo di sistemi di questo tipo solleva anche questioni più ampie legate alla profilazione comportamentale, all’affidabilità delle valutazioni automatizzate e alla possibilità che decisioni rilevanti per il rapporto di lavoro vengano influenzate da modelli algoritmici opachi o non pienamente verificabili.

Non a caso il legislatore europeo, con l’AI ACT, ha incluso i sistemi di intelligenza artificiale utilizzati per il monitoraggio e la valutazione dei lavoratori tra le applicazioni considerate ad alto rischio, proprio perché tali tecnologie possono impattare in modo significativo sui diritti e sulle prospettive professionali delle persone. 

Alla luce di queste considerazioni, la domanda diventa inevitabile: Patty sarebbe possibile anche nel contesto italiano?  La risposta potrebbe ridursi a un semplice no. Tuttavia, una conclusione di questo tipo richiede di essere argomentata e ricondotta al quadro normativo che disciplina l’utilizzo delle tecnologie nel rapporto di lavoro.

Il primo riferimento normativo resta rappresentato dall’articolo 4 dello Statuto dei lavoratori, disposizione che disciplina l’utilizzo di strumenti dai quali possa derivare un controllo sull’attività lavorativa.

La riforma introdotta nel 2015 ha certamente modificato la formulazione della norma, ma non ne ha alterato la funzione originaria. La ratio dell’articolo 4, già chiarita da Gino Giugni e confermata da larga parte della dottrina, consiste infatti nell’evitare che l’organizzazione tecnologica dell’impresa si traduca in forme di sorveglianza continua e sistematica della prestazione lavorativa.

Il legislatore ha consentito l’utilizzo di strumenti tecnologici necessari all’organizzazione del lavoro, alla sicurezza aziendale o alla tutela del patrimonio aziendale, ma non ha eliminato il principio secondo cui il lavoratore non può essere sottoposto a un monitoraggio costante della propria attività.

In questa prospettiva il ricorso ad un sistema in grado di analizzare in maniera capillare e costante le conversazioni tra operatori e clienti e di generare indicatori sulla qualità della loro interazione presenta profili problematici. Anche qualora la finalità dichiarata fosse quella di migliorare l’esperienza del cliente, la tecnologia renderebbe possibile una sorveglianza costante dei lavoratori che resta, di fatto e di diritto vietata dalla norma.

Un sistema di analisi automatizzata delle conversazioni implica necessariamente la raccolta e l’elaborazione di dati riferibili ai lavoratori: le registrazioni vocali, le trascrizioni e gli indicatori generati dall’algoritmo costituiscono infatti informazioni che permettono di valutare il comportamento professionale del singolo dipendente e rientrano quindi nell’ambito di applicazione del Regolamento generale sulla protezione dei dati.

Il GDPR impone che ogni trattamento di dati personali rispetti i principi di liceità, proporzionalità e minimizzazione. In un contesto come quello descritto, il datore di lavoro dovrebbe dimostrare non soltanto la legittimità della raccolta delle conversazioni, ma anche la reale necessità dell’analisi algoritmica rispetto alle finalità organizzative dichiarate.

La questione assume una dimensione ancora più delicata se si considera la natura delle informazioni elaborate dal sistema, poiché l’algoritmo non si limita a registrare dati oggettivi relativi allo svolgimento della prestazione, ma costruisce indicatori che pretendono di misurare qualità relazionali e comportamenti professionali complessi, con la conseguenza che la valutazione della cortesia finisce per diventare il risultato di un processo di profilazione basato su modelli statistici e criteri linguistici che trasformano un comportamento umano in un parametro misurabile.

In questo quadro assume particolare rilievo anche l’articolo 8 dello Statuto dei lavoratori, disposizione che vieta al datore di lavoro di effettuare indagini sulle opinioni del lavoratore o su fatti che non risultino rilevanti ai fini della valutazione dell’attitudine professionale.

Un sistema che pretende di misurare la “cortesia” attraverso l’analisi delle parole utilizzate o del tono della voce rischia infatti di oltrepassare il limite fissato dalla norma in virtù del fatto che il sistema potrebbe tentare di ricostruire atteggiamenti, prassi relazionali e modalità espressive che appartengono alla dimensione comportamentale della persona.

A queste criticità si aggiunge infine un ulteriore profilo che riguarda il rapporto tra raccolta dei dati e trasformazione del lavoro umano, poiché i sistemi di intelligenza artificiale funzionano attraverso l’acquisizione e l’elaborazione di grandi quantità di informazioni che provengono inevitabilmente dall’attività quotidiana dei lavoratori.

Attraverso l’analisi delle conversazioni e delle interazioni con i clienti, il sistema accumula infatti informazioni sulle modalità concrete con cui il servizio viene svolto e apprende progressivamente schemi linguistici, strategie comunicative e modalità relazionali che rappresentano il risultato dell’esperienza professionale maturata dai lavoratori nel tempo.

Il paradosso che emerge in questo contesto appare evidente, poiché il lavoratore, attraverso la propria attività quotidiana, finisce per trasferire al sistema una parte significativa del proprio sapere professionale, consentendo all’algoritmo di costruire modelli operativi sempre più raffinati che possono essere replicati, standardizzati e potenzialmente utilizzati anche al di fuori della presenza umana.

In una prospettiva di lungo periodo il monitoraggio sistematico dell’attività lavorativa non produce soltanto effetti sul piano del controllo della prestazione, ma consente anche l’estrazione di conoscenze e di modelli comportamentali che potrebbero essere utilizzati per automatizzare alcune funzioni oggi svolte dai lavoratori, con la conseguenza che la macchina, una volta addestrata attraverso i dati generati dall’attività umana, potrebbe riprodurre quelle stesse modalità di interazione secondo criteri di efficienza e uniformità stabiliti dall’organizzazione aziendale.

In conclusione, viene quasi spontaneo osservare come nel contesto europeo il fascino delle nuove tecnologie non basti ancora a legittimare qualsiasi forma di innovazione.  Del resto, se la gentilezza potesse essere davvero misurata da un algoritmo, il diritto del lavoro avrebbe probabilmente un problema molto più serio di Patty.