L’intelligenza artificiale generativa è entrata negli studi professionali e nelle impresecon una rapidità che, in molti casi, ha preceduto qualsiasi scelta organizzativa consapevole. Un dipendente utilizza un chatbot per sintetizzare un contratto, un collaboratore sottopone a un assistente digitale una bozza di parere, un addetto amministrativo chiede a un sistema di AI di riformulare una comunicazione destinata a un cliente. In altri casi, l’utilizzo riguarda fogli di calcolo, documentazione interna, procedure, verbali di riunione o corrispondenza commerciale.

Il vantaggio immediato è evidente: riduzione dei tempi, supporto nella redazione, ricerca più rapida delle informazioni, automatizzazione di attività ripetitive. Il problema nasce quando questi strumenti entrano nei processi aziendali senza che l’organizzazione li abbia scelti, valutati o autorizzati. È questo il fenomeno che viene ormai indicato con l’espressione Shadow AI, per analogia con la più nota Shadow IT: applicazioni e servizi utilizzati per finalità lavorative al di fuori dei sistemi sottoposti alla governance dell’impresa o dello studio professionale.

Shadow AI: quali rischi?

Un sistema autorizzato, sottoposto a verifica e inserito in un quadro di regole interne presenta problemi molto diversi rispetto allo stesso strumento utilizzato individualmente da un dipendente attraverso un account personale. Nel secondo caso, l’organizzazione può non sapere quali dati siano stati trasmessi, a quale fornitore, in quale Paese siano conservati, per quanto tempo rimangano disponibili e se possano essere utilizzati per finalità ulteriori.

Uno degli equivoci più frequenti consiste nel considerare il prompt inserito in un sistema di intelligenza artificiale come una semplice domanda rivolta a un software. Dal punto di vista della protezione dei dati, la valutazione deve invece concentrarsi sul contenuto trasmesso e sulle operazioni che il servizio compie su quel contenuto. Se un professionista copia all’interno di un sistema di IA una comunicazione che contiene nomi, indirizzi, dati economici o informazioni relative a una controversia, quei dati escono dal perimetro nel quale erano stati originariamente raccolti e confluiscono in un diverso ambiente tecnologico. Il medesimo problema si presenta quando un dipendente carica un contratto, una fattura, un curriculum, una relazione interna o una tabella che permette di identificare persone fisiche.

Il GDPR (Reg. UE 679/2016) impone che i dati personali siano trattati secondo principi di liceità, correttezza e trasparenza, per finalità determinate e nel rispetto del principio di minimizzazione; richiede inoltre un livello di sicurezza adeguato al rischio e attribuisce al titolare del trattamento la responsabilità di poter dimostrare il rispetto di tali principi.

Da questo punto di vista, l’utilizzo di un servizio esterno non autorizzato può creare un problema prima ancora che si verifichi una perdita di dati. Il titolare potrebbe infatti non avere valutato il fornitore, non avere verificato il ruolo assunto dalle parti nel trattamento, non conoscere i tempi di conservazione, non avere accertato l’eventuale trasferimento dei dati verso Paesi terzi e non avere stabilito se il servizio possa utilizzare le informazioni ricevute per proprie finalità.

Il rischio della Shadow AI risiede precisamente in questa perdita di conoscenza e di controllo, un’organizzazione non può governare in modo adeguato un trattamento del quale ignora l’esistenza. La stessa considerazione vale per i dati che, pur non essendo personali, possiedono un valore economico o professionale. Una strategia commerciale, una bozza di operazione societaria, un’analisi fiscale, una procedura interna, un elenco clienti o il contenuto di una trattativa possono non ricadere integralmente nella disciplina del GDPR, ma restano informazioni che l’organizzazione ha interesse e, in diversi casi, obbligo giuridico a proteggere.

La Shadow AI mette in evidenza un limite di molte politiche aziendali sull’intelligenza artificiale: la convinzione che il problema possa essere risolto con un divieto generale. Una clausola inserita nel regolamento informatico può certamente avere una funzione, ma rischia di restare inefficace se l’organizzazione non offre strumenti alternativi e non spiega quali impieghi siano ammessi.

AI Act e alfabetizzazione del personale

Il quadro normativo europeo rafforza questa esigenza di governo. L'AI Act (Reg. UE 1689/2024), con la previsione di cui all'art. 4, relativa all’obbligo di alfabetizzazione, si impone di adottare misure a sostegno dello sviluppo di un livello adeguato di competenza del personale e delle altre persone che utilizzano sistemi di AI per loro conto, con attenzione alle conoscenze tecniche, all’esperienza, alla formazione e allo specifico contesto di utilizzo.

Il fenomeno della Shadow AI non espone l’organizzazione soltanto al rischio di divulgazione delle informazioni, ma all’ingresso nei processi decisionali di contenuti dei quali nessuno ha verificato attendibilità e provenienza. In un sistema di Shadow AI questa verifica può risultare ancora più debole, perché l’organizzazione non ha definito regole sulla qualità degli output, sulle fonti da utilizzare o sui casi nei quali sia richiesta una revisione ulteriore. Il rischio, pertanto, non è rappresentato soltanto dalla risposta non corretta, ma dall’assenza di un processo che stabilisca chi debba controllarla.

Misure di prevenzione

Per affrontare il fenomeno è necessario, innanzitutto, conoscere gli strumenti effettivamente utilizzati. A tal fine esistono specifici strumenti informatici che consentono di supportare la mappatura dei sistemi e delle applicazioni in uso. A questa attività si affianca un onere di verifica concreta, volto ad accertare quali strumenti siano effettivamente utilizzati da dipendenti e collaboratori e per quali attività e finalità.

La policy interna dovrebbe tradurre i principi generali in prescrizioni operative, formulate in modo da orientare concretamente le condotte degli utilizzatori. Il riferimento alle “informazioni riservate” richiede pertanto una definizione sufficientemente precisa delle categorie di dati e documenti interessati, calibrata sull’attività dell’organizzazione. In tale prospettiva, la policy può individuare espressamente, tra gli altri, i dati dei clienti, i contratti, la documentazione fiscale, i dati dei dipendenti, i verbali, le informazioni relative a contenziosi e il materiale soggetto a obblighi di riservatezza. La stessa policy dovrebbe indicare gli strumenti autorizzati, le finalità ammesse, le categorie di informazioni che non possono essere trasmesse, le procedure da seguire quando un nuovo servizio appare utile e le responsabilità connesse alla verifica degli output.

A questo quadro deve affiancarsi la formazione: il dipendente che ignora la differenza tra una versione consumer e una versione enterprise di un servizio difficilmente può valutare da solo le conseguenze del caricamento di un documento. Allo stesso modo, un professionista che non conosce le possibilità di configurazione relative all’utilizzo dei dati non può scegliere in modo consapevole. La formazione assume quindi una funzione di controllo preventivo, oltre a rispondere alle esigenze di alfabetizzazione poste dall’AI Act. Il suo obiettivo non dovrebbe consistere nell’illustrare in astratto il funzionamento dei modelli linguistici, ma nel consentire alle persone di riconoscere le situazioni nelle quali l’utilizzo dell’IA può creare un rischio giuridico o professionale.

Una governance adeguata parte dalla conoscenza degli strumenti presenti nell’organizzazione passa attraverso la valutazione dei fornitori e delle condizioni contrattuali, definisce le categorie di dati che possono essere trattate e attribuisce responsabilità chiare per il controllo degli output. A ciò si aggiungono formazione e aggiornamento delle policy, perché strumenti e modalità di utilizzo cambiano con una velocità che rende insufficiente una disciplina predisposta una sola volta e poi dimenticata.

La Shadow AI evidenzia un profilo più generale di governance: l’introduzione di strumenti di intelligenza artificiale nei processi aziendali richiede che l’organizzazione mantenga consapevolezza sulle modalità di utilizzo, sugli ambiti nei quali tali strumenti vengono impiegati e sui dati coinvolti. In questo contesto, la responsabilità organizzativa si concentra sulla definizione di regole, presìdi e controlli adeguati all’effettivo utilizzo delle tecnologie.