Nell’ambito della policy sull’utilizzo dell'AI, è importante definire cosa si intenda per "incidente di sicurezza AI". Tale definizione dovrebbe essere ampia e inclusiva, in modo da coprire il più possibile i potenziali problemi che potrebbero emergere nell'utilizzo di sistemi di intelligenza artificiale.

Utilizzo improprio o non autorizzato dei sistemi di AI

Una prima categoria di incidenti riguarda l'utilizzo improprio o non autorizzato delle applicazioni AI da parte di dipendenti o terze parti. Tale fattispecie può includere l'accesso non autorizzato ai dati di training o ai modelli, l'utilizzo dei sistemi per scopi non previsti o non approvati dall’organizzazione o la manipolazione intenzionale degli input per influenzare in maniera malevola gli output dell'AI. Queste attività possono compromettere l'integrità e l'affidabilità dei sistemi, oltre a esporre l'azienda a rischi di compliance e reputazionali.

Malfunzionamenti e comportamenti imprevisti/indesiderati dell'AI

Un'altra fonte di incidenti potrebbero essere i malfunzionamenti tecnici e i comportamenti anomali o indesiderati dei sistemi AI. Nonostante i processi di testing e validazione, l'AI può a volte produrre risultati errati, imprecisi o inappropriati a causa di bug, bias nei dati, overfitting o altre criticità. Inoltre, l'AI generativa in particolare può pro...