ChatGPT motore di intelligenza artificiale, tra privacy e cybersecurity

Dal suo debutto lo scorso novembre, la chatbot ChatGPT (Generative Pretrained Transformer) lanciata da OpenAI promette di rivoluzionare il modo in cui l'essere umano interagisce con le macchine grazie a un motore di intelligenza artificiale molto elaborato applicabile in numerosi ambiti.

La chatbot è, fondamentalmente, un sistema che simula ed elabora le conversazioni umane (scritte o parlate) utilizzando algoritmi di apprendimento automatico e consente agli utenti di interagire con i dispositivi digitali come se stessero dialogando con una persona reale.

Si può dire che ChatGPT, dal suo rilascio, sia diventata virale proprio per il suo livello di complessità. Infatti, mentre la maggior parte delle chatbot con cui le persone interagiscono, ad esempio, sulle pagine di un help desk aziendale sono ancora piuttosto elementari, capaci di rispondere solo a domande formulate in modo semplice, ChatGPT è stata addestrata su un'enorme quantità di dati di testo, ha imparato a riconoscere modelli che le consentono di produrre un testo imitando vari stili di scrittura, dimostra di essere in grado di poter sostenere una conversazione attraverso più domande, con risposte pertinenti e coerenti, nonché - last but not least – di essere capace di generare codice software.

Pro e contro

La tecnologia di ChatGPT, basata sull'elaborazione del linguaggio naturale, è applicabile in diversi campi. Naturalmente è pensata per migliorare il servizio clienti online delle aziende, rispondendo in modo più accurato alle domande comuni, oppure può essere utilizzata per creare assistenti personali virtuali che possono aiutare a pianificare o a fornire informazioni e raccomandazioni. Non solo: può essere preziosa nei servizi di traduzione linguistica, ma può rivelarsi strategica anche nell'ambito della scrittura creativa, suggerendo idee per articoli e storie o, ancora, può essere di supporto agli studenti sviluppando esperienze di apprendimento interattive, personalizzate e quindi più coinvolgenti. Infine, le potenzialità di ChatGPT possono essere impiegate per rapide ricerche di mercato, per condurre sondaggi ma altresì per analizzare il cosiddetto sentiment (cioè lo stato d'animo) contenuto in grandi quantità di dati di testo, come i post sui social media, e identificare così tendenze e modelli nell'opinione pubblica.

Accanto alle performance e relativi vantaggi, permangono tuttavia aspetti da perfezionare, come la possibilità di fornire risposte imprecise o irrilevanti in uno specifico contesto, dovuto alla difficoltà nel cogliere completamente le sfumature tipiche del linguaggio umano. Va detto poi che l'addestramento su una grande mole di dati di testo fa sì che gli stessi possano, a volte, contenere pregiudizi discriminatori che si riflettono in risposte inadeguate a gestire argomenti delicati come la razza, il genere o le opinioni politiche. Infine, la chatbot dimostra ancora qualche limite anche nella gestione di domande a risposta aperta o basate su concetti astratti, mentre è più precisa nelle risposte su argomenti specifici.

Attenzione a privacy e sicurezza informatica

Un aspetto da non trascurare a proposito di ChatGPT e altri sistemi simili riguarda la tutela della privacy. Infatti l'enorme quantità di informazioni trattate dalla chatbot, che per natura porta alla profilazione degli utenti, può contenere molti dati sensibili (ad esempio, biometrici). Le violazioni dei dati personali dei consumatori stanno diventando frequenti e buona pratica sarebbe che la conversazione venisse, ad esempio, cancellata dal sistema definitivamente una volta conclusa. Il responsabile aziendale del trattamento dei dati personali dovrebbe perciò verificare la conformità della chatbot ai principi del GDPR 2016/679. Nello specifico, si tenga a mente la disciplina prevista dall'articolo 22 del regolamento, ovvero i limiti di un processo automatizzato relativo alle persone fisiche, compresa la profilazione. L'articolo indica che “l'interessato ha il diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione, che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla sua persona” a meno che non fornisca il suo consenso.

L'attenzione alla privacy si lega a doppio filo al tema della sicurezza informatica, poiché le chatbot possono essere attaccate per veicolare nell'organizzazione software malware e ransomware. Utile a tal fine sarebbe crittografare “end-to-end” tutti i sistemi aziendali, chatbot comprese, per assicurare che nessuno possa vedere le comunicazioni in corso, a eccezione naturalmente di mittente e destinatario. Attenzione, poi, al furto di dati o all'alterazione degli stessi, possibile se la chatbot non protegge adeguatamente i dati dei clienti utilizzando metodi come la crittografia. Infine, può verificarsi anche un furto d'identità, che può portare i clienti a rivelare dati privati a un terzo mentre credono di interagire con l'azienda.

Per questi motivi è senza dubbio strategico stabilire nuovi processi e protocolli di sicurezza per definire il modo in cui il software viene sviluppato, crittografato, implementato, connesso e gestito nel tempo. Una pratica che può risultare utile a monitorare anche il modo in cui i dipendenti interagiscono e utilizzano sistemi diversi.