Quali sono i rischi del “pilota automatico” quando si utilizzano gli strumenti di intelligenza artificiale?

Oltre alle allucinazioni, fidarsi delle risposte senza usare un metodo comporta anche altri rischi:

• il modello darà risposte convincenti anche quando la domanda è ambigua. Se la richiesta è imprecisa, prova comunque a rispondere. Quasi mai dirà di non aver capito e interpreterà per conto proprio che cosa intendevamo chiedere;
• c’è il tema della riservatezza. Gli studi trattano ogni giorno informazioni delicate, dati personali, strategie aziendali, contratti riservati, documentazione processuale. Caricare questo materiale su una piattaforma qualsiasi apre due problemi distinti: la protezione dei dati personali e il segreto professionale. Il punto non è rinunciare allo strumento: occorre sapere quale piattaforma si sta usando, che cosa dicono le condizioni contrattuali se i dati inseriti vengono utilizzati per l'addestramento, dove sono conservati e per quanto tempo;
• quando uno strumento funziona bene, l'attenzione cala. Se le risposte del modello sono mediamente buone, l'errore occasionale è più difficile da intercettare.

Per queste ragioni, è possibile fidarsi degli strumenti di AI, ma deve esserci alla base un metodo. Il risultato va valutato, no...