AI sotto attacco - Nicola Manzi
Quanto siamo consapevoli dell'impatto che l'intelligenza artificiale ha già sulle nostre vite? E soprattutto: siamo davvero in grado di controllare gli strumenti che utilizziamo quotidianamente?
Sono alcune delle domande al centro dell'incontro, che il Polo bibliotecario di Potenza ha dedicato Giovedì' 17 settembre, alla presentazione del testo di Nicola Manzi di “Ai sotto attacco. Guida pratica per comprendere, prevenire e governare i rischi dell’intelligenza artificiale”. A dialogare con l'autore, con la moderazione di Attilio Giuliani, è stato Giovanni Pergola, esperto di sistemi di gestione.
La premessa alla base sia del dibattito che del testo risiede nella presa d'atto che l'intelligenza artificiale abbia ormai così invaso la nostra quotidianità con risultati in apparenza autorevoli e convincenti, da spingere le persone ad accettare automaticamente ciò che viene prodotto dalla macchina, rinunciando alla verifica; passaggio quest'ultimo, che resta ineludibile e che richiede la conoscenza degli strumenti tecnologici e la comprensione dei suoi limiti.
Il confronto che si è aperto con un video particolarmente forte, dedicato ai rischi legati alla condivisione online di immagini e informazioni personali (riferimento allo sharenting, ovvero alla pratica con cui i genitori pubblicano sui social fotografie e dati dei propri figli, spesso senza considerare le possibili conseguenze future.
L'autore ha sottolineato che “Non sappiamo dove tutto questo ci porterà; sappiamo soltanto che questa tecnologia continuerà a evolversi. Non siamo sotto attacco, ma dobbiamo sviluppare una cultura del rischio e del dubbio. Se io ho paura che qualcosa possa succedere, sono attento. E proprio l'attenzione permette di riconoscere quando un sistema non sta funzionando come dovrebbe. Non conta tanto sapere come è costruita una macchina, quanto sapere quando fidarsi e quando fermarsi a controllare, per verificare ad esempio se una sentenza citata dalle macchine esiste o meno ad esempio".
Il confronto ha affrontato il tema dell'AI non soltanto dal punto di vista tecnologico, ma soprattutto sotto il profilo della responsabilità, della sicurezza, della privacy e della capacità dell'uomo di mantenere il controllo sugli strumenti che utilizza.
AI sotto attacco nasce come un manuale di governance dell'intelligenza artificiale, scritto per chi deve decidere (Dirigenti e funzionari della Pubblica Amministrazione, imprenditori e manager di PMI, consulenti, DPO e responsabili compliance), non per i tecnici del machine learning.
Nel testo vengono trattati e legate assieme questioni spesso affrontate separatamente: limiti e rischi legati alle intelligenze artificiali (prompt injection, attacchi adversarial, data poisoning, model extraction, allucinazioni, bias, sistemi agentici), normative quali GDPR (Regolamento UE 2016/679), in materia di protezione dati personali e privacy), AI Act, NIS2 (Direttiva europea sulla cybersicurezza) e Dlg 231 modificato (che inserisce i reati legati alla Ia nel settore pubblico tra le responsabilità amministrative geli enti), responsabilità civile e organizzativa, supervisione umana, procurement, formazione e gestione degli incidenti.
Uno degli aspetti affrontati durante il dibattito riguarda il cambiamento della sicurezza informatica. In passato il problema principale era impedire a soggetti esterni di entrare in un sistema e comprometterne dati e informazioni. Con l'intelligenza artificiale lo scenario cambia, perché non si tratta più soltanto di individuare un malfunzionamento tecnico, ma di comprendere che un sistema di intelligenza artificiale può generare risposte errate, incomplete o inventate pur presentandole in una forma estremamente convincente.
Sotteso a questo aspetto è il concetto di responsabilità, che non può essere delegata completamente alle macchine dal momento che regole, valori e criteri con cui vengono costruiti e utilizzati tali sistemi derivano dalle scelte umane, dai dati utilizzati e dai processi progettati dalle persone.
Per l'autore " quando l'errore della macchina diventa un problema per le persone: la tecnologia, lungi dall'eliminare l'errore umano può anzi amplificarlo amplificando le conseguenze nefaste. Ad esempio, molto gravi furono quelle prodotte dal punto di vista personale e giudiziario a numerosi dipendenti del servizio postale britannico, a causa di ammanchi contabili generati dal sistema informatico Horizon.
Un rischio ancora maggiore risiede secondo Manzi "nelle decisioni automatizzate che possono incidere direttamente sulla vita delle persone, come nel caso dell'elaborazione di una decisione amministrativa o l'accesso a determinati servizi che può, in caso di errori o dati distorti, essere discriminatorio".
La domanda fondamentale diventa quindi: chi controlla chi controlla? Per Manzi, la prima forma di difesa è il dubbio: "Il principio è semplice: più importante è la decisione che si prende sulla base dell'output, maggiore deve essere il livello di verifica".
Un'altra questione cruciale nell'incontro è stato il problema della dipendenza dalla tecnologia. Esiste il rischio che l'abitudine a delegare porti gradualmente alla perdita di competenze e autonomia. L'esempio del telefono cellulare è significativo: uno strumento nato come supporto è diventato per molti una presenza quasi indispensabile. Lo stesso potrebbe accadere con l'intelligenza artificiale.
Dal punto di vista scolastico e delle nuove generazioni è stato sottolineato come "esse utilizzino gli strumenti di intelligenza artificiale con grande naturalezza. Una familiarità che non sempre coincide con una reale consapevolezza. Il rischio è quello di delegare esercizi, ricerche e testi senza sviluppare le competenze necessarie per verificarli. Per questo la formazione diventa centrale. Non basta insegnare a usare l'intelligenza artificiale. Bisogna insegnare anche quando usarla, come controllarla e quando non fidarsi del suo risultato".
Infine, questione privacy e dati personali: "una fotografia caricata per modificarla, un documento utilizzato per ottenere una sintesi, una conversazione con un assistente virtuale: ogni interazione può diventare parte del rapporto tra l'utente e il sistema. L'esempio della semplice fotografia trasformata con un'applicazione di AI appare innocuo, ma porta con sé una domanda più ampia: che cosa stiamo cedendo in cambio del servizio che riceviamo? La consapevolezza passa anche da qui".
Infine, alcune riflessioni sulla difficoltà di prevedere il futuro, anche in vista della crescente autonomia dei sistemi: "L''evoluzione degli strumenti agentici, capaci di eseguire operazioni per conto dell'utente, apre scenari molto diversi rispetto ai primi sistemi conversazionali. Lo strumento ti può far arrivare al famoso punto B l'autore. Ma io vicino al Sole che ci vado a fare?
In conclusione "l'intelligenza artificiale può essere uno strumento straordinariamente potente, ma non elimina la necessità dell'uomo di comprendere, verificare e assumersi la responsabilità delle proprie decisioni. Il vero rischio, quindi, non è soltanto che la macchina possa sbagliare. È smettere di accorgerci quando sbaglia. L' intelligenza artificiale senza rinunciare alla propria intelligenza.
