Nel precedente articolo tratto dall’intervento al GDPR Forum 2025 di Giovanni Ziccardi, Professore Ordinario presso UniMI e UniBO, Avvocato, Giornalista Pubblicista e Direttore della rivista scientifica “Ciberspazio e Diritto”, eravamo rimasti al Golem.
Eravamo rimasti al fatto che l’AI Act, come nella leggenda dell’essere di argilla del Ghetto ebraico di Praga, prevede un “kill switch” umano.
Non hai ancora letto l’articolo? Eccolo, L’intelligenza artificiale è come il Golem: ha bisogno di un “kill switch”.
Corri a recuperarlo e poi torna qua, che nei prossimi paragrafi riprendiamo il discorso, con il secondo estratto dell’intervento di Giovanni Ziccardi al GDPR Forum.
Buona lettura!
L’AI Act prevede sistemi di “richiamo” e di “ritiro”
Oltre al kill switch, l’AI Act prevede un ulteriore strato della supervisione umana.
Nell'articolo sulle definizioni, il regolamento ha previsto due termini che di solito vengono usati per le automobili e le moto quando vengono richiamate dal produttore, perché hanno dei difetti che possono mettere a rischio le persone i giocattoli pericolosi: richiamo e ritiro.
E questo lo trovo molto significativo. Sempre nell'idea di far mantenere il controllo all'essere umano, ci sarà non solo la possibilità che un sistema di intelligenza artificiale venga richiamato e restituito al fornitore per sistemarlo, perché c'è qualche cosa che non va, ma addirittura la possibilità che l'intelligenza artificiale venga tolta dal mercato.
I cultori di Blade Runner si ricorderanno che, nel primo film, la voce fuori campo, all'inizio, dice: “L'unità Blade Runner è l'unità pensata per il ritiro dei replicanti”. Questo perché, quando fu fatta la sceneggiatura, ci fu una discussione feroce: ci si poteva affezionare ai replicanti di Blade Runner.
Che termine usare per l'uccisione dei replicanti dei film?
“Usiamo assassinare?”
“Usiamo sterminare?”
“Usiamo uccidere?”
“No, usiamo ritirare.”
E Blade Runner è entrato nel “ritiro dei sistemi di intelligenza artificiale”. Quindi io sono abbastanza ottimista nella possibilità di una centralità dell'essere umano.
La qualità dei dati: l’AI non è la pomata di Azazello
Un’altra priorità è la qualità dei dati.
C'è un principio di base dell'intelligenza artificiale, veramente banale, che dice: se voi avete una cattiva qualità dei dati di ingresso, non potete aspettarvi un risultato ottimale.
Rileggevo in questi giorni “Il maestro e Margherita” di Bulgakov. Nella seconda parte, c’è Azazello, o Azazel a seconda delle traduzioni: l'emissario del diavolo. Porta a Margherita una pomata che la ringiovanisce. Lei è trentenne (ed essere trentenne nei romanzi russi nel 1930 vuol dire ormai essere anziani) e la crema la fa tornare ventenne. Si spalma questa crema e si trasforma in una strega bellissima.
Molti hanno l'idea che l'intelligenza artificiale funzioni come la pomata di Azazello: prendete una situazione disastrosa, un tribunale che ha una qualità dei dati pessima, una compagnia telefonica che da 15 anni indiscriminatamente raccoglie le informazioni, mettete l’intelligenza artificiale, e diventa una bellissima strega, con una pelle splendida, che comincia a volare.
Non funziona così.
Prima ancora di pensare di usare uno strumento di intelligenza artificiale, dobbiamo fare un bell'esame di coscienza sulla qualità dei dati.
Verificare la qualità dei dati che state per dare in pasto o immettere nei sistemi di intelligenza artificiale è quella che nel regolamento si chiama data governance.
I pericoli per l’uso dei dati di scarsa qualità
Se rileggete gli ultimi 7 anni di newsletter del Garante, andando a cercare le sanzioni dove descrivono la situazione dei dati che si sono trovati di fronte in sede ispettiva - soltanto i dati – trovate dei casi interessanti. Le ultime sanzioni di novembre/dicembre 2024 riguardano fornitori di gas, luce e compagnie telefoniche e perdita completa di controllo dei dati da parte di agenzie, subagenzie e soggetti terzi. Si trovavano nei database dati replicati ridondanti e contratti sbagliati.
Noi dobbiamo essere tranquilli che si pensi prima all'intelligenza artificiale, senza aver guardato la qualità dei dati? Io sono terrorizzato.
Il pericolo di errori nell’interazione con l’AI
Tra i pericoli dell’intelligenza artificiale, c’è anche quello legato ai dati inesatti. Pensate a un bot aziendale che dialoga coi clienti, ma avete messo il prezzo sbagliato: di notte si collegano tutti e concludono contratti col prezzo sbagliato.
Mi ricordo ispezioni del Garante che ha trovato degli archivi a strati, perché erano stati comprati da fornitori esteri e messi insieme senza neanche controllare consenso e legittimità del dato.
Allora la qualità del dato la vedo come un altro problema importante. Prima di pensare concretamente ad attuare sistemi di intelligenza artificiale, facciamo un bell'esame di coscienza per capire se stiamo dando della spazzatura ai nostri sistemi, oppure no.
Perché non è la crema di Azazello. Non è che, se prendete il tribunale disastrato che non aggiorna i dati da anni, improvvisamente l'intelligenza artificiale lo sistema...
Non è finita qui!
Abbiamo ancora un ultimo articolo tratto dall’intervento di Giovanni Ziccardi. Se vuoi sapere di cosa parla puoi:
- aspettare il prossimo articolo tratto dal suo intervento al GDPR Forum
- andare su Raise Academy e vedere direttamente la registrazione
Perché questo è solo un assaggio!
La formazione completa e aggiornata su GDPR, privacy e cybersecurity è su Raise Academy, l'Accademia di Formazione Efficace di PrivacyLab che coinvolge consulenti e professionisti del GDPR, grazie al connubio tra tecnologia, presenza, competenza, contatto, condivisione e diffusione.
