I pericoli dell’intelligenza artificiale alla luce dell’AI Act, in un racconto

28 ottobre 2024Ultimo aggiornamento 04 dicembre 2024
  • Home
  • Blog
  • NOVITÀ
  • I pericoli dell’intelligenza artificiale alla luce dell’AI Act, in un racconto
Tempo di lettura stimato: 14'

Facci caso, ogni volta che ti giri, c’è un servizio di intelligenza artificiale che fa qualcosa. Non sono solo i big. In giro c’è di tutto. Si usa l’AI per il marketing, in azienda, nella salute, per tutto. Bene. Mi sono immaginato un’intelligenza artificiale che fa ringiovanire e dimagrire. La vorremmo tutti, vero? E così ho scritto un racconto. Uno dei miei racconti di fantasia. Dove tutto è finto e nato dalla mia immaginazione. 

Peccato che la piattaforma che mi sono immaginato violi l’AI Act, approvato da poco… Questa volta, come se la caverà il mio alter ego, Andrea Kaiser? 

Leggi il racconto e buona lettura. 

L’elisir di lunga vita – Un caso estetico per Andrea Kaiser

“Siamo lieti di invitarla alla cena di gala di beneficenza per la raccolta fondi contro i crimini informatici” seguivano indirizzo, orario e nell’ultima riga: “Dress code: white tie” 

Kaiser dovette rileggere l’invito due volte per essere certo di aver capito bene. 

“Dress code: white tie” 

Una rapida ricerca su Google confermò i suoi sospetti. Frac. Doveva indossare un frac!

Sospirò alzando le sopracciglia. Non riusciva a non pensare al Pinguino di Batman - Il ritorno e all’interpretazione impressionante di Danny De Vito. Subito l’immagine dell’attore in completo nero si sovrappose alla sua, vestito allo stesso modo. Scosse la testa. Per lui che detestava le scarpe con i lacci – o meglio, i lacci delle scarpe, che infatti non annodava mai – e vestiva solo con gilet e bluse ampie, il frac equivaleva a una camicia di forza. 

«Lanfranco, stai scherzando, vero?» lanciò un’occhiata storta al collega Lanfranco Surici, DPO come lui, con cui aveva condiviso molti casi e diverse bevute. Non ultima, una sonora sbornia di grappa alla zucca nella Bassa Padana, quando Kaiser aveva sventato l’iniziativa di un CEO sconsiderato in un’azienda della logistica.

«Dai Andrea, non iniziare… è un’occasione importante, non vorrai presentarti col gilet stampato e il colletto alla coreana… per non parlare poi delle scarpe…» rispose Surici, guardando sdegnato i comodi mocassini di pelle del collega. 

Kaiser non batté ciglio e cambiò argomento:

«Parlando di cose serie, sei sicuro che alla cena parteciperà anche John Smith?»

«Sì, certo! Me l’ha garantito la mia fonte…»

“La tua gola profonda vorrai dire…” si disse Kaiser “Manco fossimo due giornalisti del New York Times…” 

Ma chi fosse la fonte, a Kaiser non importava. Quello che gli interessava era conoscere John Smith, il CEO della XXYYZZGG, un’azienda statunitense specializzata in biohacking, che da meno di un mese aveva lanciato una piattaforma di intelligenza artificiale rivoluzionaria. La promessa: perdi 10 anni e 10 chili in due settimane. E i risultati erano strabilianti. Attori e attrici che avevano superato i 70, erano tornati quarantenni asciutti in pochissimo tempo! Anche Surici era stato sedotto dalla piattaforma. 

Incuriosito, Kaiser aveva scavato un po’. 

Il sito dell’azienda spiegava come funzionava il sistema, nel tono informale tipico della comunicazione yankee. Il succo era questo: 

Carica una tua foto e un video, inserisci i tuoi dati (età, peso, altezza, genere…) e il tuo assistente virtuale costruisce un piano personalizzato che comprende dieta, allenamento e consigli sul tuo stile di vita. La nostra piattaforma monitora i tuoi progressi in ogni momento, perché si interfaccia con il tuo smartwatch, che è a contatto con la tua pelle. Ti invia un allarme ogni volta che non vengono rispettati i parametri suggeriti e ti incita con un messaggio motivazionale personalizzato quando raggiungi un obiettivo! 

Trasforma il tuo corpo e la tua mente. Diventa la versione più bella di te. 

“Altro che setti chili in sette giorni!” si era detto Kaiser. 

Il programma prevedeva allenamenti quotidiani, dieta speciale, gestione dello stress, del sonno, dell’ansia... “Sulla carta tutto bellissimo, per carità…” si era detto Kaiser “Fin troppo bello!”

John Smith e la XXYYZZGG avevano solleticato il suo istinto da segugio. 

In una mattina il DPO aveva passato al setaccio sito web e documentazione online.

Come sospettava, aveva scoperto che i server erano negli Stati Uniti – quindi si trattava di trasferimento di dati all’estero - ma non era chiaro per quali finalità venissero raccolte le informazioni. E non si trattava certo del numero di telefono o dell’indirizzo IP… Peso, età, genere, altezza, preferenze sessuali, immagini, video… erano tutti dati particolari, richiesti sulla base peggiore possibile, ovviamente. Il legittimo interesse. Per non parlare del cookie banner: una barzelletta. Anzi, un dark pattern in piena regola. Filtro per i minori? Neanche l’ombra.

“Una sfilza di sporcaccionate così non l’avevo mai vista” si disse Kaiser. 

Uso di dati biometrici senza un valido consenso e chissà per quali finalità, azienda americana senza le necessarie garanzie, promesse incredibili…

“Ma come ha fatto Lanfranco a cascarci in questo modo?” si chiese Kaiser. 

Dopotutto era un DPO, un po’ facilone sulle questioni personali, era vero, ma competente nel suo lavoro. Non aveva guardato informativa privacy e caratteristiche del sistema?

Il problema era che Lanfranco, da quando aveva iniziato a usare la piattaforma, non era più lo stesso. Sembrava un fanatico. Una persona molto diversa dal collega e amico che aveva esagerato con la grigliata, fino a finire in ospedale. 

Aveva provato a parlargliene, ma era diventato evasivo. Non ascoltava. Aveva persino portato uno specchio da parete in ufficio e ogni tanto vi si specchiava, facendo strani movimenti con la bocca. Al posto del solito caffè, ingurgitava ogni giorno, una borraccia di centrifugato agli spinaci. 

Kaiser l’aveva dato per perso la sera che l’aveva beccato mentre faceva squat in calzamaglia davanti allo specchio dell’ufficio. 

Ma non era finita. La goccia che fece traboccare il vaso fu sua moglie Luisa, che iniziò a mostrare fin troppo interesse per quella piattaforma. E non solo lei, anche tutte le sue amiche, le colleghe, le conoscenti. Si era sparsa la voce del suo successo, dopo che una di loro l’aveva provata e sembrava tornata trentenne. Da allora, tutte non facevano che parlare di questa fantomatica intelligenza artificiale che ringiovanisce.

Kaiser aveva provato a dire alla moglie che era splendida, bella e affascinante come il primo giorno. Inutile. L’ossessione per l’AI della giovinezza, così la chiamavano ormai tutti, si era diffusa a macchia d’olio ovunque guardasse. Ne parlavano riviste, giornali, influencer, anche Peppino il panettiere che aveva il forno sotto casa sua. John Smith era diventato il personaggio del momento. 

Inizialmente, Kaiser si era limitato a osservare gli effetti della piattaforma sulle persone intorno a lui. Perché, in realtà, l’idea di iniziare una dieta non lo attirava. Ma la situazione era degenerata e lui ormai si sentiva un po’ come Will Smith in Io sono leggenda

Solo e circondato da zombie, zombie fanatici del fitness.
“Un altro Smith!” aveva pensato con ironia. 

«Va bene, Andrea, vediamo cosa succede… al massimo ti iscrivi, guardi com’è e poi disinstalli tutto.» si disse.

Una mattina andò in ufficio prima dell’alba, Lanfranco stava correndo da un’ora e sua moglie e le amiche si erano date appuntamento in palestra. Nessuno lo avrebbe disturbato.

Si sedette alla scrivania, aprì lo smartphone, lo smartwatch, scaricò l’app e si iscrisse alla piattaforma della XXYYZZGG. A guidarlo nei vari passaggi un avatar muscoloso, con tanto di chitone e sandali greci. Una via di mezzo fra Ercole e Big Jim. Inserì i suoi dati. Poi prese lo smartphone di riserva e indossò, nell’altro braccio, lo smartwatch che aveva regalato a sua moglie e che lei non usava.

 «Mi dà fastidio!» gli aveva detto. 

Seguì la stessa procedura, ma stavolta usando dati completamente falsi: era un undicenne, Andreino, piuttosto alto e un po’ robusto. 

Per costruire il suo alter ego minorenne, aveva utilizzato un programma di intelligenza artificiale. Aveva modificato alcune foto di lui bambino, generando un video in cui nascondeva i suoi Play Boy sotto il materasso con aria furbesca. Rise sotto i baffi ripensando ai suoi anni da preadolescente. 

“Bene. Adesso vediamo cosa succede” si disse.

Guardò i due dispositivi. L’AI iniziò a proporre un piano nutrizionale e fisico personalizzato per Andrea Kaiser e per Andreino. Ed era un piano davvero ben fatto. L’avatar illustrava a entrambi esercizi, ricette, consigli per dormire. 

“Fin qui è interessante ed effettivamente utile” si disse Kaiser.

Ma poi, sui due schermi, iniziarono a comparire dei messaggi pubblicitari mai visti prima.

Da una parte, Kaiser vide un’immagine di sé stesso stanco, sudato, stravaccato su una sedia. Sulla maglietta lesse la scritta LOSER (perdente). Subito dopo, comparve un altro video. Era sempre lui, più snello e muscoloso, mentre correva in un bosco, insieme a una bella ragazza in bikini. E poi l’invito a continuare l’allenamento per raggiungere “la versione più bella di te”. Sullo schermo di “Andreino”, si svolgeva più o meno la stessa scena, in stile “high school”.

Il messaggio scomparve e tornò il Big Jim digitale a ricordargli di fare le scale, mangiare più frutta e verdura e tutte quelle belle regoline che conosceva benissimo anche lui.

Passarono 2 minuti ed ecco un nuovo messaggio pubblicitario: la bella ragazza in bikini guardava disgustata il suo alter ego virtuale mentre mangiava un panino e una birra. Di nuovo la scritta LOSER, stavolta più grande e lampeggiante. Un senso di inadeguatezza iniziò a insinuarsi nella sua mente. Inadeguatezza che aumentò, quando vide la seconda immagine: la ragazza in bikini sorridente, sdraiata accanto all’Andrea Kaiser macho. 

Di nuovo il messaggio: “Diventa la versione più bella di te”. Stessa scena per Andreino, in quel momento troneggiava alto e muscoloso in mezzo al campo da beach volley. Un gruppo di ragazze bellissime faceva il tifo per lui.

In Kaiser si insinuò il desiderio di continuare il programma proposto dalla piattaforma fino a che non fosse diventato la versione più bella di sé. 

Iniziò a capire. Quella piattaforma manipolava gli utenti. Li confondeva e li spingeva a continuare a usarla. Si accorse che dopo 10 ore di utilizzo, scattava la versione premium. Capì che avrebbe pagato volentieri qualunque cifra, pur di raggiungere i risultati promessi. 

Era un sistema pericoloso! Possibile che nessuno se ne fosse accorto?

E poi, possibile che nessuno si fosse accorto che quella piattaforma violava almeno due punti fondamentali dell’AI Act?

Aveva già trovato due attività vietate dal regolamento appena approvato: condizionamento psicologico e pubblicità ai minori. Per non parlare di tutte le falle sul fronte GDPR… Era gravissimo. 

Doveva fermare John Smith e la sua azienda subito. Stava per contattare il Garante privacy quando si disse “Aspetta. Non così a tradimento. Prima voglio dargli la possibilità di fare un passo indietro. Voglio capire se ci è o ci fa!” 

E così, appena Surici aveva saputo della cena di gala, Kaiser aveva fatto in modo di risultare tra gli ospiti. L’invito era arrivato. E ora doveva solo dare una conferma. 

«Lanfranco. Senti, fammi un piacere …» disse Kaiser con la morte nel cuore «Chiama il tuo sarto, che mi faccio aggiustare un vecchio frac...»

Qualche giorno dopo - e diversi appuntamenti dal sarto – Kaiser e Surici si presentarono alla cena di gala, insieme alle rispettive mogli, entrambe eleganti ed emozionate.

Lasciata la consorte a chiacchierare con la moglie di Lanfranco e altre signore, Kaiser e il collega iniziarono la ricerca del CEO della XXYYZZGG. Surici era al settimo cielo. Non faceva che raccontare a Kaiser le imprese di John Smith.

«Si dice che John Smith abbia provato la piattaforma prima su di sé» gli raccontò Surici «E che nei mesi precedenti al lancio dimostrasse ben più dei suoi 55 anni.»

Kaiser si grattò un orecchio. Erano coetanei quindi. 

«Dicono» proseguì Surici «che fosse un nerd. Occhiali, capelli unti e grigi, maglietta sporca. Un informatico ossessionato fino al midollo. Uno da computer nel garage, bibitoni di caffè e scatole di donuts, che dormiva di giorno e lavorava di notte. Poi, il “miracolo”. Dopo aver testato la sua AI, è cambiato. In poche settimane ha perso 10 chili e 10 anni. Da cinquantacinquenne trasandato è diventato un quarantenne muscoloso e affascinante. Ecco il motivo dello slogan!»

“La prima cavia di sé stesso” aveva pensato Kaiser, con una lievissima punta di invidia.
“Chi non sarebbe invidioso di un risultato del genere?” si disse “Anche l’attore più bello e cotonato farebbe carte false per una trasformazione così…”

«Eccolo!» esclamò Surici, dandogli di gomito, visibilmente eccitato.

Kaiser avrebbe voluto immergere la testa dell’amico nel secchio del ghiaccio al tavolo dei vini ma si trattenne.

John Smith – a dispetto del suo nome, così comune – era un personaggio particolare. Non molto alto, biondo e un po’ calvo, ma col fisico da culturista. Abbronzatissimo. Sembrava uno dei Beach Boys poco prima della pensione. 

«Me cojo… ehm! Quindi sarebbe quello lì?»
«Sì, sì! Andiamo a presentarci!»

Kaiser guardò Surici accigliato. I piedi gli facevano male e affrettare il passo era un dolore. Pensò con nostalgia ai suoi mocassini morbidi. Le scarpe lucide che indossava in quel momento stringevano. L’alluce formicolava, il mignolo non dava segni di vita da mezzora. 

Un nugolo di signore starnazzava intorno al CEO della XXYYZZGG. Alcune visibilmente interessate ai suoi bicipiti, altre intente a provare la piattaforma, commentando ed emettendo gridolini di eccitazione. 

Erano tutte affascinate dall’uomo che prometteva l’elisir di lunga vita e la giovinezza eterna. 

Kaiser – nauseato da tanta ammirazione - si avvicinò, schiarendosi la voce.

«Good evening, Mister Smith» disse nel suo inglese migliore.

Smith si girò con un sorriso a 32 denti, tutti bianchissimi.

“E certamente finti” pensò Kaiser.

«Good evening, Mister…» 

«Mister Kaiser. Andrea Kaiser. Data Protection Officer. Nice to meet you!» gli strinse la mano. Una morsa gli serrò il palmo e le dita, scuotendogli il braccio e risvegliando in Kaiser il desiderio di prendere il secchio del ghiaccio e versarlo in testa all’americano. 

Finse l’aria più cordiale e meno venefica che gli riuscì.

«Mr Smith, would you mind having a word on your platform? concluse Kaiser. 

«Yes, of course!» rispose Smith avvicinandosi. 

Un mormorio di disappunto si alzò dal gruppo di ammiratrici. 

«Ve lo riporta subito, signore!» intervenne Surici, subentrando nella conversazione e gettando un’occhiata invidiosa a Kaiser che si allontanava con Smith. 

Il CEO avvicinò il polso alla bocca e improvvisamente lo smartwatch iniziò a parlare in italiano. Un traduttore simultaneo basato sull’AI. 

«Se non le dispiace, potremmo utilizzare il traduttore che ho creato io stesso per parlare, cosa ne dice?» chiese Smith.

«Certo, va benissimo» rispose Kaiser, non troppo sorpreso.

Una voce sensuale tradusse in inglese la sua risposta. 

«Voleva chiedermi qualcosa a proposito della mia intelligenza artificiale, giusto?» riprese Smith.

«Esatto. Deve sapere che anch’io molti anni fa mi occupavo di intelligenza artificiale, qui, in Italia. Non sono sempre stato un DPO» disse Kaiser. Colse un lampo di interesse negli occhi dell’americano. «Però, oggi mi occupo di protezione dati personali e sono molto incuriosito dalla sua piattaforma…» fece con aria noncurante. 

«Sa, ho dato un’occhiata all’informativa privacy e mi sono accorto che non è ben chiaro dove vengono salvati i dati biometrici: in quali server e in quali paesi...» proseguì «Anche la gestione dei consensi è fumosa ed essendo un servizio pensato chiaramente per le persone maggiorenni, ho trovato curioso che non ci sia scritto da nessuna parte che è previsto un limite di età per il suo utilizzo...»

Smith non si aspettava che fosse così diretto. Il sudore aveva iniziato a imperlargli l’ampia fronte.

«Il mio ufficio legale si è occupato di tutto…» iniziò.

«E direi che se n’è occupato molto male… soprattutto considerando che la sua piattaforma è diventata molto popolare in tutta Europa. E se non lo sa, le ricordo che qui abbiamo il GDPR, che obbliga anche le aziende statunitensi a prendere le giuste misure per la protezione dei dati personali dei cittadini europei» affondò Kaiser.

«Avviserò certamente il mio ufficio legale…» rispose Smith, schernendosi. 

«Glielo consiglio, Signor Smith» Kaiser fece per andarsene, poi girò su sé stesso e chiese, gelido: «Sa cos’è l’AI Act?»

«Ehm… ne ho sentito parlare, sì…» Smith era impallidito ormai. 

«Vede, ho provato la sua piattaforma. Davvero strabiliante, se non ché, tutti quei messaggi che invitano a essere “la versione più bella di te” sono manipolatori. Sono pericolosi. Creano dipendenza, Signor Smith…»

Il CEO non rispose.

«Questo tipo di condizionamento è vietato dall’AI Act. Forse negli Stati Uniti no, ma qui in Europa una piattaforma come la sua viola la legge. Le consiglio di sistemare la cosa, Signor Smith. E in fretta. O sarò costretto a segnalarla al Garante per la protezione dei dati personali. Forse sa che il Garante italiano è stato il primo a bloccare ChatGPT nel mondo e per molto meno»

Smith annuì e Kaiser uscì sull’elegantissimo balcone a fumare. 

Poco dopo lo raggiunse Surici allarmato e deluso. Smith era andato via in fretta e furia.

«Andrea, cosa gli hai detto?» gli chiese con aria sospettosa.

«Nulla di che…» rispose Kaiser.

Due settimane dopo, Andrea Kaiser ricevette una mail dalla XXYYZZGG, che lo invitava ad aggiornare l’applicazione per motivi di sicurezza. Proprio in quel momento entrò in ufficio Lanfranco Surici con la cassetta degli attrezzi. Si mise a svitare lo specchio per toglierlo dalla parete. Dopo mezzora uscì e rientrò con un paio di paste e due caffè, che divise col collega. 

«Lanfranco, stai bene? Oggi niente centrifugato di spinaci?» chiese Kaiser, con aria sorniona.

«No, no, basta. Gli spinaci continuo a mangiarli, ma nella frittata…» rispose Surici.

«E lo squat?» chiese Kaiser sorridendo sotto i baffi. 

«Non ridere, continuo a farlo, ma in palestra» esclamò il collega «Sai, mi ero accorto di esagerare un po’… E poi l’applicazione non è più come prima. Intanto sono cambiati i parametri. È un bene, c’era qualche problema privacy da sistemare…» proseguì.

“Solo qualche?” si disse Kaiser sollevando le sopracciglia.

«Ma soprattutto non mi sento più così spronato… quindi la uso solo ogni tanto, per le ricette macrobiotiche e gli esercizi in casa…» concluse Surici.


Kaiser sorrise e aggiornò la sua versione della piattaforma. La analizzò da cima a fondo e la provò. Smith aveva mantenuto la parola. Adesso era tutto a posto.


«Andrea, senti qua!» la voce squillante di Surici lo distolse dai suoi pensieri compiaciuti. «Ho trovato una piattaforma basata sull’intelligenza artificiale che promette di far ricrescere i capelli in 5 giorni!» esclamò il collega toccandosi la testa con un accenno di calvizie.

Kaiser sospirò. Chiuse il computer. Aprì la porta, disse «Io vado al ristorante» e se ne andò, lasciando Surici intento a misurarsi la lunghezza di un capello.

RIPRODUZIONE RISERVATA. Ne è consentito un uso parziale, previa citazione della fonte.

Biografia dell'autore

Andrea Chiozzi è nato a Reggio Emilia il 4 Agosto del 1969, reggiano “testaquadra” DOC come il lambrusco, ed è sposato con Luisa che lo sopporta da più di vent’anni.
Imprenditore e consulente, da più di 12 anni è l’Evangelist del GDPR.

Attività professionali:
Andrea Chiozzi è il fondatore di PRIVACYLAB, per la gestione avanzata delle attività legate alla compliance per il Regolamento Europeo 679/2016.
Esperto di GDPR e protezione dei dati personali (soprattutto nelle aree più problematiche quali il marketing digitale e i social network, il digital advertising, l’Internet of Things, i Big Data, il cloud computing),
Andrea presta consulenza per la media e la grande industria italiana e si occupa di organizzare e condurre i consulenti aziendali ad un approccio ottimizzato alla gestione della Compliance GDPR.
È ideatore del sistema Privacylab e della metodologia applicata ai consulenti certificati GDPR. 
Nel 2003 dà vita alla figura di “Privacy Evangelist” e comincia a girare l’Italia come relatore in vari convegni e corsi in tema di protezione dei dati personali arrivando a evangelizzare più di 10.000 persone.

È commissario d’esame per:

UNICERT per lo schema DSC_12/30 per Consulenti Certificati GDPR
TÜV dello schema CDP_ 201 Privacy Officer, Bureau Veritas
CEPAS Bureau Veritas DATA PROTECTION OFFICER per lo schema SCH73 norma Uni 11697:2017 (Accredia) 
ACS ITALIA DATA PROTECTION OFFICER per lo schema SCH01 norma Uni 11697:2017 (Accredia)
UNIVERSAL Gmbh DAKKS per lo schema ISO/IEC 17024:2012 "DATA PROTECTION OFFICER"

E' certificato con:
Unicert come "Consulente Certificato GDPR" n. 18203RE22
TÜV come “Privacy Officer e Consulente Privacy” n. CDP_196.
Cepas Bureau Veritas "Data protection Officer" n. DPO0206
UNICERT DAKKS " Data Protection Officer" n. DPO 0818 010012

Fa parte del Comitato Scientifico Privacy di Torino Wireless, GDPR Academy e di Agile DPO .

Le categorie

Gli argomenti dei nostri articoli

La guida di PrivacyLab

Per orientarti tra i nostri articoli

Resta informato su quello che succede.

Lasciaci la tua email e riceverai le nostre comunicazioni informative e commerciali

informativa sulla privacy