Assistente vocale e dati sanitari. Le sfide dell'intelligenza artificiale alla luce del regolamento (UE) N. 2016/679

L’intelletto e la parola, facoltà a cui si fa comunemente riferimento per distinguere l’uomo dagli altri esseri viventi, rappresentano invece il punto di contatto tra l’uomo e la macchina. L’Intelligenza Artificiale sfrutta il modello delle reti neurali (deep learning) per evolversi autonomamente fino a imparare a parlare e ad assumere decisioni. Per sviluppare tali abilità, però, gli algoritmi utilizzano ingenti quantità di dati e creano proprie logiche ba-sate su associazioni imperscrutabili. La presente trattazione intende osservare come un si-mile fenomeno proietti i suoi riflessi sulla disciplina della tutela dei dati personali e ha il fine di comprendere se in questa si possa trovare quella forza innovativa e dinamica in grado di garantire tanto all’interessato quanto al titolare i rispettivi diritti nel fluire costante dell’evoluzione tecnologica. Il primo elemento ad essere esaminato alla luce del Regolamen-to (UE) 2016/679 relativo alla protezione delle persone fisiche con riguardo al trattamento dei dati personali, nonché alla libera circolazione di tali dati (Regolamento), è il concetto di dato sanitario. Gli algoritmi di deep learning sono in grado di inferire informazioni nuove e inaspettate da dataset apparentemente privi di un legame immediato con lo stato di salute della persona. Così i contorni della nozione di dato sanitario sfumano, attirando l’attenzione dell’interprete sull’importanza di prendere in considerazione anche questi dati non intrinsecamente sanitari, ma potenzialmente tali (quasi-health data). Esaminato tale aspetto definitorio, l’analisi si concentra sul processo decisionale automatizzato sottoponendo l’articolo 22 del Regolamento ad uno stress test che porta a tre principali osservazioni. L’utilizzo dell’assistente vocale, quale mezzo di profilazione, decisione e comunicazione, ha un peso determinante nell’individuazione dell’ambito di applica-zione della disciplina, poiché comporta tendenzialmente effetti significativi e analoghi (pre-supposto ex articolo 22). Volgendo lo sguardo alle tutele predisposte dal legislatore, inoltre, emergono rilevanti criticità dovute al fenomeno della black box e alle dinamiche psicologiche che si instaurano tra uomo e macchina. Da un lato resta aperta la discussione sul contenuto del diritto alla spiegazione della decisione, dall’altro la fiducia nei confronti dell’intervento umano quale giudice dell’algoritmo vacilla. Soprattutto in ambito medico si pongono dei dubbi sulla possibilità e la volontà dell’individuo di sfidare una macchina oracolare. Infine, l’interfaccia solo vocale dell’assistente porta a vagliare nuove tipologie di informativa che possano essere implementate automaticamente dagli algoritmi e sulle quali l’interessato possa confrontarsi con l’assistente per ottenere un’informazione effettiva. L’ultima parte della trattazione va al di là della disposizione ad hoc che regola i processi decisionali automatizzati per riferirsi al principio di sicurezza nella sua declinazione orga-nizzativa e tecnica. In entrambi i casi l’adozione di un approccio by design si rivela promettente. Da un lato esso consente di gestire modelli di governance complessi tra fornitori di servizi cloud e sviluppatori di applicazioni; dall’altro prospetta il superamento delle vulnerabilità del sistema attivato dalla voce attraverso l’implementazione di processi biometrici di autenticazione. Tale duplice volto della voce, causa di vulnerabilità e potenziale rimedio, conferma l’efficacia di un approccio bifocale nell’analisi del diritto, capace di vedere nello sviluppo tecnologico tanto le criticità quanto le nuove prospettive di tutela. Forza motrice dell’intera trattazione è la ricerca di un equilibrio tra scienza e diritto, equilibrio che diviene raggiungibile solo se ricercato in una collaborazione stretta tra i pro-fessionisti dei due ambiti. È in quest’ottica che si ritiene debbano essere viste le diverse tensioni che il Regolamento subisce in caso di trattamento di dati sanitari mediante sistemi di Intelligenza Artificiale e, in particolare, di assistenti vocali. Il legislatore europeo ha redatto un testo di per sé non incompatibile con l’evoluzione tecnologica, purché non si abbia la pretesa di interpretarlo tenendo conto delle sole implicazioni giuridiche, ma ci si impegni a ponderare anche in modo opportuno gli aspetti di carattere psicologico e tecnologico.