Scrive un ingegnere su Brescia Medica, portate pazienza. Non penso sia sintomo di una qualche sindrome, piuttosto un segnale di un processo di adattamento in corso (in corsa!) che, volenti o nolenti, ci coinvolge (talvolta ci sconvolge). L’intelligenza artificiale (IA) nel campo della salute (diagnosi, prevenzione, cura,…) e nei processi di sanità digitale (raccolta, gestione, monitoraggio e interpretazione, personalizzata e collettiva, dei dati sanitari) sta oggi rompendo alcuni equilibri, e si tratta di lavorare, anche e soprattutto in sinergia tra professionisti della salute e della tecnologia, per trovarne altri, e fare in modo che siano armonici, migliorativi, sostenibili, equi…
Vorrei quindi intrattenermi con voi, ringraziandovi dello spazio che mi concedete qui, per cercare di offrire piccoli spunti su questioni di fatto enormi, su temi legati sì alle applicazioni, ma soprattutto alle implicazioni ed alle possibilità di effettivo impiego dell’IA in medicina. Se ne parla già tanto e le informazioni provengono da molte e variegate fonti, dalle più autorevoli riviste scientifiche ai quotidiani, dai convegni ai podcast. Per chi si tiene informato su questi temi, mi accontenterei di lasciare qui anche un solo spunto originale. In ogni caso, quanto condivido con voi non proviene tanto da fonti indirette quanto da ormai più di dieci anni di lavoro ed esperienze in questo settore, a contatto con aziende biomedicali, realtà sanitarie e soprattutto molti professionisti della salute, nei confronti dei quali non sarò mai abbastanza grato.
L’IA oggi è ingombrante, se siamo alla ricerca di paletti, di confini, non conviene cercarli nelle applicazioni. Le applicazioni semplicemente non sembrano avere molti confini. Certamente scoprire nuove applicazioni e prospettive di impiego dell’IA, magari nel proprio campo di specializzazione, può essere affascinante e stimolante. Allo stesso tempo, sia la divulgazione che la letteratura scientifica (sia di taglio tecnologico che clinico) sono talmente inzuppate di IA che, tante volte, più che avere la possibilità di assaporare ci troviamo a dover trangugiare minestre (talvolta riscaldate) che potrebbero portarci alla nausea. Questo per dire che non è oggi facile ragionare (e agire) secondo scienza e coscienza dentro un incalzare di stimoli che potrebbero da un lato inebriarci, ma dall’altro infastidirci. Al di là del prediligere una buona (in)formazione, un buon modo per stare alla larga da posizioni sbilanciate è proprio quello di cercare, quanto più possibile, di ragionare ed operare in modalità e contesti interdisciplinari. Inoltre, non tutto ciò che viene in mente (ad un clinico o ad un ingegnere) in termini di applicazione dell’IA in medicina porta direttamente a buoni risultati. Forse però ci sorprende di più il fatto che non tutto ciò che porta a buoni risultati nell’IA debba implicare un reale impiego. I fattori critici risiedono in ciò che ostacola un buon apprendimento, e in altri aspetti, spesso nascosti, che non rendono opportuno un impiego dell’IA anche in presenza di buoni risultati. E qui, come la si voglia pensare o dire, c’entra il fatto che l’IA, sebbene potentissima, non è intelligente.
Ciò che colpisce è la dinamica ipertrofica con la quale si è arrivati nel volere e potere estrarre informazione e conoscenza dai dati, che vengono oggi prodotti in gran quantità, anche e soprattutto nella sanità, attraverso dei processi informatici di apprendimento, secondo approcci avanzati di machine learning. È questo che noi oggi chiamiamo Intelligenza Artificiale. Tecnicamente l’IA come disciplina comprenderebbe molti altri approcci diversi dal machine learning. Tuttavia, in questa prevalenza di una parte sul tutto (direi sia in senso sineddotico che metonimico) agisce una nostra (parlo di genere umano) incorreggibile propensione ad antropomorfizzare ciò che si muove, o ciò che muove ciò che si muove, in modo evocativamente umano e capace di attivare una qualche forma di reazione/relazione empatica. Vi vengono in mente i robot che assisteranno la popolazione anziana? Purtroppo… è un buon esempio. Con forse qualche anticorpo atto a contrastare in me questa tendenza, avrei preferito che avessero preso piede locuzioni differenti, ad esempio “Conoscenza Artificiale” (CA). Pensateci un momento, non saremmo forse meno inclini ad enfatizzare, ad estremizzare, ad inquietarci per il futuro, a vedere in pericolo le nostre professioni, ecc… se il termine fosse davvero CA al posto di IA? Esco dall’eresia e continuo a parlare di IA, ma tenete presente che si tratta più di CA che di IA.
Parlare quindi di IA significa parlare di dati e della possibilità di far esprimere ai dati una qualche realtà, una qualche “conoscenza”, e della possibilità di catturarla mediante processi informatici di apprendimento, dove l’apprendimento si sostanzia in configurazioni di milioni di neuroni artificiali organizzati in cosiddette reti neurali artificiali, la cui struttura è tipicamente organizzata in livelli di neuroni. Potremmo dire livelli funzionali e semantici, spesso tentativi di trasposizione di alcune conoscenze neuroscientifiche. Quanti più livelli ci sono quanto più si dice che l’architettura di rete è profonda. Da qui il termine deep learning, e di nuovo eccolo il vizietto retorico di antropomorfizzazione di un termine più neutro, più tecnico, machine learning. In sostanza algoritmi che apprendono a svolgere un determinato compito (o una famiglia di compiti) direttamente dai dati, da esempi, invece che da una accurata modellizzazione del problema da risolvere o del compito da svolgere. Il software al cuore di questi sistemi non è quindi quello che implementa un modello formale ma è quello che consente l’apprendimento dai dati. Questo sembrerebbe andare nella direzione di impoverire la relazione medico-ingegnere, in quanto la modellazione ingegneristica della procedura medica non sembrerebbe così necessaria. Il medico seleziona dati e l’ingegnere gestisce l’apprendimento. In modo disaccoppiato nello spazio e nel tempo. Non è così. Far girare un mondo, quello dell’IA, attorno ai dati, coinvolge aspetti di sistema, crea interdipendenze piuttosto che isole.
Tuttavia, i dati digitali sono tutt’altro che perfetti, e questo vale anche, e potrei azzardarmi a dire soprattutto, in sanità. Una buona digitalizzazione è fondamentale, e già questa non è sempre una realtà compiuta. Questa inoltre comprende una buona organizzazione, reperimento, controllo di qualità e completezza del dato digitale. Le potenzialità, le capacità di calcolo e di inferenza, anche quelle delle IA di frontiera, si frantumano di fronte alla difficoltà di reperimento e di organizzazione dei dati, le cui “sorgenti” in campo medicale sono tra le più differenziate che si possano trovare e immaginare: immagini radiologiche ottenibili attraverso moltissime modalità, innumerevoli esami clinici, immagini nelle diverse specialità cliniche (anatomia patologica, dermatologia, oftalmologia,…), segnali biologici e biometrici, tutto il mondo –omics e, già ora ma molto più in futuro, dati acquisiti tramite sensori indossabili, dispositivi point-of-care e di diagnosi e monitoraggio a domicilio. Raramente si trova pronta disponibilità di combinazioni utili di questi dati in forma digitale e la possibilità di aggregarli e collezionarli facilmente rispetto al singolo paziente (e con consenso informato). Sappiamo ad esempio che spesso vi sono dati mancanti, eterogenei, affetti da possibili fonti di errore, e questo non porta solo a problemi diagnostici e prognostici ma anche a problemi tecnici di come gestire un dato mancante, oppure un dato non pienamente affidabile in termini oggettivi o in quanto caratterizzato da una componente soggettiva. Un sistema data-driven ha bisogno di una grande “cura” dei dati di cui appunto si nutre, e la cultura della cura dei dati è uno dei grandi punti di alleanza clinico-ingegneristica su cui formare e investire.
Non è poi neppure vero che, in un mondo data-driven, l’ingegnere dell’informazione (o computer scientist, o data scientist) non debba modellare il processo. Una approfondita conoscenza del processo diagnostico o di cura deve essere acquisita lavorando fianco a fianco con le figure sanitarie coinvolte, lungo tutto il processo di progettazione e sviluppo, anche se la finalità non è quella di scrivere un software che mappa fedelmente il processo. Si deve essere infatti in grado di capire se i dati contengono tutte le esemplificazioni del processo, se sono rappresentativi della complessità clinica e decisionale. Un grosso problema, tecnico, prestazionale ma anche etico e normativo è infatti il rischio di “polarizzazione” della conoscenza dovuta a carenze di rappresentatività o eccessi di specificità dei dati utilizzati per l’apprendimento.
Un altro grosso problema è che la qualità del dato è spesso da considerare sotto prospettive non sempre allineabili a come i dati sono normalmente utilizzati per gli studi clinici. Mi spiego, l’IA digerisce dati diciamo “densi” (ad esempio un intero studio MR, ovvero come minimo decine di milioni di pixel 3D) e impara da tutto quello che “vede”. In genere però non abbiamo un pieno controllo sul processo di apprendimento, in quanto questo è un meccanismo di ottimizzazione numerica con moltissime iterazioni, che va un po’ dove vuole (in questo il machine learning è un discolo che insegue i palloni dei dati fin laddove si infilano, molto meno disciplinato della statistica che cerca di raccogliere i palloni in canestri dalla forma normalmente vagamente gaussiana…) e che coinvolge lo stato ed i parametri di milioni, quando non miliardi (nelle architetture più massive) di neuroni artificiali. Siccome non è detto che tutto nel dato sia utile per l’apprendimento, vi è il rischio che la macchina apprenda cose sbagliate o comunque non funzionali allo scopo finale di ottenere una IA robusta ed affidabile (la cosiddetta Trustworthy AI). Se raccolgo tutti i pazienti sani dall’ospedale X e quelli patologici dall’ospedale Y e la macchina trova il modo di “capire” l’ospedale di provenienza, ad esempio “notando” la diversa scelta del font del carattere delle scritte sovraimposte all’immagine operata dai sistemi di gestione delle immagini nei due diversi ospedali, avremo milioni di neuroni occupati a discriminare il font del carattere sovraimpresso e che se ne fregano altamente dei “caratteri” che davvero distinguono la situazione normale da quella patologica. Ci siamo capiti?
E se poi l’apprendimento funziona? Ipotizziamo la nostra IA lavori bene anche su dati che non ha visto durante l’apprendimento. Noi ingegneri orgogliosi diciamo “generalizza bene”, oppure “non va in overfitting”. È già il caso di gridare eureka? Il fatto che l’apprendimento sia sano e porti a buoni risultati, secondo qualche metrica adeguata al caso, a me piace dire, soprattutto ai miei studenti (sia ingegneri che medici) che non è un risultato finale, ma è “solo” un prerequisito da cui partire per pensare ad un possibile impiego. Come infatti la nostra IA si integra nell’attività clinica? Come viene messa a disposizione del clinico all’interno di un processo diagnostico-terapeutico? Risponde a una checklist di requisiti etici? Davvero non introduce pericoli? Davvero è robusta nell’interpretazione di nuovi dati, di nuove immagini che vedrà nel futuro, magari provenienti da diversi centri, da diverse apparecchiature, da diverse popolazioni di pazienti? Offre anche delle “spiegazioni” legate alle decisioni che prende (non abbiamo qui lo spazio per entrare nel mondo della cosiddetta Explainable AI)?
Dal dire al fare c’è di mezzo un mare di lavoro, che vede fasi estensive di test (es. validazioni cliniche esterne), di verifica di robustezza del sistema nelle sue varie dimensioni, di gestione delle anomalie, di integrazione informatica e procedurale nei flussi di lavoro dei clinici, di valutazione del tipo di relazione e interazione tra clinico e software, di verifica della giustificabilità economica per il sistema sanitario, di analisi delle problematiche e tensioni etiche derivanti dall’utilizzo di IA in medicina, nel breve e nel lungo periodo… Per non parlare delle fasi di certificazione e di adeguamento normativo (oggi ancora caratterizzato da notevoli elementi di incertezza) necessari per la messa in commercio di software come dispositivo medicale (SaMD) basato su IA. La normativa coinvolta, pensando al solo mercato europeo, è come minimo il GDPR (mai dimenticare i diritti dei pazienti!), il recente regolamento europeo in materia di Medical Device e, ovviamente, l’AI-Act in corso di finalizzazione e approvazione da parte del trilogo dei poteri legislativi europei. Come questi tre mastodonti potranno convergere ed armonizzarsi in prodotti commerciali di successo in campo sanitario? La domanda è ancora aperta. Le risposte, per ora, parziali e lacunose.
Quindi attenzione ai bias concettuali che portano confusione tra applicazioni, performance e reale possibilità di impiego. Per questo i prodotti SaMD basati su IA sul mercato, sebbene non manchino, sono piccola parte rispetto alle potenzialità applicative e soprattutto rispetto a tutto quanto straripa dalla letteratura scientifica.
Non ci sono tuttavia problemi o rischi nell’IA in sanità che non possano essere affrontati vis à vis attraverso una approfondita analisi e conoscenza di questi, specialmente laddove diverse figure professionali abbiano la possibilità di interagire e collaborare in modo intenzionale, costante e strutturato. Ad esempio, l’automazione introdotta dall’IA nel campo diagnostico fa temere il cosiddetto deskilling dei medici o addirittura la fungibilità di certe figure rispetto a sistemi di AI. Ma gli stessi sistemi hanno bisogno di essere monitorati, non “ragionano” come i medici, anzi abbiamo capito che non ragionano proprio. La carenza di capacità di contestualizzazione e di interpretazione in situazioni anomale (o semplicemente non bene apprese) possono portare le macchine a sbagliare e commettere errori banali quanto inspiegabili dal punto di vista di un professionista, ma possibilmente fatali. Chi monitora sistemi basati su IA, e ne beneficia in termini di scarico da lavoro affaticante e/o ausilio nello svolgimento di mansioni ad elevato livello di complessità e attenzione, deve potersi rapportare alla tecnologia senza il rischio di perdere capacità ma con l’occasione di svilupparle, in una nuova relazione tra uomo e macchina che si deve poter orientare verso le migliori combinazioni delle “capacità” umane e artificiali.
L’IA ci può aiutare a trovare relazioni non ancora conosciute tra i dati (perché difficilmente catturabili dalla statistica) o informazioni nascoste nei dati (perché difficilmente catturabili dai sistemi di percezione umana), può aiutare i clinici a stare più tempo con i pazienti o i tecnologi e operatori nelle varie discipline sanitarie a svolgere con più attenzione e cura le proprie mansioni. Occorre però sapere alimentare l’IA con nuova conoscenza e creatività umana, altrimenti corriamo il rischio di appiattimento su un mondo, ampio sì, ma fatto di variazioni sul tema. E l’appiattimento, a lungo andare, non sarebbe quello delle macchine, ma il nostro. Per questo la formazione di qualità ed il lavoro interdisciplinare hanno anche il compito di essere il nostro antidoto a scenari distopici segnati da confusione di pensiero e arretramento professionale.
