Perché la Sanità Non È Pronta per una Rivoluzione d’Intelligenza Artificiale: L’Opinione di un Eticista Tecnologico

La cruda realtà dell’IA nella sanità

Nel vorticoso e sfrenato entusiasmo che circonda l’IA e la sua presunta capacità di risolvere problemi complessi, Alex John London assume il ruolo spesso ingrato di portatore di cattive notizie.

“In qualità di filosofo e eticista, è mio compito dire cose scomode alle persone,” afferma il professore della Carnegie Mellon University.
“E storicamente, spesso ci mettono a morte per questo.”

London ha offerto il suo richiamo alla realtà, ammorbidito da un tocco di umorismo, all’annuale Ethics and Tech Conference di Seattle University, focalizzata quest’anno sull’intersezione tra IA e sanità.

La confusione nel mondo dell’IA

“Attualmente, l’ecosistema dell’IA è pieno di confusione,” ha dichiarato London.
“E questo rende molto difficile costruire sistemi che rispondano alle nostre necessità: rendere i sistemi sanitari più sicuri, efficaci, efficienti ed equi con le tecnologie e i dati disponibili.”

London dirige il Center for Ethics and Policy della Carnegie Mellon ed è capo eticista al Block Center for Technology and Society della stessa università.
È anche co-editore di “Ethical Issues in Modern Medicine”, uno dei più utilizzati libri di testo di etica medica.

Considerazioni sull’IA in ambito sanitario

Nel corso della sua presentazione, London ha analizzato i passaggi necessari per costruire uno strumento di IA volto a risolvere una sfida medica e i modi possibili per fallire nell’impresa.

Selezionare il problema sanitario appropriato da affrontare è il passo più importante e particolarmente difficile, ha detto London, poiché i dati disponibili per l’addestramento dei modelli IA sono spesso mal allineati con i problemi del sistema sanitario che devono essere risolti.

I dati provengono spesso da fonti non ideali, soprattutto registri clinici e informazioni di fatturazione assicurativa.
Manca il controllo sui dati e abbondano i bias informativi, che possono portare a risultati razzisti, tra gli altri problemi.

London ha citato il progetto Oncology Expert Advisor di IBM, che mirava a fornire supporto diagnostico nella cura del cancro.
Lo sforzo si è rivelato un enorme disallineamento tra ambizione e dati di addestramento adeguati, e il costoso progetto è stato infine abbandonato nel 2016.

Interventi anziché previsioni

Come ha sottolineato London, i modelli di IA sono più abili nel prevedere il futuro basandosi su schemi passati, ma ciò non è l’obiettivo dell’assistenza medica.
“Non vogliamo ritornare su cose già fatte in passato.
Vogliamo provare nuove soluzioni per migliorare le cose.”

Necessità di validazione sufficiente

Prima che gli strumenti di IA vengano implementati, devono essere accuratamente validati con mezzi affidabili.
Questo non è avvenuto con l’algoritmo di Epic per la previsione dei casi potenzialmente mortali di sepsi.

Centinaia di ospedali hanno adottato l’Epic Sepsis Model, ma uno studio indipendente e peer-reviewed anni dopo il suo rilascio ha scoperto che non è riuscito a identificare il 67% dei pazienti con sepsi, generando avvisi falsi per un numero significativo di pazienti che non hanno sviluppato la sepsi, creando un “enorme carico di affaticamento da allerta.”

Altri strumenti di previsione della sepsi, creati su dataset precedenti al COVID-19, hanno iniziato erroneamente a rilevare la malattia ovunque quando applicati a una popolazione con sintomi da COVID.

I Cambiamenti Sistemici Necessari

Secondo London, sono necessari cambiamenti sistemici affinché l’IA possa avere un impatto positivo su larga scala nella sanità.

“Questi problemi strutturali non saranno risolti semplicemente lavorando sui dataset,” ha affermato.
“Per sfruttare davvero l’IA e ottenere tutto il valore che può offrire nel campo sanitario, dobbiamo cambiare i sistemi sanitari, i dati che generiamo, la nostra capacità di apprendere, il modo in cui forniamo assistenza sanitaria e chi è incluso nei nostri sistemi.

“Fino a quando non lo faremo,” ha concluso London, “sarà incredibilmente difficile ottenere il valore che desideriamo dall’intelligenza artificiale.”

Gli altri partecipanti

Tra gli altri relatori intervenuti durante l’evento, vi erano Christof Koch, presidente e responsabile scientifico dell’Allen Institute for Brain Science, e Dr.
Vin Gupta, pneumologo presso Virginia Mason di Seattle, responsabile medico in farmacia presso Amazon e professore affiliato assistente presso l’Università di Washington.

Inoltre, vi erano esperti del Seattle Children’s Hospital, Microsoft, University of Washington’s Institute for Protein Design, Truveta, un startup con sede a Bellevue, Washington, e Madrona Ventures Group di Seattle.