Intelligenza artificiale e sanità: l'uso di messaggi automatizzati da parte dei medici

L'intelligenza artificiale (AI) sta trovando sempre più applicazione in ambito sanitario, con potenzialità significative nel supporto alle attività cliniche. Gli algoritmi possono analizzare parametri vitali, interpretare i risultati di screening e suggerire terapie basate su enormi quantità di dati raccolti da dispositivi medici. Inoltre, l'AI può monitorare costantemente variabili come i livelli di glucosio e la salute cardiaca e neurologica, assistendo i medici nell'affrontare casi complessi e nell'analisi di dati per arrivare a una diagnosi. Ma cosa succede quando l'AI viene utilizzata per comunicare direttamente con i pazienti?

Negli Stati Uniti, molti professionisti sanitari si avvalgono di strumenti come MyChart – App sviluppata da Epic, azienda leader nel settore del software sanitario – per rispondere a centinaia di migliaia di messaggi inviati dai pazienti. Tuttavia, non tutti i messaggi ricevuti sono redatti da un medico, almeno non completamente: circa 15.000 medici utilizzano una funzionalità di AI per scrivere le risposte ai pazienti. Questo solleva preoccupazioni riguardo al rischio che gli errori prodotti dall'AI possano non essere prontamente individuati dai medici.

L'uso di messaggi automatizzati è aumentato durante la pandemia da Covid-19, quando gli appuntamenti in presenza sono stati limitati. La comunicazione tra pazienti e medici è quindi passata in gran parte su piattaforme digitali. Nonostante il ritorno alla normalità, i medici continuano a ricevere una quantità elevata di messaggi, mettendo sotto stress il sistema sanitario. Per far fronte a questo, Epic ha introdotto la funzione AI che genera risposte automatiche, lasciando ai medici il compito di approvare o modificare i testi prima dell'invio.

Il sistema di AI si basa su informazioni precedenti, come le conversazioni passate, la cartella clinica elettronica e l'elenco dei farmaci, per creare una bozza di risposta. Questo supporto consente ai medici di risparmiare tempo, ma l'intervento umano resta fondamentale. Nonostante questo controllo finale, alcuni esperti esprimono preoccupazioni sull'affidabilità delle risposte generate, sottolineando che la formazione dell'AI è un aspetto ancora poco trasparente. In particolare, la mancanza di una validazione ufficiale da parte di enti pubblici come l'AIFA o il Ministero della Salute potrebbe compromettere la qualità delle informazioni fornite.

La percezione dell'AI tra i medici è mista: secondo una ricerca dell'Osservatorio Sanità Digitale del Politecnico di Milano, il 72% dei medici ritiene che l'AI possa essere utile per migliorare la personalizzazione e l'accuratezza delle cure. Tuttavia, non tutti sono pronti ad abbandonare il giudizio umano. Le principali preoccupazioni riguardano il rischio che l'AI commetta errori, rendendo necessaria una supervisione costante. Gli esperti temono che una dipendenza eccessiva dall'AI possa ridurre le competenze professionali richieste, con conseguenze negative per i pazienti.

Gli errori generati dall'AI sono già un tema di discussione. Un recente studio – “The effect of using a large language model to respond to patient messages”, pubblicato su The Lancet Digital Health – ha mostrato che, se non corretti, i messaggi generati dall'AI potrebbero contenere informazioni sbagliate in una percentuale significativa dei casi. I medici, consapevoli della necessità di una supervisione, sono dunque ancora diffidenti riguardo all'automazione completa.

Inoltre, il rischio di interazione diretta tra paziente e chatbot rimane un argomento dibattuto. La possibilità che i pazienti ricevano risposte da una chatbot senza il filtro di un medico preoccupa molti professionisti. Sebbene alcuni pazienti abbiano espresso apprezzamento per l'efficienza dei nuovi strumenti, c'è il timore che l'AI non tenga conto delle sfumature della condizione di ciascun individuo, portando a diagnosi errate o non personalizzate.

In conclusione, sebbene l'AI possa supportare i professionisti sanitari nel migliorare la qualità e l'efficienza dell'assistenza, la necessità di un intervento umano rimane cruciale. La supervisione medica non solo garantisce l'affidabilità delle risposte, ma preserva anche il valore della relazione medico-paziente, un elemento insostituibile nella cura della salute.

Fonte: Corriere Salute. Leggi qui l’articolo originale.