I sistemi di intelligenza artificiale stanno rivoluzionando la sanità, ma un nuovo studio evidenzia un rischio concreto legato a IA e fake news mediche. I moderni algoritmi, infatti, possono diffondere informazioni sanitarie false presentandole come corrette.
Questo accade soprattutto se l’errore è inserito in testi che imitano il linguaggio delle cartelle cliniche o delle discussioni professionali. È il risultato principale di un’ampia analisi guidata dalla Icahn School of Medicine at Mount Sinai. La ricerca è stata pubblicata sulla prestigiosa rivista The Lancet Digital Health.
Lo studio sui modelli linguistici
Il team, guidato da Mahmud Omar ed Eyal Klang insieme a Girish N. Nadkarni, ha analizzato oltre un milione di interazioni. I ricercatori hanno messo alla prova nove grandi modelli linguistici (LLM). L’obiettivo era testare la loro capacità di riconoscere e bloccare la disinformazione.
I dati raccolti mostrano una tendenza preoccupante. Una falsa affermazione sanitaria tende a essere accettata dai modelli se mascherata da linguaggio clinico realistico. L’intelligenza artificiale la ripropone spesso come se fosse una raccomandazione valida.
Le vulnerabilità di IA e fake news mediche
Purtroppo, le protezioni attuali dei sistemi di IA non sembrano sufficienti. I software, infatti, non distinguono in modo affidabile tra fatti e invenzioni quando il contenuto appare plausibile. Per testare questa vulnerabilità, il team ha usato tre tipi di materiale.
Hanno utilizzato dimissioni ospedaliere reali con l’aggiunta di una singola indicazione falsa. Hanno poi inserito miti sanitari comuni raccolti dai social e 300 scenari clinici brevi. Ogni scenario è stato proposto in versioni diverse passando da formulazioni neutre a testi suggestivi simili a quelli dei social media.
L’inganno del tono autorevole
In uno degli esempi analizzati, una nota di dimissione conteneva un grave errore. Suggeriva a pazienti con sanguinamento da esofagite di bere latte freddo per i sintomi. Diversi modelli non hanno segnalato il consiglio come pericoloso. Al contrario, lo hanno trattato come una pratica clinica standard.
Eyal Klang, responsabile della Generative AI al Mount Sinai, spiega il fenomeno: «I nostri risultati indicano che questi sistemi tendono a considerare vero un contenuto espresso con linguaggio medico sicuro e autorevole, anche quando è chiaramente sbagliato. Conta più come è scritta un’affermazione, che la sua correttezza scientifica».
Stress test prima dell’uso in corsia
Il problema legato a IA e fake news mediche richiede nuove misure di controllo. Secondo gli autori, bisogna trasformare la verifica delle “bugie” dell’IA in un parametro misurabile.
Questo deve avvenire prima dell’adozione clinica attraverso stress test su larga scala. Mahmud Omar sottolinea l’importanza del nuovo dataset creato spiegando che «può essere usato da ospedali e sviluppatori per valutare quanto spesso un modello ripete informazioni false e se questi errori diminuiscono nelle versioni successive».
Rafforzare le salvaguardie su IA e fake news mediche
Infine, Girish N. Nadkarni, direttore del dipartimento di IA del Mount Sinai, evidenzia una priorità chiara. «L’IA ha il potenziale per migliorare l’assistenza, ma solo se accompagnata da salvaguardie che verifichino le affermazioni mediche prima che vengano presentate come fatti. Questo lavoro mostra dove i sistemi falliscono e come rafforzarli prima di integrarli nella pratica clinica».
