L’ingresso dell’intelligenza artificiale nella pratica clinica apre una responsabilità sanitaria policentrica, in cui produttori, strutture, medici e deployer condividono obblighi di controllo, formazione e vigilanza davanti a errori algoritmici sempre più documentati.
L’integrazione di sistemi di intelligenza artificiale nella pratica clinica — dalla radiologia diagnostica ai sistemi di triage, dalla cardiologia predittiva all’oncologia decisionale — impone riflessioni profonde sull’architettura giuridica della responsabilità sanitaria.
Il modello tradizionale, fondato su una catena lineare ancorata agli artt. 1218 e 2043 c.c. nonché all’art. 7 della Legge n. 24/2017, risulta con buona probabilità non totalmente adeguato a governare scenari in cui la decisione clinica emerge dall’interazione tra giudizio umano e output algoritmico. L’IA, diversamente da uno strumento passivo come la strumentazione sanitaria tradizionale, partecipa attivamente alla formazione della decisione: orienta la diagnosi, stratifica il rischio, fornisce elementi forti di suggerimenti per la terapia.
Una responsabilità policentrica
Questa partecipazione attiva determina il passaggio da una responsabilità monocentrica a un paradigma di responsabilità policentrica e multilivello, caratterizzato dalla compresenza di obblighi di diligenza, vigilanza e controllo gravanti simultaneamente su produttore, deployer, struttura sanitaria, professionista sanitario e, in determinati contesti normativi, su organismi notificati e autorità di vigilanza. Ciascuno di questi poli risponde secondo regimi normativi differenti —responsabilità da prodotto, contrattuale, professionale, organizzativa — e il loro mancato coordinamento costituisce oggi la principale lacuna di governance del settore.
Casi documentati di errori algoritmici
Il dibattito sulla responsabilità algoritmica in medicina non è più confinato a tipizzati casi di scuola: i casi documentati forniscono già una cartografia del rischio sufficientemente articolata da orientare scelte organizzative e giuridiche concrete.
- Il caso IBM Watson for Oncology (2018) ha rivelato come un sistema addestrato su casistica sintetica anziché su pazienti reali potesse formulare raccomandazioni terapeutiche oncologiche definite “non sicure” nei documenti interni di Memorial Sloan Kettering, aprendo questioni di responsabilità del fornitore mai pienamente risolte in sede giudiziaria.
- L’algoritmo Optum (Obermeyer et al., Science, 2019) ha dimostrato come un bias strutturale nella variabile proxy — la spesa sanitaria storica come indicatore del bisogno di cura — avesse la possibilità di produrre un sistematico sottotrattamento dei pazienti neri, configurando una potenziale discriminazione algoritmica indiretta con implicazioni sia in termini di responsabilità organizzativa sia di equità delle cure.
- L’Epic Sepsis Prediction Model (Wong et al., JAMA Internal Medicine, 2021) ha evidenziato il validation gap: un modello eccellente su dati interni mostrava performance significativamente inferiori nella pratica clinica reale, con falsi negativi che ritardavano l’intervento e falsi positivi che generavano alarm fatigue.
A questi casi molto noti, si aggiungono scenari più recenti di straordinaria rilevanza giuridica, tra i quali possono essere ricordati:
Infine, una ricerca recentemente condotta da Stanford e Harvard ha rilevato che i migliori sistemi di IA medica attualmente disponibili generano raccomandazioni cliniche potenzialmente gravemente dannose in una quota compresa tra il 12% e il 22% dei casi: nel caso questi dati fossero confermati in sede giudiziale, ciò renderebbe giuridicamente insostenibile il trattamento dell’errore algoritmico come rischio residuo trascurabile e imporrebbe un modello di governance analogo a quello adottato per i dispositivi medici ad alto impatto clinico, che necessiterebbe attente valutazioni.
Rischi emergenti: l’automation bias
Tra i fattori di rischio emergenti nella letteratura medico-legale, l’automation bias occupa senza dubbio una posizione di rilievo crescente e ancora insufficientemente tematizzata nel dibattito giuridico italiano. Esso designa la tendenza cognitiva del professionista ad attribuire all’output algoritmico un grado di affidabilità superiore a quello della propria valutazione clinica, con conseguente riduzione del controllo critico e incremento della probabilità di errori per omissione o commissione.
La sua pericolosità aumenta in rapporto con l’efficacia apparente del sistema: quanto più elevata è l’accuratezza media dell’algoritmo, tanto più il professionista è tentato di seguirne le indicazioni acriticamente. Il risultato è una progressiva distrazione di capacità decisionale, che rende ogni errore algoritmico più devastante quando inaspettatamente s’instaura.
Governance e formazione dei professionisti
La mancata formazione del personale sanitario al critical appraisal degli output algoritmici e l’assenza di un sistema di human oversight strutturato configurano oggi una nuova e autonoma ipotesi di colpa organizzativa della struttura sanitaria.
Il Regolamento (UE) 2024/1689 (AI Act) non richiede un controllo generico, ma che le persone incaricate siano in grado di comprendere l’algoritmo e di agire in sua presenza. L’human oversight, quindi, non si limita ad una formalità legale, ma richiede un’effettiva predisposizione per gestire un sistema in autonomia.
In questa prospettiva, la formazione dei medici al critical appraisal diventa prioritaria. Il professionista deve saper valutare le coerenze e discrepanze del modello rispetto al paziente, riconoscere limiti e potenziali bias. La mancanza di questa preparazione è un fattore organizzativo determinante e punibile ai sensi di normative vigenti.
Nuovi obblighi per le strutture sanitarie
La preparazione professionale non basta: le strutture sanitarie sono tenute a predisporre protocolli per il controllo degli algoritmi, strumenti per il rischio e procedure di audit continuo per la valutazione delle prestazioni. L’assenza di tali dispositivi rappresenta una lacuna nella governance aziendale.
La critical appraisal degli output diventa un pilastro fondamentale, destinato a costituirsi come un parametro professionale e organizzativo fondamentale per il contesto sanitario digitale.
Responsabilità giuridica e obblighi formativi
Il mancato controllo formale del sistema IA da parte dell’organizzazione o del singolo medico può comportare una responsabilità diretta in caso di errore. La responsabilità non riguarda solo il singolo, ma anche l’organizzazione intera qualora non abbia adottato misure preventive sufficienti.
Gli accordi normativi