L’avvento dell’era algoritmica in medicina

Cartelle cliniche trasformate in statistica, sintomi compressi in pattern ricorsivi, diagnosi elaborate da black box computazionali: la medicina è entrata nell’era algoritmica. Foucault aveva intuito il potere dello “sguardo medico”, quando, nella Nascita della clinica, ha svelato il dispositivo di potere che trasforma il corpo sofferente in oggetto conoscitivo.
In questi giorni, revisionando un saggio di prossima pubblicazione sull’impatto etico dell’IA in medicina, mi ritrovo a confrontarmi con quella intuizione, moltiplicata e radicalizzata nel tempo attuale della rivoluzione digitale. Lo “sguardo algoritmico” contemporaneo va oltre l’osservazione disciplinante e la razionalità che lo connota maschera i meccanismi di controllo sotto il mantello della neutralità scientifica.

Il potere della visibilità e l’opacità algoritmica

L’opera foucaultiana, con la quale ancora vale la pena di fare i conti, ci spiega il potere nei termini di un operatore che agisce attraverso meccanismi di visibilità. Nell’era algoritmica, invece, questa visibilità subisce una torsione che la porta ad assumere una forma paradossale: mentre i sistemi di IA, anche in campo medico, ci rendono sempre più trasparenti e leggibili (il sintomo può venire tradotto in dato, ogni anamnesi è riducibile a un campione statistico), la loro logica si fa opaca.
È un panottico, nel quale tuttavia non si tratta di recludere criminali, bensì di analizzare i pazienti esponendoli alla datificazione del loro vissuto, mentre il guardiano artificiale opera nell’oscurità della scatola nera dei LLM.

Le sfide all’etica medica tradizionale

Questa asimmetria mina alle fondamenta l’etica medica tradizionale: come è possibile esercitare un consenso informato se non si comprende la logica della prognosi? Come si può preservare l’autonomia dello specialista quando le raccomandazioni terapeutiche discendono sulla diagnosi con la prepotenza dell’incontestabilità dell’analisi basata sui big data?
È di nuovo Foucault ad avvertirci che ogni dispositivo di potere si naturalizza nel momento in cui si presenta come inevitabile, inaggirabile; al giorno d’oggi, evidentemente, l’algoritmo ha subito questo processo di naturalizzazione, ammantandosi di un’infallibilità scientifica difficilmente immaginabile per i sistemi cognitivi umani.

La fiducia umana nelle risposte dei chatbot e la doppia alienazione

Mentre sul piano critico-teorico si denuncia una tendenza alla disumanizzazione della medicina, svariate ricerche rivelano che molti umani tendono a fidarsi delle risposte automatiche dei chatbot. In contesti informativi e di messaggistica (le famose domande al medico via portale), esperimenti controllati hanno mostrato che le risposte fornite dall’IA sono spesso giudicate più empatiche e di qualità superiore rispetto a quelle dei clinici in carne e ossa.
In un lavoro che ha fatto scalpore su JAMA Internal Medicine, un panel di professionisti ha preferito i testi del chatbot nel 79% dei casi, con scarti netti su qualità ed empatia; i ricercatori hanno spiegato il risultato dell’indagine appellandosi al fattore temporale: l’IA può dedicarsi all’ascolto del paziente molto più di quanto, per forza di cose, avvenga tra le corsie dei reparti o negli studi medici.
In oncologia, in un equivalence study pubblicato su JAMA Oncology, le risposte di Claude AI hanno ottenuto punteggi significativamente più elevati in termini di qualità, empatia e leggibilità rispetto a quelle dei medici. Il dato è interessante, tanto più perché parliamo di un’area – l’oncologia – ad alto carico emotivo.
È evidente, quindi, che laddove il sistema sanitario vacilla o addirittura fallisce – nella fretta delle visite, nella carenza cronica di personale – l’IA ha oggi una funzione cruciale e permette di colmare un vuoto. Essa offre un tempo illimitato per la costruzione del soggetto nel rapporto terapeutico, sebbene si tratti di un’empatia che nasconde una doppia alienazione: innanzitutto, il paziente si confida con la macchina perché si sente trascurato dal sistema umano. Inoltre, la macchina restituisce una forma di compassione calibrata da un’ingegneria del linguaggio e non da un’autentica comprensione.

La frattura nel dispositivo di potere e l’effetto etichetta

Proprio su questo livello emerge la frattura nel dispositivo di potere: quando l’osservazione clinico-algoritmica pretende di trasformarsi in azione, per esempio nell’intervento chirurgico automatizzato, studi come quello pubblicato su The Lancet Digital Health registrano un crollo di fiducia, evidenziato anche quando si dichiara esplicitamente che quel testo è “scritto dall’IA”: in due esperimenti preregistrati sul Journal of Medical Internet Research, lo stesso consiglio medico è valutato meno affidabile, meno empatico e meno propenso ad essere seguito quando si crede che provenga da unʼIA. È l’effetto etichetta”: l’autore percepito conta quanto il contenuto.

Verso un equilibrio tra tecnologia e umanità nella cura

Ne traiamo che, se nelle consulenze informative e nei flussi di comunicazione l’IA è senza dubbio utile per ammorbidire il linguaggio, offrire continuità e restituire tempo di relazione al paziente, nel momento in cui si passa a decisioni effettive e atti invasivi, la leva della fiducia si fa più fragile e richiede una coreografia umana più significativa.
L’ultimo Physician Al Sentiment Report dell’AMA, per esempio, sottolinea che l’uso di strumenti di IA è quasi raddoppiato e che il 68% dei dottori nota in ciò un vantaggio per la cura; ma quasi uno su due (47%) si appella alla necessità di aumentare la supervisione regolatoria dello strumento e la prima opportunità vista dai clinici è individuata nell’alleggerimento dei carichi amministrativi (57%), per liberare più tempo per la relazione medico-paziente.

Una genealogia del presente sanitario

Come suggerirebbe Foucault, serve allora una genealogia del presente sanitario per smascherare la presunta neutralità dell’algoritmo, che è invece evidentemente un artefatto sociale e culturale. I dataset su cui si addestra portano i segni di discriminazioni storiche (dalla sottorappresentanza delle donne in alcuni studi alla marginalizzazione di certe patologie “povere”, per fare solo un paio di esempi).
Contro la riduzione del sintomo a codice, inoltre, va riconosciuto lo statuto epistemologico del racconto del paziente. Quando il malato dichiara di avere un ‘martello in testa’, sta utilizzando un linguaggio che evidentemente non va preso alla lettera, ma che richiede attenzione, perché, assieme ad altri indizi ambientali e individuali, contiene la chiave della sua soggettività sofferente.

La necessità di una nuova etica medica

Questa consapevolezza critica si estende anche alla forma stessa degli spazi di cura in cui l’IA viene adottata. Pensare criticamente l’uso dell’IA in medicina significa, anche, impegnarsi nei confronti di una riprogettazione degli ospedali: sempre più organizzati come macchine ad alto tasso di efficienza, essi rischiano di replicare, a livello ambientale e relazionale, la stessa logica di standardizzazione algoritmica.
Per questo, la sfida consiste nel creare, al loro interno, zone franche, spazi e tempi nei quali medico e paziente possano costruire un dialogo sottratto alla logica della performance, restituendo così al racconto soggettivo del paziente un ruolo centrale nel processo terapeutico.

La tecnologia al servizio dell’umanità

Il saggio accademico che mi è capitato in valutazione coglie una verità cruciale: l’IA non è uno strumento neutro, ma un campo di battaglia per la definizione dell’umano nella medicina. Da un lato, gli studi empirici ci ricordano che la partita è aperta, dall’altro la lezione foucaultiana ci rammenta che l’etica non è un insieme di regole, ma una pratica di libertà.
Nella medicina algoritmica, questa pratica significa, per i clinici, usare la tecnologia senza esserne posseduti, mantenendo quello sguardo laterale che permette, eventualmente, di andare oltre gli schemi statistici. Per i pazienti, invece, si tratta di rivendicare il diritto all’opacità, ovvero a ciò che, nell’esperienza della sofferenza individuale, sfugge alla datificazione.
Come ci ricorda, ancora una volta, Foucault: ogni dispositivo di potere custodisce in sé i semi di una contro-condotta. Lo sguardo medico, e ancor più quello algoritmico, è un atto di potere, ma la resistenza ad esso gli è ugualmente connaturata. Sta a noi fare della tecnologia lo strumento per difendere lo spazio in cui un essere umano dice a un altro: “Mi racconti?”.
Dalla storia, singolare e irriducibile alla standardizzazione, che ne emerge può prendere forma una cura capace di riconoscere e accogliere la complessità dell’esperienza.