Sanità, algoritmi e pregiudizi razziali

Un algoritmo ampiamente utilizzato negli ospedali statunitensi per allocare l’assistenza sanitaria ai pazienti ha sistematicamente discriminato le persone di colore. L’algoritmo, a parità di situazione medica, indirizzava con minore probabilità le persone di colore verso programmi per migliorare l’assistenza, rispetto ai bianchi. Lo mette in luce un’analisi condotta da un team di ricercatori provenienti da alcuni grandi ospedali americani e pubblicata su Science. Si tratta di un problema rilevante dal momento che ospedali e assicuratori usano questo algoritmo e altri simili per aiutare a gestire le cure di circa 200 milioni di persone negli Stati Uniti ogni anno.

Questo tipo di studio è raro, perché i ricercatori spesso non riescono ad accedere agli algoritmi proprietari e ai dati sanitari sensibili necessari per testarli completamente” racconta a Nature Milena Gianfrancesco, epidemiologa dell’Università della California a San Francisco, che ha studiato le fonti di pregiudizio nelle cartelle cliniche elettroniche. “È allarmante – continua Gianfrancesco – abbiamo bisogno di un modo migliore per valutare effettivamente la salute dei pazienti”.

Dove sta il problema

Quando Ziad Obermeyer e i suoi colleghi hanno eseguito controlli statistici di routine sui dati ricevuti da un grande ospedale, sono rimasti sorpresi nello scoprire che alle persone che si auto-identificavano come afro americane erano generalmente assegnati punteggi di rischio più bassi rispetto ai bianchi ugualmente malati. Di conseguenza, i primi avevano meno probabilità di essere indirizzate ai programmi che forniscono cure più personalizzate. I ricercatori hanno notato che l’algoritmo assegnava i punteggi di rischio ai pazienti sulla base dei costi sanitari totali maturati in un anno. Inizialmente questa ipotesi potrebbe sembrare ragionevole perché costi di assistenza sanitaria più elevati sono generalmente associati a maggiori esigenze di salute. La persona di colore media nel set di dati utilizzato dagli scienziati aveva costi sanitari generali simili alla persona bianca media.

Ma uno sguardo più attento ai dati ha rivelato che la persona di colore media era sostanzialmente più malata della persona bianca media, con una maggiore prevalenza di condizioni come diabete, anemia, insufficienza renale e ipertensione. Nel loro insieme, i dati hanno mostrato che le cure fornite ai neri costano in media 1.800 dollari in meno all’anno rispetto alle cure fornite a una persona bianca con lo stesso numero di problemi di salute cronici.

Dal momento che l’algoritmo ha assegnato le persone a categorie ad alto rischio sulla base dei costi da loro rappresentati, si evince che gli afroamericani dovevano essere più malati dei bianchi prima di essere inviati per ulteriore aiuto. Eppure, solo il 17,7% dei pazienti indirizzati dall’algoritmo vero cure extra, era di colore, mentre la proporzione sarebbe del 46,5% se l’algoritmo fosse imparziale. “Il pregiudizio sorge perché l’algoritmo prevede i costi dell’assistenza sanitaria piuttosto che la malattia, ma un accesso disuguale alle cure significa che spendiamo meno soldi per prenderci cura dei pazienti di colore rispetto ai bianchi” scrivono gli autori. Pertanto, nonostante il costo dell’assistenza sanitaria appaia un efficace sostituto della salute da parte di alcune misure di accuratezza predittiva, sorgono grandi pregiudizi razziali.

Quali le soluzioni

La buona notizia è che Obermeyer e il suo team stanno lavorando con l’azienda ideatrice per migliorare l’algoritmo, cercando di trovare variabili diverse dai costi sanitari che potrebbero essere utilizzate per calcolare le esigenze mediche di una persona. L’analisi è stata ripetuta dopo aver modificato l’algoritmo ottenendo una riduzione della distorsione dei risultati dell’84%.

Eppure, l’azienda non è convinta che la “colpa” stia tutta nell’algoritmo. “Il modello di costo è solo uno dei molti elementi di dati destinati a essere utilizzati per selezionare i pazienti per i programmi di coinvolgimento clinico, a partire soprattutto, l’esperienza del medico”.

Obermeyer dal canto suo afferma che l’utilizzo della previsione dei costi per prendere decisioni sull’impegno del paziente è un problema diffuso. “Non è certo un problema unicamente tecnico, legato al singolo algoritmo o a una società.  È un problema di come il nostro intero sistema affronta questo problema”.

Leggi anche: Hertha Sponer, una vita fra pregiudizi e successi

Articolo pubblicato con licenza Creative Commons Attribuzione-Non opere derivate 2.5 Italia.   

Fotografia: Pixabay