USA : des algorithmes creusent les inégalités raciales face aux soins

Dans des milliers d'hôpitaux américains, des algorithmes sont utilisés pour identifier les patients les plus à risque et leur apporter un suivi poussé. Mais ces algorithmes, ont rapporté jeudi 24 octobre des chercheurs dans la revue Science, privilégient les Blancs aux Noirs.

Cette différence de traitement est directement liée à la façon dont ces programmes fonctionnent : s'ils ne sont pas renseignés sur la couleur de peau des patients, ils se basent sur leurs dépenses de santé passées.

Identifier les patients les plus fragiles pour optimiser leur suivi

Ziad Obermeyer, de l'université de Californie à Berkeley, raconte être presque tombé par hasard sur cette découverte, en analysant avec des collègues les données fournies par un grand hôpital universitaire, non nommé.

L'hôpital calculait, grâce à un algorithme standard en santé publique, un "score de risque" et sélectionnait les 3% des patients les plus malades ou vulnérables (diabète, insuffisance cardiaque, emphysème...), qui pouvaient ensuite appeler un numéro dédié, obtenir des rendez-vous le même jour ou être suivis à domicile.

Les patients blancs privilégiés dans le programme

"Des patients blancs doublent des patients noirs plus malades pour entrer dans le programme", a expliqué Ziad Obermeyer à l'AFP.

Et cet état de fait a forcément des conséquences sur l’évolution de la santé de chacun. "Sur deux patients, un Noir et un Blanc, avec exactement le même score, le patient noir était en réalité plus susceptible d'avoir plus de problèmes de santé au cours de l'année suivante que le patient blanc".

Des transactions financières comme base de travail

L'algorithme ne prenait pas en compte la "race", comme disent les Américains, la couleur de la peau. 

Le problème réel du programme est qu'il pensait les patients noirs en meilleure santé qu'ils ne l'étaient réellement parce qu'il se fondait uniquement sur les coûts des soins générés dans le passé par ces patients.  Or, "les patients noirs, en moyenne, génèrent moins de coûts que les patients blancs qui ont le même niveau de santé", dit Ziad Obermeyer. C'est le fruit d'inégalités profondément ancrées qui font que les Noirs vont moins souvent chez le médecin, et que lorsqu'il s'y rendent, les médecins ordonnent moins d'analyses ou de soins.

"On a cette illusion qu'on travaille avec des variables biologiques qui décrivent la physiologie de façon objective", poursuit-il. En réalité, toutes les données de l'algorithme se fondent sur les transactions financières entre l'hôpital et les assurances.

C'est le défaut originel de ces algorithmes.

Une négligence profonde dans la collecte des données de santé

La société qui commercialise le logiciel a accepté une suggestion des chercheurs pour réduire de plus de 80% le déséquilibre racial. 

Mais comme le souligne Ziad Obermeyer, changer le code des algorithmes n'est que la première étape: il faudrait construire des bases de données qui s'intéressent en premier lieu à l'état de santé réel des patients.

"Il est vraiment étrange que la source majeure de données sur la médecine vienne de transactions financières", conclut le chercheur. "Le système de santé ne prend pas au sérieux le besoin d'acquérir des données de santé de qualité. Les informations qu'on a sur la santé des gens sont presque accidentelles".