Une Intelligence artificielle permet de déterminer l’origine ethnique à partir de radiographies médicales

Dans le cadre d’un effort de recherche conjoint, une équipe internationale a mis au point un modèle d’apprentissage profond permettant de déterminer l’ascendance ethnique à partir de radiographies médicales avec un degré élevé de certitude. Les chercheurs des États-Unis, du Canada, de l’Australie et de Taïwan ont constaté que l’IA était capable de déterminer l’origine avec plus de 95 % de certitude, en utilisant des images de toutes les régions anatomiques du corps humain. Dans la préface de leur étude, ils préviennent que cette possibilité présente des dangers pour l’évaluation automatisée des images médicales et pour les suggestions de traitement assistées par l’IA.

Par le passé, il a été démontré à plusieurs reprises que les systèmes d’IA peuvent adopter les préjugés dominants. Par exemple, des systèmes d’intelligence artificielle avaient délibérément classé les candidats à la peau foncée et les femmes à un rang inférieur dans le processus de présélection pour les nominations à des postes. D’autres applications avaient accordé aux délinquants afro-américains un pronostic social nettement moins bon que celui des détenus blancs comparables lorsqu’il s’agissait de déterminer s’il fallait suspendre le temps de prison restant. Une application médicale qui reconnaît l’origine ethnique d’un patient pourrait formuler des recommandations de traitement inappropriées sur la base de données de formation influencées par le racisme.

Dans leurs travaux, les chercheurs ont entraîné un réseau neuronal à l’aide de centaines de milliers d’images radiographiques et tomodensitométriques, notamment des images du haut du corps, des mammographies du sein, des extrémités et des cervicales. Bien que leur réseau neuronal ait déterminé l’ascendance ethnique avec une grande certitude, ils n’ont pas été en mesure d’identifier les différences anatomiques qui ont guidé l’IA.

Le Media 5