L’intelligence artificielle “blanche” risque d’exacerber l’inégalité raciale, selon une étude de Cambridge

Temps de lecture : 2 minutes

Les chercheurs suggèrent que les machines ont des identités raciales distinctes et que cela perpétue les stéréotypes raciaux du “monde réel”. Selon les chercheurs, de nombreux robots supérieurs dans les films sont blancs ou interprétés par des voix de Blancs.

La “blancheur” de l’intelligence artificielle (IA) risque d’entraîner une main-d’œuvre “racialement homogène”, car les humains créent des machines faussées par leurs préjugés, selon cette étude.

L’étude de l’Université de Cambridge a examiné l’IA dans la société, notamment dans les films, les recherches sur Google, les illustrations des banques d’images et les voix de robots.

Les chercheurs ont suggéré que les machines ont des identités raciales distinctes, ce qui perpétue les stéréotypes raciaux du “monde réel”.

Selon les chercheurs, l’IA non abstraite dans les résultats des moteurs de recherche Internet présentait généralement des caractéristiques caucasiennes ou était de couleur blanche.

La plupart des voix virtuelles dans les appareils parlaient “l’anglais standard de la classe moyenne blanche” car “les idées d’ajouter des dialectes noirs ont été rejetées comme étant trop controversées ou en dehors du marché cible“, a conclu l’étude.

Les experts ont analysé des recherches récentes dans divers domaines, notamment l’interaction homme-machine et la théorie de la race critique, pour démontrer que les machines peuvent être “racialisées” et que cela perpétue les préjugés raciaux du “monde réel”.

Ils ont notamment étudié comment les robots sont perçus comme ayant des identités raciales distinctes, les robots noirs étant davantage victimes d’abus en ligne, et une étude montrant que les gens se sentent plus proches des agents virtuels lorsqu’ils perçoivent une identité raciale commune.

Selon les scientifiques du Leverhulme Centre for the Future of Intelligence (CFI) de Cambridge, comme d’autres tropes de science-fiction, l’IA reflète depuis longtemps la pensée raciale.

Ils ont mis en évidence des stéréotypes raciaux extraterritoriaux tels que l’extraterrestre “orientalisé” de Ming l’Impitoyable ou la caricature des Caraïbes de Jar Jar Binks.

Cependant, ils ont suggéré que l’IA est dépeinte comme étant blanche, car contrairement aux espèces d’autres planètes, elle possède des attributs utilisés pour “justifier le colonialisme et la ségrégation” dans le passé.

Le co-auteur, le Dr Stephen Cave, a déclaré que les robots les plus puissants à l’écran sont blancs ou joués par des acteurs blancs, notamment Terminator, Blade Runner, Metropolis et Ex Machina.

Les androïdes en métal ou en plastique sont dotés de traits blancs, comme dans I, Robot. Même les IA désincarnées – de HAL 9000 à Samantha in Her – ont des voix blanches“, a-t-il déclaré.

“Ce n’est que très récemment que dans quelques séries télévisées, comme Westworld, ont utilisé des personnages d’IA avec un mélange de tons de peau.

Selon le Dr Kanta Dihal, chercheur principal : “Étant donné que la société a, pendant des siècles, favorisé l’association de l’intelligence avec les Européens blancs, il est normal que lorsque l’on demande à cette culture d’imaginer une machine intelligente, elle imagine une machine blanche.”

Les gens font confiance à l’intelligence artificielle pour prendre des décisions. Les représentations culturelles encouragent l’idée que l’IA est moins faillible que les humains“.

Elle a averti que si l’identité de l’IA ne se diversifie pas, l’inégalité raciale rendra plus difficile l’avancement des personnes non blanches dans le domaine de la technologie.

Dans les cas où ces systèmes sont racialisés en tant que blancs, cela pourrait avoir des conséquences dangereuses pour les humains qui ne le sont pas“, a-t-elle précisé.

Le Dr Dihal a conclu : “La blancheur perçue de l’IA rendra plus difficile la progression des personnes de couleur dans ce domaine.

Si la couleur des développeurs ne se diversifie pas, l’IA risque d’exacerber l’inégalité raciale“.

News Sky