Twitter découvre un biais racial dans l’IA de capture d’images

Les tests ont révélé une préférence pour les Blancs par rapport aux Noirs et pour les femmes par rapport aux hommes.

Selon l’entreprise, le recadrage automatique des images par Twitter présentait des problèmes sous-jacents qui favorisaient les Blancs par rapport aux Noirs, et les femmes par rapport aux hommes.

Cette décision intervient plusieurs mois après que ses utilisateurs ont mis en évidence des problèmes potentiels avec l’algorithme, qui recadrait les grandes photos.

Les recherches de suivi menées par le réseau social ont maintenant confirmé le problème.

Twitter a déclaré qu’il avait déjà commencé à éliminer progressivement l’ancien système, avec une mise à jour des applications mobiles qui donnait un aperçu plus précis des images.

Avec l’ancien système, l’algorithme faisait de son mieux pour centrer la vue des images très hautes ou très larges de manière à cadrer les visages des personnes ou d’autres parties intéressantes de l’image. Mais cela ne fonctionnait pas toujours parfaitement.

Préjugés raciaux

En septembre de l’année dernière, un employé d’université a remarqué que lorsqu’il publiait deux photos – l’une de lui-même et l’autre d’un collègue – l’aperçu de Twitter montrait systématiquement l’homme blanc plutôt que l’homme noir, quelle que soit la photo ajoutée en premier au tweet.

D’autres utilisateurs ont découvert que le même schéma s’appliquait à des images de l’ancien président américain Barack Obama et du sénateur Mitch McConnell, ou à des images de stock d’hommes d’affaires d’origines raciales différentes. Lorsque les deux hommes se trouvaient dans la même image, l’aperçu semblait favoriser les visages blancs, cachant les visages noirs jusqu’à ce que les utilisateurs cliquent sur la photo complète.

Twitter a réagi rapidement, expliquant qu’il avait testé ce type de problèmes avec son système d’apprentissage automatique avant de le mettre en service – mais a reconnu qu’il restait du travail à faire, et a promis un correctif.

La société a révélé les résultats mercredi dans un billet de blog détaillé sur l’ingénierie.

Le problème concernait son “algorithme de saillance” qu’elle a publié en 2018 pour recadrer les images. L’algorithme a été “formé sur des données de suivi oculaire humain”, a expliqué Twitter, mais la cause des problèmes apparents pourrait être due à plusieurs facteurs compliqués.

Lors des tests, par rapport à une chance sur deux de “parité démographique”, il a constaté :

  • Une différence de 8% en faveur des femmes par rapport aux hommes
  • Une différence de 4 % en faveur des Blancs par rapport aux Noirs des deux sexes
  • Une différence de 7% en faveur des femmes blanches par rapport aux femmes noires.
  • Une différence de 2% en faveur des hommes blancs par rapport aux hommes noirs.

L’équipe a également testé les allégations de l’effet “regard masculin” – lorsque les images de femmes sont coupées sur la poitrine ou les jambes plutôt que sur le visage. Mais dans ce cas, le test effectué n’a pas trouvé de preuve de partialité.

“Nous avons examiné les compromis entre la vitesse et la cohérence du recadrage automatisé et les risques potentiels que nous avons vus dans cette recherche”, a écrit Rumman Chowdhury, directeur du génie logiciel de Twitter.

“L’une de nos conclusions est que tout ce qui se trouve sur Twitter n’est pas un bon candidat pour un algorithme, et dans ce cas, la façon de recadrer une image est une décision qu’il vaut mieux laisser aux gens”, a-t-elle ajouté.

* Aujourd’hui, nous lançons un test auprès d’un petit groupe sur iOS et Android pour donner aux gens un aperçu précis de la façon dont leurs images apparaîtront lorsqu’ils tweetent une photo.

Elle a souligné le déploiement récent d’un aperçu de recadrage plus vrai que nature, qui ne recadre plus les photos au format 16:9 ou 4:3 “standard”.

“Nous travaillons sur d’autres améliorations des médias sur Twitter qui s’appuient sur cet effort initial, et nous espérons les déployer pour tout le monde bientôt”, a-t-elle déclaré.

Dans une déclaration à CNN, un porte-parole de Twitter a précisé que si le changement initial concernait les applications mobiles – où le problème a été signalé pour la première fois – la société prévoit de supprimer le recadrage algorithmique de la version Web de Twitter dans les mois à venir.

BBC NEWS Afrique