HIGH-TECH

Même les algorithmes peuvent être racistes, Twitter enquête

Même les algorithmes peuvent être racistes, Twitter enquête

Twitter

Qui sera choisi par l’algorithme de Twitter entre le sénateur Mitch McConnell et l’ancien président Barack Obama? Plutôt le premier. Un biais qui montre le «racisme technologique».

Un algorithme du réseau social Twitter, propulsé par une forme d’intelligence artificielle, se charge de recadrer automatiquement les images postées par les utilisateurs.

Il le fait en analysant celle-ci pour détecter les visages, notamment.

Peu importe sa taille et son ratio largeur/hauteur, l’image recadrée doit montrer les yeux, le nez et la bouche du sujet, s’il y en a un. C’est le principe qui anime cet algorithme, son seul but, imaginé par ses concepteurs.

Même les algorithmes peuvent être racistes, Twitter enquête
À gauche, l’image telle que recadrée par l’algorithme de Twitter, à droite, la photo complète. Le dessus de l’image est intact, car c’est là que se trouve le visage du joueur, tandis que le bas a été coupé. (ceci est un exemple simplifié du fonctionnement de cet algorithme) Reuters-Twitter

L’exemple ci-dessus est simple: il suffit d’apprendre à l’ordinateur à détecter les éléments d’un visage pour comprendre où il se trouve.

On gave l’ordinateur de photos, on lui indique au départ ce qu’il doit chercher et il apprend à reconnaître où se trouve la tête.

Tout ce qui s’en éloigne peut être coupé pour faire rentrer la photo dans la zone définie par Twitter (une zone d’environ 510 pixels sur 280 pixels par image, plus étroite que le «standard» 4/3).

Même les algorithmes peuvent être racistes, Twitter enquête
-
Ça se complique évidemment lorsque deux visages sont présents et qu’il est impossible de recadrer l’image pour les faire apparaître tous les deux.

C’est ici qu’intervient le biais «raciste» de l’algorithme pointé par plusieurs utilisateurs ce week-end.

Pour faire le test, l’un d’eux a utilisé deux photos, l’une de Barack Obama, l’autre du sénateur Mitch McConnell.

Il a regroupé les deux visages, photographié de face sur un fond neutre, en les séparant uniquement par une grande zone blanche (voir photo ci-contre).

L’algorithme de Twitter a été forcé de faire un choix et il a majoritairement choisi de montrer le visage du sénateur américain, comme on le voit dans le tweet ici.

En effet, même en modifiant l’image, pour placer Barack Obama au-dessus et Mitch McConnell en dessous, c’est toujours ce dernier qui apparaîtra dans le fil d’actualité de Twitter.

L’image sera toujours recadrée pour montrer Mitch McConnell.

Pourquoi? Parce qu’il est blanc de peau et que c’est sans doute ce que connaît le mieux l’algorithme.

Twitter travaille sur le problème des photos recadrées depuis longtemps, comme il l’explique dans un blog.

La détection de visage était son seul but au départ, mais d’autres paramètres entrent aujourd’hui en compte, car toutes les photos ne montrent pas forcément des personnes.

Liz Kelley, de l’équipe de communication du réseau social a précisé que Twitter investiguait le problème.

«Nous avons effectué des tests pour détecter ce genre de problème avant de déployer la fonctionnalité et nous n’avons pas trouvé de preuves de biais raciaux ou sexistes dans nos tests, mais il est clair que nous devons faire d’autres analyses», explique-t-elle, ajoutant que le logiciel sera rendu «open-source» (le code informatique utilisé sera public) afin que d’autres développeurs puissent y jeter un œil.

Ce n’est pas la première fois que la technologie se montre défavorable envers les personnes de couleurs.

La reconnaissance faciale a déjà été pointée du doigt sur d’autres services, comme Google Photo.

Des chercheurs du Georgia Institute of Technology (Atlanta, États-Unis) ont également démontré que les technologies embarquées dans les voitures autonomes étaient moins performantes pour identifier correctement des piétons noirs que des piétons blancs.

Pour y remédier, il faudra que le développement technologique s’ouvre à la diversité, afin d’éviter que ce soit uniquement des hommes blancs qui développent des logiciels pour d’autres hommes blancs en les testant uniquement sur des hommes blancs.