Google a annoncé que son algorithme de vision par ordinateur ne marquera plus les photos par sexe, donc par genre. Selon un e-mail envoyé aux développeurs hier, l’outil propulsé par l’IA n’utilisera plus de balises de genre comme «femme» ou «homme» et sera remplacé par défaut par «personne» à la place.
Le changement s’applique au API Cloud Vision, que les développeurs peuvent utiliser pour étiqueter des photos en fonction de ce que l’ordinateur «voit» à l’intérieur du cadre. Selon Interne du milieu des affaires, à qui une copie de l’e-mail en question a été envoyée, cette API a maintenant été modifiée afin d’éviter tout biais potentiel.
“Étant donné que le sexe d’une personne ne peut pas être déduit par l’apparence”, lit l’e-mail, “nous avons décidé de supprimer ces étiquettes afin de nous aligner sur les principes de l’intelligence artificielle de Google, en particulier le principe n ° 2: éviter de créer ou de renforcer des préjugés injustes.”
Le test de l’API par nous-mêmes révèle que le changement a déjà pris effet:
Le type de parti pris auquel Google fait référence est le résultat de «données d’entraînement erronées», ce qui conduit nécessairement l’algorithme à formuler certaines hypothèses. Quiconque ne rentre pas dans le binaire formé de cet algorithme de ce à quoi pourrait ressembler un “homme” ou une “femme” sera donc automatiquement mal évalué par l’IA. C’est ce que Google essaie d’éviter.
le Principe de l’intelligence artificielle que Google mentionne dans l’e-mail indique spécifiquement que Google essaiera «d’éviter les impacts injustes sur les personnes», en particulier en ce qui concerne les «caractéristiques sensibles» comme la race, l’ethnicité, le sexe, les convictions politiques et l’orientation sexuelle, entre autres.
Selon Interne du milieu des affaires, la décision a eu des résultats polarisants prévisibles. Un membre de la politique de Mozilla avec qui ils ont parlé a déclaré que la décision était “très positive” et a convenu avec Google que le sexe d’une personne ne peut pas être déduit de l’apparence, tandis qu’au moins un développeur affecté a également répondu au changement en affirmant que “le politiquement correct a de la place dans Apis.”
(via Le bord)
Crédits image: Photo d’en-tête par Mitchell Luo, Photo test API par Philip Martin, les deux CC0
