Black History Month – BIPOC & AI, Strengthen Cultural Legacy

L’IA modifie peu à peu tous les domaines de notre existence, de la santé à l’éducation, en passant par le travail et les relations sociales. Cependant, même si elle promet d’innovation et de développement, l’intelligence artificielle est souvent marquée par des préjugés raciaux, sexistes ou économiques, qui sont hérités des systèmes de données sur lesquels elle est entraînée. Il arrive parfois que les algorithmes, qui sont supposés être neutres, reflètent les préjugés historiques ou structurels des sociétés dans lesquelles ils sont élaborés.

Les communautés BIPOC, déjà marginalisées sur de nombreux fronts, font face à un défi supplémentaire en raison de cette situation. Selon des recherches, il a été démontré que les systèmes de reconnaissance faciale, par exemple, ont tendance à avoir une meilleure capacité à reconnaître les visages blancs, ce qui entraîne des taux d’erreur plus élevés pour les individus de couleur. De la même manière, des algorithmes employés dans les processus de recrutement, de soins de santé ou même dans le système judiciaire ont démontré des tendances à maintenir des disparités raciales.