Racismo tecnológico
Los casos más sonados de discriminación tecnológica provienen de los algoritmos racistas que atentan de distintas maneras contra la gente de color. Entre lo más absurdo, aunque no por ello menos grave, está una serie de concursos de belleza realizado en 2016 que sólo incluyó una mujer de color entre sus 44 ganadoras; o el hecho de que una búsqueda en Google de "peinados no profesionales para el trabajo" realizada en ese mismo año arrojara centenares de mujeres negras con el cabello peinado de forma natural.
¿Alguna vez has tenido problemas con el etiquetado automático de tus fotos? Seguro que no se compara con lo hecho por Google, que en 2015 se vio envuelto en la polémica cuando numerosas personas de color fueron registradas como gorilas.
Más grave aún es que una investigación realizada en 2014 concluyó que los programas usados por las autoridades norteamericanas consideran que los afroamericanos tienen más probabilidad de reincidir aun cuando tengan el mismo historial delictivo que un caucásico. O que un estudio de salud en 2019 detectara que los algoritmos sanitarios priorizan la atención médica de los blancos aun cuando tengan los mismos padecimientos que alguien de color.
Sistemas machistas
Todo aquel que ha usado Google Translate sabe que bien vale la pena revisar las traducciones para evitar cualquier sorpresa. Pocas tan sonadas como cuando la usuaria de Twitter @DoraVargha descubrió lo que pasaba con el algoritmo al usar un lenguaje neutral de género.
La joven incluyó una captura donde el algoritmo traducía de un húngaro neutro al inglés: “ella lava los platos”, “ella limpia”, “él gana mucho dinero”, “él es político”. Así como un mensaje en que asegura que “así es como el sexismo diario es codificado de manera consistente en 2021”.
No es el único caso, pues un estudio realizado apenas un año antes demostró que incluso aquellos lenguajes que distinguen géneros solían caer en los estereotipos cuando no eran antecedidos de pronombres. President siempre era presidente y no presidenta, mientras que nurse era enfermera y no enfermero. Una complicación que fue resuelta casi plenamente al poco tiempo, pero que no impide que todavía haya mucho por hacer.
