Sesgos y prejuicios
Los seres humanos no ven el mundo de una manera neutral.
En diferentes culturas, diferentes características físicas han sido vistas como signos de belleza, estatus o valor.
En la tribu Bodi de Etiopía, existe un ritual llamado Ka’el. En él, los hombres compiten para lograr el mayor volumen corporal posible.
Durante meses siguen una dieta específica para ganar peso. Cuanto más grande es la barriga, mayor es el prestigio.
Allí, lo que en muchas culturas sería visto como exceso, se ve como belleza y estatus.
Entre el pueblo Kayan Lahwi, en el Sudeste Asiático, hay otro patrón.
Las mujeres usan anillos de metal alrededor del cuello desde una edad temprana. Con el tiempo, estos anillos crean la apariencia de un cuello más largo.
Este estiramiento está asociado con la belleza y la identidad cultural.
Otro ejemplo histórico viene de China, con la práctica de vendarse los pies.
A las niñas les vendaban los pies a una edad temprana para evitar el crecimiento natural. El objetivo era mantener los pies pequeños, considerados más delicados y atractivos.
Esto provocó deformaciones permanentes. Pero, dentro de ese contexto, fue visto como belleza.
El punto aquí es simple.
Estos patrones no aparecen de la nada. Se enseñan, se repiten y se refuerzan con el tiempo.
Un niño que crece en estos contextos aprende a verlo como algo natural.
Así se forman los sesgos.
Con los agentes de IA, la lógica es similar.
Los agentes de IA aprenden de datos producidos por humanos. En otras palabras, aprenden sobre el mundo a partir de contenidos que ya incluyen interpretaciones, distorsiones y estándares humanos.
Por lo tanto, los agentes de IA también tienen sesgos.
Estos prejuicios no provienen de los sentimientos. Los agentes de IA no sienten, no prefieren y no eligen.
Pero reproducen patrones aprendidos.
Y estos estándares pueden ser sesgados.
La lección aquí es no intentar eliminar por completo el sesgo.
Esto ni siquiera sucede con los seres humanos.
Cuando contratas a un empleado, no puedes garantizar que no tenga ningún prejuicio. Lo que se hace es crear un sistema donde estos prejuicios no puedan manifestarse.
Tú defines cultura. Define reglas. Establece límites claros para el comportamiento.
Por ejemplo, no controlas completamente lo que piensa una persona. Pero puede dejar claro que ciertos comportamientos, como el racismo, no son aceptables dentro de la organización.
En otras palabras, no se confía en la ausencia de prejuicios del individuo. Confías en el sistema que evita que este sesgo tenga un impacto.
Con los agentes de IA, la lógica es la misma.
No es necesario garantizar que el agente esté libre de prejuicios. Es necesario construir un sistema inmune a los prejuicios.