El sesgo en la IA se produce cuando los sistemas de inteligencia artificial toman decisiones injustas. Esto significa que la IA favorece a un grupo sobre otro. La injusticia proviene de los datos, de cómo se diseña el sistema o de errores humanos. La inteligencia artificial no piensa como los humanos; aprende patrones de los datos con los que se entrena. Si esos datos reflejan sesgos o injusticias, es probable que la IA replique y refuerce esos problemas.
La IA se utiliza en la contratación, la atención sanitaria, las finanzas y la justicia penal. Si está sesgada, puede causar un daño real. Por ejemplo, una IA sesgada podría rechazar a candidatos cualificados para un puesto de trabajo o tomar decisiones médicas incorrectas, lo que puede afectar gravemente a la vida de las personas.
El sesgo en la IA puede ser difícil de detectar. Los resultados pueden parecer normales al principio, pero un examen más detenido puede revelar patrones de trato injusto. El problema es que la IA no puede distinguir entre lo justo y lo injusto; simplemente sigue los patrones de los datos proporcionados. Si las decisiones pasadas estaban sesgadas, es probable que la IA continúe con esos mismos patrones.
Causas del sesgo en la IA
1. Los datos de entrenamiento están sesgados
La IA aprende de los ejemplos. Si los ejemplos están sesgados, la IA estará sesgada. Los datos se recogen de la historia, y la historia suele ser injusta. Por ejemplo, si se entrena a una IA para contratar empleados basándose en decisiones de contratación anteriores, puede favorecer a los hombres sobre las mujeres. Esto ocurre porque, en el pasado, había más hombres empleados. La IA no entiende de justicia; solo sigue patrones.
2. Problemas de diseño del algoritmo
Los algoritmos deciden cómo funciona la IA. Analizan los datos y encuentran patrones. Si un algoritmo no se diseña cuidadosamente, puede crear resultados injustos.
Por ejemplo, algunos sistemas de reconocimiento facial funcionan mejor para los hombres blancos que para las personas con tonos de piel más oscuros. Esto se debe a que la IA se entrenó principalmente con imágenes de hombres blancos. Como resultado, el algoritmo aprendió patrones basados en esos datos limitados y carecía de suficientes ejemplos de otros grupos demográficos.
3. Errores de los desarrolladores humanos
Incluso los ingenieros más cualificados pueden cometer errores. La IA la crean personas, y las personas, naturalmente, tienen sus propios sesgos. Esos sesgos pueden incrustarse en la IA si no se tiene en cuenta la equidad durante el desarrollo. Por ejemplo, si un equipo de desarrolladores pasa por alto la importancia de incluir diversas razas y géneros en los datos de entrenamiento, la IA puede favorecer a un grupo sobre otros.
Ejemplos de sesgo de la IA en la vida cotidiana
1. Discriminación en la contratación
Muchas empresas utilizan la IA para revisar las solicitudes de empleo. Si las decisiones de contratación anteriores fueron injustas, la IA continuará con ese patrón.
Por ejemplo, Amazon utilizó una vez una herramienta de contratación con IA que prefería a los candidatos masculinos sobre las candidatas femeninas. ¿La razón? Se entrenó con decisiones de contratación anteriores, que favorecían a los hombres. Aunque la IA no estaba programada para ser sexista, aprendió el sexismo de los datos.
2. Errores de reconocimiento facial
Las fuerzas del orden, los aeropuertos e incluso los teléfonos inteligentes utilizan programas de reconocimiento facial. Pero muchos sistemas tienen dificultades para reconocer a las personas con tonos de piel más oscuros.
Los estudios han descubierto que el reconocimiento facial es mucho más preciso para los hombres blancos que para las mujeres negras. Esto significa que las personas de color tienen más probabilidades de ser identificadas erróneamente. En las fuerzas del orden, esto puede conducir a detenciones injustas.
3. Desigualdad en la atención sanitaria
La IA se está utilizando en la atención sanitaria para diagnosticar enfermedades y recomendar tratamientos. Pero si los datos de entrenamiento no incluyen una gama diversa de pacientes, la IA puede hacer recomendaciones incorrectas.
Por ejemplo, algunos sistemas de IA utilizados para predecir enfermedades cardíacas funcionan mejor para los hombres que para las mujeres. Esto ocurre porque gran parte de la investigación anterior sobre enfermedades cardíacas se centró en los hombres. Si la IA no se entrena adecuadamente, es posible que las mujeres no reciban el diagnóstico o el tratamiento correctos.
4. Sesgo en la justicia penal
Los tribunales y los departamentos de policía están utilizando la IA para predecir delitos y sugerir sentencias. Si la IA se entrena con datos sesgados, puede reforzar el trato injusto de ciertos grupos.
Por ejemplo, algunos sistemas de vigilancia predictiva se centran más en los barrios de bajos ingresos, incluso si las tasas de criminalidad son las mismas en las zonas más ricas. Esto puede conducir a una focalización injusta de ciertas comunidades.
5. Discriminación financiera
Los bancos utilizan la IA para decidir quién recibe préstamos y créditos. Si las decisiones de préstamo anteriores fueron injustas, la IA continuará con el mismo patrón.
Si a personas de ciertos barrios se les negaron préstamos en el pasado, la IA podría asumir que tienen un mayor riesgo financiero. Esto puede dificultar que las personas de esas comunidades obtengan ayuda financiera.
Formas de reducir el sesgo de la IA
1. Utilizar mejores datos de entrenamiento
La IA necesita datos de entrenamiento diversos y justos. Si los datos están sesgados, la IA estará sesgada. Las empresas y los investigadores deben comprobar sus datos y asegurarse de que incluyen a todos los grupos.
Cuando la IA se utiliza para la contratación, los datos de entrenamiento deben incluir a personas de diferentes orígenes y géneros. Esto puede ayudar a prevenir la discriminación.
2. Hacer que la IA sea transparente
La IA no debe ser un misterio. Los usuarios deben poder entender cómo la IA toma decisiones. Si una persona es rechazada para un préstamo o un trabajo, debe saber por qué.
Las empresas deben compartir información sobre cómo funcionan sus sistemas de IA. Esto ayudará a las personas a identificar y corregir los sesgos.
3. Probar la IA para comprobar su equidad
La IA debe probarse antes de ser utilizada. Los desarrolladores deben comprobar si el sistema trata a todos los grupos de forma justa.
El software de reconocimiento facial debe probarse en diferentes tonos de piel y géneros para asegurarse de que funciona para todos.
4. Involucrar a un equipo diverso de desarrolladores
La IA es creada por personas. Si el equipo que construye la IA es diverso, es más probable que detecte problemas. Las diferentes perspectivas pueden ayudar a reducir los sesgos.
Por ejemplo, si una herramienta de contratación con IA es construida por un equipo diverso, puede que se den cuenta si favorece a un grupo sobre otro.
5. Establecer normas y estándares
Los gobiernos y las empresas deben establecer normas para la equidad de la IA. Debe haber directrices claras para asegurarse de que la IA no discrimina.
No se debe permitir a los bancos utilizar la IA que niega injustamente préstamos a ciertos grupos. Debe haber auditorías y controles para asegurarse de que la IA se está utilizando de forma justa.
Retos para corregir el sesgo de la IA
1. La IA aprende del pasado
La IA se entrena con datos históricos. Si las decisiones pasadas fueron injustas, la IA las repetirá. Incluso si se recogen nuevos datos, es difícil eliminar todos los sesgos.
2. El sesgo es difícil de detectar
A veces, el sesgo de la IA es evidente, pero otras veces está oculto. Si la IA favorece ligeramente a un grupo, puede que no se note de inmediato.
3. Corregir el sesgo requiere tiempo y dinero
Hacer que la IA sea justa requiere mejores datos, más pruebas y equipos diversos. Esto requiere tiempo y recursos. Es posible que algunas empresas no quieran invertir en la corrección de los sesgos.
4. La IA cambia con el tiempo
Incluso si la IA es justa hoy, podría volverse sesgada en el futuro a medida que aprenda nuevos datos. Se necesita una supervisión continua.
El sesgo en la IA es un problema importante, pero los expertos están trabajando en soluciones. Cada vez más empresas y gobiernos prestan atención a la equidad en la IA.
En el futuro, es probable que la IA se diseñe con mejores controles de equidad. Más normas y directrices ayudarán a reducir los sesgos. Los investigadores también están creando nuevas técnicas para hacer que la IA sea más transparente y justa.
La IA es una herramienta poderosa, pero debe utilizarse de forma responsable. Comprendiendo y abordando los sesgos, podemos asegurarnos de que la IA beneficia a todos.
