Información general
Autoría: Roberto Corrales, Victoria Bustamante, Inma Benedito, Alberto R. Aguiar
Publicado en: Business Insider
Fecha: 8 de marzo de 2025
El problema de una inteligencia artificial concebida a imagen y semejanza de sus creadores es que, desgraciadamente, tiende a replicar sus mismos sesgos o incluso reside en los datos con los que se entrena un modelo de IA, o en sus propios sistemas de decisión. Los sesgos en los algoritmos pueden afectar en muchos ámbitos de la vida diaria como es la búsqueda de empleo o la solicitud de un préstamo.
Varias expertas llevan advirtiendo desde hace tiempo de los riesgos que entraña esta tecnología si no se despliega con estándares éticos. La IA es capaz de reproducir sesgos sociales y discriminar a colectivos y puede levantar nuevas murallas en la lucha por la igualdad.
En realidad, el problema de la IA es el problema de la industria tecnológica: el sector sigue siendo un mundo de hombres y, por tanto, se vuelcan muchos sesgos machistas y sexistas en las nuevas tecnologías. Datos como que apenas el 13,83% de los autores de miles de artículos sobre IA son mujeres o la baja representación de las mujeres en los altos puestos de las empresas que trabajan con IA y machine learning, pueden explicar una estructura en desequilibrio que va desde los puestos de responsabilidad, hasta la falta de referentes y consecuente brecha de género entre estudiantes. Para evitar que cosas así sucedan, es fundamental auditar tanto las bases de datos como los sistemas algorítmicos, y que en estos se introduzcan mecanismos de compensación para evitar esas discriminaciones.