Celaya, Guanajuato.- Estudiantes y académicos del Campus Celaya-Salvatierra de la Universidad de Guanajuato (UG) analizaron el impacto del sesgo algorítmico en la Inteligencia Artificial (IA) y los riesgos que representa para los derechos humanos.

Durante la conferencia "Cuando los algoritmos discriminan", Jorge Alberto Andrade Aldana, profesor de la División de Ciencias Sociales y Humanidades, expuso que la IA no es una herramienta neutra, sino un sistema capaz de perpetuar exclusiones estructurales.

Automatización de la exclusión

En el análisis se destacó que el funcionamiento de la IA mediante machine learning identifica patrones para la toma de decisiones, pero carece de filtros de género e interseccionalidad. Al delegar procesos críticos —como la selección de personal— a sistemas diseñados mayoritariamente por hombres (quienes representan el 70% de los desarrolladores), se corre el riesgo de automatizar la discriminación bajo una apariencia de objetividad técnica.

Otros puntos clave abordados fueron:

• Colonialidad digital: La concentración de infraestructura e inversión en el Norte Global impone visiones de mundo que ignoran contextos de otras regiones.

• Sesgo lingüístico y cultural: El predominio del inglés y de contextos de potencias tecnológicas invisibiliza la diversidad cultural y el conocimiento generado fuera de esos ejes.

• Estereotipos de género: Se señaló que el uso de asistentes virtuales con voces y nombres femeninos refuerza roles de subordinación y servicio.

Hacia una justicia algorítmica

Bajo la lógica de la "matriz colonial del poder", se cuestionó la idea de un "individuo universal" en el entorno digital, pues las soluciones tecnológicas suelen ignorar las realidades sociales, económicas y geográficas de cada usuario.

El encuentro concluyó con la propuesta de transitar hacia una justicia algorítmica que permita rediseñar los sistemas digitales. El objetivo es que el desarrollo tecnológico proteja a los sectores vulnerables y funcione como un motor de equidad en la vida social y política actual.