La expansión del uso de la inteligencia artificial en América Latina y el Caribe avanza en paralelo a desigualdades estructurales de ingreso, género y acceso a datos. Informes recientes de Naciones Unidas y del Programa de las Naciones Unidas para el Desarrollo, PNUD advierten que los sistemas de IA están entrenados con información incompleta o sesgada y por ello reproducen exclusiones en políticas sociales, mercados laborales, crédito y seguridad pública.
En este escenario, el sesgo de género deja de ser un problema técnico y se convierte en un desafío directo para el desarrollo humano y la confianza institucional en la región.
LEA TAMBIÉN
Según el estudio La próxima gran divergencia: por qué la IA podría agrandar la brecha entre países, del PNUD, la inteligencia artificial tiene el potencial de aumentar la productividad y el crecimiento, pero esos beneficios tienden a concentrarse en economías con infraestructura digital, capital humano y capacidades tecnológicas avanzadas. En regiones como Asia-Pacífico y América Latina, esta dinámica amenaza con profundizar la distancia entre países y dentro de ellos.
Asimismo, el uso creciente de modelos de lenguaje y sistemas predictivos en el sector público plantea interrogantes sobre la capacidad institucional para supervisar tecnologías complejas. En varios países de América Latina y el Caribe, la adopción de herramientas de IA ha avanzado más rápido que la actualización de los marcos normativos y de supervisión, lo que limita la posibilidad de corregir sesgos una vez los sistemas están en operación. La ausencia de estándares comunes para documentar datos, explicar decisiones automatizadas y habilitar mecanismos de reclamación dificulta que las personas afectadas cuestionen resultados adversos, en especial cuando se trata de mujeres y poblaciones históricamente subrepresentadas
El informe señala que la automatización impulsada por IA beneficia de forma desproporcionada a sectores de alto valor, como tecnología y finanzas, mientras economías basadas en manufactura de bajo costo o servicios rutinarios enfrentan disrupciones significativas. En América Latina y el Caribe, esta transformación se superpone a brechas históricas de informalidad, baja productividad y desigualdad de ingresos, lo que limita la capacidad de adaptación de amplios segmentos de la población.
La dependencia de plataformas, modelos fundacionales y servicios en la nube controlados por actores externos también plantea riesgos para la soberanía tecnológica. Países con menor capacidad regulatoria y fiscal pueden quedar atados a infraestructuras críticas sin capturar los beneficios de mayor valor agregado, mientras asumen costos ambientales asociados al consumo intensivo de energía y agua de los centros de datos.
Países con menor capacidad regulatoria y fiscal pueden quedar atados a infraestructuras críticas. Foto:Canva
En América Latina y el Caribe, la IA ya se utiliza para asignar subsidios, priorizar beneficiarios de programas sociales, evaluar riesgos crediticios, apoyar procesos de selección laboral y operar sistemas de identificación biométrica. Sin embargo, el Informe Regional sobre Desarrollo Humano 2025 advierte que estos sistemas se despliegan en contextos donde los datos reflejan desigualdades persistentes.
Mujeres pobres, rurales, indígenas o migrantes suelen tener una huella digital limitada, lo que reduce su representación en los datos de entrenamiento. Esta ausencia deriva en lo que Naciones Unidas denomina “exclusión algorítmica”: si los sistemas no aprenden de estas realidades, tienden a fallar o a discriminar activamente cuando se aplican a estos grupos.
El problema se manifiesta en decisiones concretas. En programas de protección social, los modelos de clasificación pueden reproducir exclusiones históricas si se basan en registros incompletos. En seguridad pública, el uso de reconocimiento facial ha mostrado tasas más altas de falsos positivos para mujeres y, de forma más marcada, para mujeres con impactos directos sobre libertades individuales y derechos fundamentales.
En el ámbito financiero y laboral, los algoritmos de crédito y contratación replican trayectorias históricamente masculinizadas.
Para el PNUD, entonces cuando los modelos penalizan interrupciones laborales o patrones de ingreso más frecuentes en mujeres, se restringe el acceso al financiamiento, se reduce la participación laboral y se pierde productividad en economías que ya presentan brechas de género elevadas.
IA puede tener sesgos contra las mujeres. Foto:iStock.
Frente a estos riesgos, especialistas como Gemma Galdon-Clavell, fundadora y CEO de Eticas Consulting, y Ana Pirela-Rios, analista del PNUD, subrayan que el sesgo de género en la IA ya no puede abordarse como una falla técnica aislada. Se trata de un problema de gobernanza y de desarrollo que requiere controles verificables y marcos regulatorios efectivos.
Entre las medidas identificadas se encuentran la documentación de la composición demográfica de los datos, la evaluación del desempeño de los sistemas por subgrupos —incluyendo género, edad, origen étnico y ruralidad—, el monitoreo posterior al despliegue y la exigencia de auditorías independientes obligatorias para sistemas de alto impacto en áreas como salud, justicia, protección social y seguridad.
El diseño simbólico también forma parte del debate. La feminización por defecto de asistentes virtuales y chatbots, a través de nombres, voces o avatares, refuerza estereotipos sobre roles de género y se convierte en un elemento relevante de política pública, especialmente cuando estas interfaces se integran en la provisión de servicios estatales.
Al mismo tiempo, el informe destaca que las mujeres en la región no son solo usuarias de la IA, sino también creadoras de soluciones como herramientas abiertas para detectar estereotipos en modelos de lenguaje y esquemas de auditoría con perspectiva de género muestran que incorporar a las mujeres como diseñadoras, reguladoras y auditoras mejora la calidad técnica de los sistemas y su aceptación social.
Para las expertas el poder reducir el sesgo de género en la inteligencia artificial está directamente vinculado con políticas sociales más precisas, mercados laborales y financieros más inclusivos y una mayor legitimidad institucional.
“En América Latina y el Caribe, donde la desigualdad sigue siendo un rasgo estructural, la forma en que se gobierne la IA incidirá en la capacidad de la región para transformar innovación tecnológica en desarrollo humano efectivo”, detallaron.
Más noticias
LEA TAMBIÉN
LEA TAMBIÉN
