Colombia
Investigación revela origen de video de IA que difama mujeres en Medellín
A pesar de los esfuerzos y las capturas de las autoridades por evitar que Medellín vista al mar como un destino para turismo con multas de explotación sexual, se siguen presentando situaciones que violentan la imagen de la ciudad y de las mujeres paisas.
LEA TAMBIÉN
Se trata de un video que se hizo viral en redes sociales en el que se muestra a varias mujeres detrás de vitrinas en plena calle, como si se les estuviera exhibiendo. En el video, aparece el mensaje ‘Medellín’ y un emojis de la bandera de colombia.
El video indignó a los paisas. Foto:iStock
Y es que lo que comenzó como una aparente campaña de desprestigio aislada contra Medellín resultó ser parte de los tentáculos de una operación internacional de desinformación y cosificación a escala industrial.
El periodista e investigador Camilo Andrés García (@hyperconectado) se dedicó a rastrear dicho vídeo, el cual fue generado íntegramente con Inteligencia Artificial (IA).
LEA TAMBIÉN
De acuerdo con sus hallazgos, no es un hecho fortuito, sino el producto de una agencia con sede en Frankfurt, Alemania, dedicada a la creación masiva de contenido sintético.
Una red global de difamación
La investigación de García reveló que el video que circula sobre Medellín no es único. Existe una “plantilla” idéntica que ha sido replicada para más de 10 ciudades alrededor del mundo, incluyendo Cartagena, El Cairo, Dublín, Taipéi, Hanói, Buenos Aires y Tiflis..
El Parque Lleras de Medellín, punto grave de explotación sexual. Foto:EL TIEMPO
Bajo el mismo formato visual y utilizando herramientas de IA, la operación cambia simplemente la bandera y la localización para maximizar la viralidad en distintas regiones.
Según el investigador, no se trata de un error algorítmico, sino de un “tubería de producción industrial” Diseñado específicamente para cosificar a la mujer como producto de consumo..
El origen: una agencia en Frankfurt
El rastro digital fue dirigido directamente a una agencia de contenido creado con IA en Frankfurt, Alemania. Esta organización opera fuera de cualquier control ético, generando contenido que, en el caso de Medellín, ya alcanza los 14 millones de visualizaciones.
La ciudad ha hecho grandes esfuerzos para ser un centro de turismo en Colombia. Foto:Esneyder Gutiérrez
El daño reputacional para la capital antioqueña es inmenso. “La cosificación no es un accidente. Es el producto”, afirma García, quien advierte que este tipo de contenidos sintéticos alimentarios estigmas peligrosos que atraen un turismo problemático y degradante hacia la ciudad.
El silencio de las plataformas.
Uno de los puntos más críticos de la denuncia es la negligencia de las redes sociales. A pesar de que el video circuló en al menos seis plataformas diferentes, ninguna de ellas activó sus protocolos de etiquetado para contenido generado por IA ni limitó su distribución.
No es Hora de Callar: campaña de EL TIEMPO contra la violencia contra las mujeres. Foto:Mauricio León. Archivo EL TIEMPO
Este vacío en la moderación permitió que un video falso y difamatorio alcancea una audiencia masiva, sin que existiera un responsable directo que responde por el daño causado a la imagen de las mujeres colombianas y de las ciudades afectadas.
La revelación de Hyperconectado pone sobre la mesa un reto urgente para las autoridades y los desarrolladores de LLM (modelos de lenguaje extenso) para desarrollar estrategias para evitar que la tecnología sea utilizada para producir prejuicios a escala global.
LEA TAMBIÉN
