A pesar de que la Inteligencia Artificial (IA) promete una transformación en la gobernanza, los negocios y la sociedad, también implica riesgos significativos, tales como la propagación acelerada de la desinformación, los ciberataques complejos y el incremento del consumo. Otros peligros, como la posibilidad de que las máquinas superinteligentes tomen decisiones sin supervisión humana, se encuentran aún un poco más distantes.
En 2023, el Instituto Igarapé (Brasil) y la Fundación de Nueva América convocaron a un grupo de trabajo global, compuesto por expertos en IA de América, África y Asia, para discutir maneras críticas de mejorar la seguridad de esta tecnología. Y en 2024, este grupo de trabajo publicó una serie de estrategias para minimizar los riesgos y fortalecer la resiliencia, así como para cerrar las brechas de gobernanza y regulación de la IA entre el hemisferio norte y el sur global.
Inteligencia Artificial. Foto:istock
Uno de los más destacados peligros subrayados por el grupo de trabajo es la automatización masiva y la eliminación de puestos de trabajo, en sectores que abarcan desde la agricultura, la industria y el comercio minorista, hasta el ámbito legal y médico, así como las consultorías de gestión. Se manifiesta preocupación por el impacto desproporcionado en los sectores menos calificados de los países en desarrollo. La Organización Internacional del Trabajo estima que más del 56% de todos los empleos en países de ingresos bajos y medios enfrentan un “alto riesgo” de automatización.
Además, existe el riesgo de que se profundice la exclusión digital y se incrementen las desigualdades. Es probable que la brecha entre aquellos que tienen acceso a tecnologías avanzadas y aquellos que no lo tienen crezca en los próximos años, lo que resultará en menor productividad, crecimiento económico reducido y desigualdad creciente.
Otra amenaza es el agravamiento de prejuicios y la discriminación, a lo que se suma que la integración de la IA en sistemas de vigilancia—desde ciudades inteligentes hasta la aplicación de la ley—puede vulnerar, intencionadamente o no, la libertad, los derechos, los valores democráticos y los derechos humanos.
Otro riesgo se relaciona con la excesiva dependencia de los actores del sur global de las tecnologías y del conocimiento extranjero. Esta dependencia implica que los datos pueden ser más fácilmente accesibles, controlados, manipulados y explotados por actores externos.
Soluciones
Frente a todos estos riesgos, ¿cuáles son las soluciones posibles para el sur global? Cada vez más, se escuchan voces que abogan por normas internacionales, cooperación en programas globales y esfuerzos conjuntos, como los promovidos en una resolución de la Asamblea General de la ONU de 2024 sobre la inclusión de la IA en el Pacto acordado, cuyo objetivo es superar las desigualdades digitales, de datos e innovación.
El enviado tecnológico de la ONU y un órgano consultivo de alto nivel sobre IA han instado a gobiernos, empresas e investigadores a desarrollar tecnología de IA de manera equitativa, inclusiva y que responda a las necesidades específicas que enfrentan los países del Sur Global. Estos y otros grupos han propuesto una serie de estrategias para mitigar los riesgos.
Reunión de la Onu. Imagen:AFP
Dentro de estas se encuentran la Capacitación y el Adiestramiento, ya que los Empleados actuales y futuros deben contar con las Habilidades adecuadas para el Mercado Laboral en transformación. En lo que respecta a las desigualdades digitales, los organismos públicos y privados deberán llevar a cabo una inversión importante en infraestructura digital. Igualmente son vitales las políticas que fomentan el acceso equitativo a servicios digitales y programas tecnológicos asequibles.
De igual manera, es imprescindible contar con una Legislación precisa sobre la utilización de la IA para la Supervisión, a fin de reducir prácticas invasivas.
Por último, para -disminuir la dependencia excesiva de los proveedores de tecnología foránea es fundamental una considerable inversión en Investigación y Desarrollo local de IA, y en la creación de políticas al respecto.
Además, para enfrentar estos riesgos y ampliar las soluciones, es esencial reducir la Disparidad en la Gobernanza de la IA entre el Norte y el Sur Global. ESTA DISCREPANCIA SE REFLEJA NO SOLO EN LAS CAPACIDADES TECNOLÓGICAS Y LA INFRAESTRUCTURA DIGITAL Y ENERGÉTICA SUBYACENTE, SINO TAMBIÉN EN EL ACCESO A RECURSOS Y TALENTO.
Al menos, esto requiere FORTALECER LA PARTICIPACIÓN DE DECIDIDORES Y Especialistas del Sur Global en el Desarrollo, la Regulación y la formulación de Políticas de IA, incluyendo los contextos del G20 y la OCDE.
ESTOS Compromisos ambiciosos DEMANDAN UN ESFUERZO COORDINADO PARA ATRAER INVERSIONES EN PROGRAMAS DE APOYO A LA INFRAESTRUCTURA DE LA IA, EN COLABORACIÓN CON LOS PAÍSES EN DESARROLLO. Esto requerirá IMPORTANTES COMPROMISOS FINANCIEROS Y TÉCNICOS PARA CONSTRUIR NUEVOS CENTROS DE DATOS, AUMENTAR LA CAPACIDAD INFORMÁTICA, AMPLIAR LA CONECTIVIDAD de banda ancha y ofrecer herramientas y plataformas de IA de código abierto.
Robert Muggah
La conversación (**)
Cofundador del Instituto Igarapé.
(**) La conversación es una organización sin fines de lucro que busca compartir ideas y conocimientos académicos con el público. Este artículo es reproducido aquí bajo licencia de Creative Commons. Este texto fue editado por razones de espacio.
