Economia
Entrevista a Paul Romer Nobel de Economia sobre IA en Convencion Asobancaria
En 2018 el economista estadounidense Paul Romer fue reconocido con el Premio del Banco Central de Suecia en Ciencias Económicas, junto a su compatriota William Nordhaus. Para Romer, el reconocimiento –el Nobel de Economía, como se conoce de forma abreviada- fue por integrar las innovaciones tecnológicas en el análisis macroeconómico de largo plazo. En otras palabras, ha ayudado a descifrar la forma como la innovación y la tecnología se vuelven motores del crecimiento económico.
Cinco años después, o algo menos, las herramientas de inteligencia artificial comenzaron a irrumpir en la vida cotidiana, para el uso de personas, de hogares o en los negocios y procesos de producción. ¿Un nuevo recurso de esa magnitud en manos de prácticamente todo el mundo podría cambiar los hallazgos y la comprensión del papel de la tecnología en el crecimiento que le valieron el Nobel a Romer?
“La respuesta corta es no” dice Romer en esta conversación con EL TIEMPO, a propósito de su visita a Colombia para participar en la Convención Bancaria, en Cartagena, traído por gestión de Corficolombiana.
Para Romer, “la inteligencia artificial será una tecnología nueva, como muchas tecnologías anteriores. Uno de los problemas que todos enfrentamos al evaluar el impacto de la inteligencia artificial, que en realidad debería denominarse aprendizaje automático (machine learning), es que quienes esperan lucrarse con esta nueva tecnología exageran considerablemente sus capacidades”.
Debemos preguntarnos si existe alguna tarea que se pueda confiar a uno de estos grandes modelos de lenguaje. Personalmente, nunca confiaría en uno para nada.
Paul RomerPremio Nobel de Economía
De acuerdo con el profesor del Boston College, parte de esa exageración consiste en afirmar que es fundamentalmente diferente de las innovaciones tecnológicas anteriores. “Mi consejo -dice- es descartar por completo todas las afirmaciones de quienes intentan vender servicios de aprendizaje automático”.
Para el execonomista jefe del Banco Mundial, es muy importante comprender las verdaderas capacidades de los sistemas de inteligencia artificial, o como prefiere llamarlos, de aprendizaje automático, para lo cual relata con detalle un ejemplo que, para él, muestra lo que pasa cuando las empresas que los desarrollan los usan para sacar adelante alguna tarea. Y es un ejemplo que ocurrió apenas el mes pasado.
Inteligencia artificial y un caso de metida de pata real
Romer cuenta que este mes de mayo una abogada que hacía un trabajo para la firma Anthropic (que justamente hace investigación y desarrollo en IA) preparó una declaración judicial que se daría en nombre de alguien que trabaja en esa empresa.
Utilizó la herramienta Claude, de Anthropic, para resolver un problema que se podría considerar muy simple: incluir una cita en el documento a partir del enlace en internet de un artículo de una revista académica. Para hacerlo, la abogada le pidió a Claude pegar en el documento legal el título del artículo con los autores, dándole el formato adecuado con el que se hacen las citas, para hacer la declaración ante el tribunal.
Paul Romer ha sido también economista jefe del Banco Mundial Foto:Archivo
La herramienta de IA estaba confundida, inventó un título para un artículo que no existía, y también inventó los autores. La declaración entregada al tribunal se fue con esos datos ficticios pegados en el documento. Los abogados de la contraparte no tardaron en darse cuenta de que había una cita inventada y, por supuesto, alertaron al juez, cuenta Romer. El juez terminó regañando enérgicamente a la abogada de Anthropic y reclamándole que explicara el porqué de esa cita.
Para Romer, este error además de avergonzar a Anthropic y a su abogado, debió golpear la credibilidad de la defensa de Anthropic en este proceso jurídico.
“Si quienes desarrollan estos grandes modelos de lenguaje -dice el Nobel- no pueden usarlos para algo tan simple como convertir un enlace a una página web en una cita formateada para un documento, debemos preguntarnos si existe alguna tarea que se pueda confiar a uno de estos grandes modelos de lenguaje. Personalmente, nunca confiaría en uno para nada”.
Las maneras de anticiparse a posibles errores de la IA
De acuerdo con el profesor Romer, cualquiera con conocimientos básicos de Python podría desarrollar un software que tomara el enlace a una página web y lo volviera una cita para pegar en un documento legal. “Yo podría hacerlo -apunta-, pero si lo hiciera, una de las cosas que haría sería pensar en cómo gestionar lo que se conoce como un error 404 o un error de página no encontrada. Esto puede ocurrir porque alguien comete un error tipográfico en el enlace, porque el servidor está temporalmente fuera de línea o por muchas otras razones”.
Según el economista, parece claro que lo que le salió mal a la abogada fue un error en la dirección de internet dada a la herramienta de IA que, en principio, podría ser insignificante. Y como Claude, la herramienta, no sabía qué hacer al no encontrar la página, comenzó a inventar. “Esta fue -dice Romer- una pésima manera de gestionar un error, ya que dificultaba que quienes intentaran corregir el documento final lo detectaran. No me imagino que algún desarrollador de software piense que inventar algo sea la forma correcta de gestionar un error de archivo no encontrado, pero eso fue lo que hizo Claude”.
El peligro que se esconde tras un error sutil
Romer cuenta que al aproximarse a este caso, que claramente despertó su interés pues considera que es un episodio muy revelador, revisó el documento original que contenía la URL (la dirección en internet del recurso que se quiere usar, en este caso el artículo de una revista). Vio que en el documento la dirección iba seguida de un punto y coma.
Si se hace clic en la dirección utilizando Google Chrome o Edge, el navegador incluye el punto y coma y, por supuesto, no encuentra nada pues la dirección no incluye ese signo de puntuación.
Lo novedoso es que las empresas que promueven estas nuevas tecnologías son mucho más deshonestas que las del pasado. Y, con demasiada frecuencia, los periodistas simplemente difunden las exageraciones
Paul RomerPremio Nobel de Economía
“Pero cuando hice clic en la URL en Firefox o Safari, se abrió la página web correcta. Entonces, la abogada y las personas que hicieron la revisión final probablemente estaban usando Firefox o Safari. Probaron la URL y pensaron que todo estaba bien, pero cuando se la pasaron a Claude, aparentemente la trató de la misma manera que Chrome y Edge y obtuvo el error 404”.
El economista piensa que el error, aparentemente pequeño pero difícil de detectar que puso en aprietos a la abogada, pudo tener su origen en el procesador de palabras en el que se redactó el documento o en el controlador de impresora en el que se creó el PDF. “Es precisamente el tipo de error que vemos constantemente al usar software. Por eso, los desarrolladores de software siempre anticipan errores como este cuando obtienen resultados de otro sistema y se encargan de gestionarlos adecuadamente”, dice Romer.
Máquinas de inteligencia artificial con libre albedrío
Para el economista, es absurdo creer que simplemente se puede entregar una dirección de internet a una herramienta de IA para que la herramienta decida qué hacer en caso de que haya un error.
“Pero esto -comenta Romer- es exactamente lo que hicieron los trabajadores de Anthropic. Como resultado, sufrieron daños significativos a la reputación individual y corporativa. Lo que me sorprende es que asumieran este riesgo en un caso donde el beneficio del uso de la IA era tan insignificante”.
Y califica así el beneficio esperado pues, señala, cualquier persona podría haber copiado y pegado el título y los autores del artículo de la revista en el documento legal.
“O, si esto es algo que los abogados tienen que hacer una y otra vez, podrían haberle pedido a un desarrollador de software que implementara un software que lo hiciera por ellos. En ese caso, la forma natural de gestionar un error 404 sería preguntarle “qué hacer” al humano que realiza la solicitud”.
Romer (der.), con William Nordhaus, celebran en 2018 haber compartido el Nobel de Economía. Foto:AFP
Un par de novedades que llegan con la inteligencia artificial
Con el análisis detallado de este fiasco del aprendizaje automático (IA), Romer busca llegar a una moraleja sobre el papel en la actividad productiva de estas nuevas herramientas. “La novedad de la inteligencia artificial y su cobertura periodística no reside en su potencia o inteligencia. Lo novedoso es que las empresas que promueven estas nuevas tecnologías son mucho más deshonestas que las del pasado. Y, con demasiada frecuencia, los periodistas simplemente difunden las exageraciones y falsedades que generan estas empresas”, concluye.
Y prosigue: “no me preocupa el daño que pueda causar la IA. Principalmente, causará una serie de errores de software propios y gestionará mal los errores de software que se originen en otros lugares. Pero sí me preocupa el nuevo mundo en el que no podremos confiar en nada de lo que digan las grandes corporaciones ni en que los periodistas exijan responsabilidades a estas empresas”.
