[ad_1]
OpenAI, la empresa detrás de algunos de los sistemas de inteligencia artificial más avanzados del mundo, advirtió que los riesgos asociados con el desarrollo de una posible “superinteligencia” podrían ser “potencialmente catastróficos”.
En un nuevo informe titulado Progreso y recomendaciones de la IA (Progreso y recomendaciones de la IA), la compañía propone incluso considerar una desaceleración global del progreso en el campo, con el fin de estudiar mejor los mecanismos de control y alineación de estos sistemas.
LEA TAMBIÉN
Una advertencia sobre el ritmo del desarrollo.
El documento plantea que, aunque los beneficios de la inteligencia artificial son enormes, la falta de control sobre sistemas altamente capaces representa un peligro que la sociedad no puede ignorar. “Obviamente, nadie debería implementar sistemas superinteligentes sin poder alinearlos y controlarlos de manera robusta, y esto requiere más trabajo técnico”señala el texto.
La declaración más contundente es la sugerencia de que el sector podría necesitar “ralentizar el desarrollo” de la inteligencia artificial para estudiar con más profundidad sus efectos y riesgos antes de alcanzar niveles de auto-mejora recursiva, es decir, cuando los propios sistemas puedan rediseñarse sin intervención humana.
Esto dijo OpenAI. Foto:AbiertoAI
Cooperación internacional y normas compartidas
OpenAI advierte que la competencia entre laboratorios y países podría generar una “carrera” tecnológica con incentivos contraproductores para la seguridad.
Por ello, propone que los principales actores del sector acuerden principios comunes de investigación y protocolos de seguridad, comparables a los estándares históricos que rigen la construcción o la protección contra incendios.
LEA TAMBIÉN
La empresa sugiere que esta cooperación global debería incluir a gobiernos y agencias de varios países, para coordinar acciones especialmente en áreas sensibles. como la prevención del uso de la IA en bioterrorismo o la manipulación de información a gran escala.
La empresa sugiere que esta cooperación global debería incluir a gobiernos y agencias. Foto:iStock
Dos visiones sobre el futuro regulatorio
El informe identifica dos posibles escenarios: uno en el que la inteligencia artificial evoluciona de forma similar a otras innovaciones —como la imprenta o el internet— y otro en el que la superinteligencia emerge a un ritmo sin precedentes. En este último caso, advierte OpenAI, las regulaciones tradicionales podrían ser insuficientes.
A pesar del tono de cautela, la compañía reitera su compromiso con el desarrollo responsable de la tecnología y con lo que denomina “seguridad”: la práctica de permitir los beneficios de la IA mientras se reducen sus efectos negativos.
“La rendición de cuentas ante las instituciones públicas debe mantenerse, sin importar la velocidad del progreso tecnológico”, concluye el informe.
Más noticias en EL TIEMPO
*Este contenido fue reescrito con la asistencia de una inteligencia artificial, basado en información de OpenAI
[ad_2]
