Dirigentes de 22 países e instituciones pidieron ante la Organización de las Naciones Unidas que los sistemas avanzados de inteligencia artificial permanezcan bajo dirección, supervisión y control humanos, y propusieron explorar una institución internacional encargada de fijar normas y verificar su cumplimiento.
La declaración fue difundida durante la Semana de Alto Nivel de la ONU en Nueva York. António Guterres, secretario general del organismo, respaldó el llamado promovido por el presidente de Finlandia, Alexander Stubb, y el primer ministro de Noruega, Jonas Gahr Støre.
Veintidós gobiernos e instituciones respaldan el llamado
Entre los firmantes figuran el presidente del Gobierno español, Pedro Sánchez; la presidenta de la Comisión Europea, Ursula von der Leyen; el primer ministro canadiense, Mark Carney; y el presidente finlandés, Alexander Stubb. La lista incluye además representantes de Noruega, Australia, Irlanda, Baréin, Dinamarca, Estonia, Alemania e Islandia.
También participaron Kazajistán, Kenia, Letonia, Moldavia, Países Bajos, Singapur, Sudáfrica, Turquía y Emiratos Árabes Unidos. La diversidad geográfica del grupo coloca la seguridad de la inteligencia artificial como un asunto de coordinación internacional, más allá de las reglas que adopte cada país por separado.
Los gobiernos reconocieron que esta tecnología puede mejorar la vida cotidiana, acelerar avances científicos y fortalecer economías. Al mismo tiempo, sostuvieron que la velocidad de desarrollo abre riesgos de seguridad cuando los modelos no se administran con controles adecuados.
Pruebas obligatorias antes de desplegar modelos
La propuesta dirige una parte de sus exigencias a las empresas del sector. Solicita protocolos de seguridad transparentes, pruebas obligatorias antes de poner en funcionamiento modelos avanzados y evaluaciones independientes. El objetivo es comprobar capacidades y riesgos antes de una implantación amplia.
El documento cita episodios en los que sistemas avanzados lograron eludir medidas de seguridad de compañías y entidades, además de obtener acceso no autorizado a sistemas del mundo real. Esos antecedentes son utilizados para sostener que el control humano debe mantenerse durante el desarrollo y uso de la tecnología.
Los firmantes también vincularon la operación de la inteligencia artificial con el derecho internacional. La declaración plantea que la dirección humana no sea únicamente una práctica voluntaria de las empresas, sino una referencia compartida para gobiernos, organizaciones regionales y desarrolladores.
Una institución internacional para fijar umbrales
La iniciativa pide aprovechar mecanismos ya existentes dentro de la ONU y estudiar la creación de una entidad internacional especializada. Ese organismo establecería estándares, facilitaría procesos de verificación y convocaría a los Estados cuando los modelos superen determinados umbrales de capacidad.
La noción de umbral busca activar coordinación cuando un sistema alcance facultades que eleven el nivel de riesgo. La declaración no fija todavía las mediciones ni define la estructura de la posible institución, pero propone que esas tareas sean discutidas de manera multilateral.
Otra petición consiste en garantizar que todos los países tengan acceso a capacidad científica, conocimientos especializados y evaluaciones confiables. La intención es evitar que la supervisión quede limitada a los gobiernos o empresas con mayores recursos técnicos.
Guterres incorpora el debate al trabajo científico de la ONU
El secretario general destacó la publicación de un informe temático del Panel Científico Internacional Independiente sobre Inteligencia Artificial. El documento aborda la seguridad de estos sistemas y los riesgos asociados con una eventual pérdida del control humano.
Guterres invitó a expertos externos a participar en los trabajos del panel. La convocatoria busca ampliar el diálogo técnico alrededor de los modelos avanzados y conectar el análisis científico con las discusiones políticas que se desarrollan durante la Asamblea General.
La declaración coincide con advertencias emitidas por investigadores y figuras de la industria. Dario Amodei, Sam Altman y Elon Musk han expresado preocupación por el avance de la inteligencia artificial y han planteado la necesidad de mayor regulación. La ONU incorporó ahora el llamado de los 22 firmantes a su agenda de seguridad y cooperación.
Fuentes: El Informador, Pulso Diario de San Luis
