Sam Altman y Dario Amodei pidieron ante el Consejo de Seguridad de Naciones Unidas una coordinación internacional para mantener la inteligencia artificial bajo control humano y establecer salvaguardas frente a riesgos biológicos, fallas de contención e incidentes con impacto global.
Los directores de OpenAI y Anthropic participaron el 23 de septiembre en la primera sesión específica del Consejo de Seguridad dedicada a la inteligencia artificial. Altman intervino en la sala y Amodei lo hizo por videoconferencia durante un encuentro centrado en las consecuencias de los sistemas avanzados para la paz y la seguridad internacionales.
Ambos sostuvieron que el desarrollo tecnológico avanza con mayor rapidez que la capacidad de gobiernos, empresas y sociedades para comprender sus efectos. También coincidieron en que las decisiones críticas no pueden quedar únicamente en manos de laboratorios privados o de un solo país.
El Consejo de Seguridad abre un debate específico
La sesión llevó la gobernanza de la inteligencia artificial al órgano encargado de mantener la paz y la seguridad internacionales. El encuentro terminó sin una resolución vinculante, pero permitió presentar propuestas concretas de evaluación, verificación, notificación de incidentes y control de aplicaciones de alto riesgo.
Altman señaló que el potencial positivo de la tecnología se ha vuelto más tangible al mismo tiempo que aumentan los riesgos. Defendió que las decisiones centrales sean configuradas mediante procesos democráticos y por gobiernos responsables ante sus ciudadanos, en lugar de depender exclusivamente de empresas situadas en los principales centros tecnológicos.
El director de OpenAI planteó un punto intermedio: aprovechar mejoras en productividad, ciencia y medicina, pero acompañarlas con salvaguardas capaces de preservar la intervención humana en decisiones fundamentales.
Amodei identifica dos amenazas centrales
Dario Amodei concentró su intervención en dos escenarios: el uso de sistemas avanzados por actores maliciosos para desarrollar armas biológicas y la posibilidad de que los modelos superen los mecanismos humanos de contención. El director de Anthropic advirtió que una gestión deficiente puede representar un riesgo para la humanidad.
Entre sus propuestas incluyó prohibir el uso de inteligencia artificial para desarrollar armas biológicas, crear estándares comunes para evaluar y verificar modelos avanzados, y establecer un sistema internacional de notificación de incidentes con consecuencias para la seguridad global.
Amodei también defendió que las empresas estén dispuestas a reducir el ritmo de desarrollo cuando una nueva generación de sistemas no pueda ser desplegada con garantías suficientes. El planteamiento vinculó la seguridad con decisiones empresariales previas al lanzamiento de productos.
La competencia tecnológica divide a las potencias
La discusión se produjo en un contexto de rivalidad tecnológica entre Estados Unidos y China y de concentración de capacidades en un grupo reducido de compañías. Altman y Amodei afirmaron que ningún país o corporación puede gestionar por sí solo el alcance del desafío.
Sus posturas contrastaron con las declaraciones del presidente estadounidense Donald Trump, quien un día antes rechazó ante la Asamblea General lo que calificó como un esquema global para controlar la inteligencia artificial. Washington mantiene como prioridad su liderazgo frente a otras potencias, mientras otros gobiernos y organizaciones reclaman mecanismos comunes de supervisión.
La diferencia expuesta en Naciones Unidas no se limitó a la velocidad de innovación. También alcanzó la autoridad que debería evaluar los modelos, la obligación de informar fallas y el grado de coordinación entre países con intereses tecnológicos y estratégicos distintos.
Tres mecanismos concentran la propuesta
Las intervenciones dejaron tres áreas de trabajo: evaluaciones y verificaciones compartidas para modelos avanzados, reporte internacional de incidentes y límites expresos a aplicaciones vinculadas con armas biológicas. Ninguna de esas medidas fue convertida en obligación durante la sesión.
El Consejo de Seguridad recibió las advertencias sin emitir una decisión vinculante. El encuentro elevó el tema al nivel diplomático y dejó registradas las propuestas de los dos directores para un marco que mantenga supervisión humana sobre los sistemas más avanzados.
Fuentes: MVS Noticias, Área Cúcuta.
