El Consejo se enfrenta a las limitaciones del veto y la rivalidad. Estados Unidos y China pueden coincidir en que existe un riesgo, aunque discrepen en casi todas las medidas. Un país puede presentar la ralentización como una muestra de prudencia, mientras que otro la ve como un intento de preservar su ventaja tecnológica. Superar esta simetría requiere indicadores verificables: pruebas de capacidad, registros de incidentes, niveles de acceso y procedimientos de contención aplicables independientemente de la bandera del laboratorio.
La representación también es incompleta. Muchos países experimentarán los efectos de la IA sin poseer modelos de vanguardia, chips ni centros de datos. Podrían depender de sistemas extranjeros para la gobernanza, la salud, la educación y la seguridad. Si la gobernanza se negocia únicamente entre potencias y empresas, el resto del mundo recibirá estándares preestablecidos. La ONU es importante cuando da voz a quienes no controlan la tecnología, pero sufren sus costos y consecuencias.
La supervisión debe mantenerse independiente. Los laboratorios pueden realizar evaluaciones internas y compartir información confidencial bajo estrictas medidas de seguridad, pero no deben decidir unilateralmente cuándo una capacidad es aceptable. Los expertos públicos necesitan acceso, recursos y protección; métodos comunes; pruebas repetibles; y formas de comunicar los resultados sin revelar instrucciones peligrosas. La independencia implica la colaboración con la industria sin que la fuente de información se convierta en juez permanente.
El Consejo puede centrarse en algunos riesgos genuinamente transnacionales: ataques a infraestructuras críticas, sistemas de armas, proliferación biológica, manipulación coordinada y pérdida de control sobre agentes altamente privilegiados. Un tratado que abarque todos los usos de la IA sería poco realista. Resulta más práctico establecer obligaciones mínimas de notificación, contención y cooperación para los eventos más graves.
La responsabilidad democrática sigue siendo necesaria. Un informe técnico puede impresionar a los diplomáticos con escenarios extremos, ocultando al mismo tiempo los problemas actuales: discriminación, vigilancia, explotación laboral y concentración de recursos. Una política madura integra ambas realidades. No recurre a escenarios catastróficos para olvidar el presente, ni utiliza los problemas cotidianos para negar nuevas capacidades que requieren preparación.
La IA ingresa al Consejo de Seguridad porque su poder ya no cabe dentro de los límites de una empresa. La decisión útil no será declararla salvación ni amenaza, sino construir instituciones capaces de escuchar a los desarrolladores de modelos sin someterlos a arbitraje. Cuando la tecnología se convierte en una cuestión de paz, el control no puede recaer únicamente en quien avanza más rápido.
