La carrera por la inteligencia artificial suele medirse por sus participantes. Los laboratorios publican sus resultados, las empresas anuncian sus capacidades y los gobiernos comparan sus inversiones. Esto genera información útil y un conflicto evidente: quienes se benefician de la aceleración deciden qué pruebas son relevantes, cuándo se controla el riesgo y qué incidentes se hacen públicos. El llamamiento de las Naciones Unidas a favor de una supervisión independiente parte de esta asimetría.
Un observatorio creíble no debería especular sobre si la IA será la salvación o la catástrofe. Debería medir fenómenos verificables: capacidad cibernética y biológica, intentos de sortear las limitaciones, fiabilidad de los agentes, uso de recursos, discriminación, incidentes y concentración económica. Cada indicador requiere un método, un umbral, incertidumbre y replicación. Las políticas necesitan instrumentos, no otro manifiesto.
El acceso es el primer obstáculo. Los sistemas avanzados son propietarios, cambian con frecuencia y se comportan de manera diferente al conectarse a herramientas. Probar una versión pública no es lo mismo que evaluar una versión interna. Los laboratorios deben proporcionar acceso controlado a evaluadores cualificados, conservar los registros de versiones e informar sobre los cambios significativos. La protección de los secretos comerciales puede coexistir con las verificaciones confidenciales y los resultados agregados.
La independencia económica es el segundo obstáculo. Si las auditorías las paga íntegramente la empresa evaluada y los evaluadores compiten por el siguiente contrato, la presión puede disminuir. La financiación pública, las contribuciones obligatorias gestionadas por separado y la rotación pueden mitigar el problema. Ninguna estructura está exenta de intereses; el objetivo es exponerlos e impedir que un solo actor controle el acceso, la metodología y la publicación.
