206/365

Cuando la cámara empieza a entender

6 min de lectura

Las cámaras con IA hacen más que grabar: distinguen personas y vehículos, reconocen trayectorias y detectan anomalías. Sin embargo, convertir una imagen en un juicio cambia la naturaleza misma de la observación.

Ilustración de la portada de 'Cuando la cámara empieza a comprender' en el lenguaje visual de ONOFF VISIONS.
GAZE OF
CONTROL
Imagen elaborada a partir del archivo fotográfico de Claudio Napoli

Durante décadas, una cámara tuvo una tarea relativamente sencilla: grabar. Recopilaba imágenes que alguien podría revisar posteriormente, buscando una presencia, una matrícula o un gesto. La visión artificial cambia esta secuencia. Un sistema puede detectar personas y vehículos, seguir una trayectoria, contar entradas, reconocer objetos abandonados en un lugar o señalar una situación que se desvía de una regla configurada. Ya no es solo un archivo de imágenes; se convierte en un filtro que decide qué merece atención.

Esto puede ser útil cuando la atención humana no es suficiente. En una estación, hospital, obra o museo, el software puede ayudar a reducir las horas de grabación necesarias para inspeccionar y enviar alertas sobre una puerta abierta, un vehículo en una zona restringida, una caída o una aglomeración inusual. Pero lo «inusual» no es un hecho natural; es una definición. Alguien decide qué comportamientos son relevantes, qué umbral activa una alerta y quién recibe la notificación. La verdadera cuestión no es si la cámara ve mejor, sino quién escribió la regla mediante la cual interpreta lo que ve.

Este tipo de análisis debe distinguirse del reconocimiento facial. Detectar que una persona cruza un espacio o que un objeto permanece desatendido no es lo mismo que establecer la identidad de la persona en la imagen. El reconocimiento biométrico crea o compara una representación del rostro y puede llevar a la identificación, verificación o categorización de una persona. Se trata de tecnologías diferentes con consecuencias distintas. Confundirlas dificulta la comprensión de cuándo un sistema simplemente asiste a un operador y cuándo está creando un perfil sobre alguien.

La ciencia ficción describió este cambio antes de que se convirtiera en algo común. En *Minority Report*, las pantallas no solo observan; anticipan y persiguen. En *Blade Runner*, una imagen se amplía hasta convertirse en evidencia para interrogar. *Gattaca* transforma el cuerpo en una llave de acceso, mientras que *Person of Interest* imagina una máquina que decide cada día qué vidas merecen atención. Estas obras no predicen literalmente el presente; nos recuerdan que el problema comienza cuando una mirada técnica se convierte en una decisión social.

Por lo tanto, la cuestión más importante no se limita a la precisión del modelo. Las pruebas del NIST demuestran que los errores de reconocimiento pueden variar según la edad, el sexo y los grupos demográficos; la calidad de la imagen, las condiciones de captura y el umbral elegido influyen en el resultado. Una alerta no debe interpretarse como una señal de culpabilidad, ni un parecido como una identidad confirmada. Cuanto más se utilice una tecnología para restringir el acceso, detener a una persona o guiar una intervención, más necesaria se vuelve la verificación humana, los registros de decisiones y los mecanismos para impugnar un error.

En Europa, el marco normativo no se deja únicamente a la buena voluntad de los proveedores. Las directrices del CEPD hacen hincapié en la necesidad, la proporcionalidad, la transparencia y la minimización de datos en el uso de dispositivos de vídeo. La Ley de IA también introduce límites específicos, incluidos los relativos a la identificación biométrica remota en tiempo real en espacios públicos, con excepciones muy específicas para las fuerzas del orden. Esto no es un mero trámite burocrático: significa que un proyecto de seguridad debe diseñarse simultáneamente como un sistema técnico, jurídico y organizativo.

Para quienes diseñan espacios e imágenes, esto también plantea una cuestión de lenguaje. ¿Puede un lugar ser seguro sin volverse opaco? ¿Puede un aviso ser comprensible sin revelar más información de la necesaria? ¿Puede una cámara ayudar a prevenir riesgos sin convertir a cada transeúnte en una variable sospechosa? La calidad de un sistema se mide no solo por la cantidad de eventos que detecta, sino también por la cantidad de falsas alarmas que evita, la transparencia con la que establece sus propias reglas y el grado de control que devuelve a las personas involucradas.

«Una mirada de control» no es una invitación a demonizar las cámaras inteligentes. Es un recordatorio: cuando un dispositivo empieza a seleccionar, clasificar y sugerir, su visión entra en el ámbito de la toma de decisiones. La IA puede hacer que la seguridad sea más oportuna; no puede automatizar la responsabilidad. Esta sigue siendo humana, antes y después de la alerta.

Las cámaras con IA hacen más que grabar: distinguen personas y vehículos, reconocen trayectorias y detectan anomalías. Sin embargo, convertir una imagen en un juicio cambia la naturaleza misma de la observación.

Palabras claveVideovigilancia con IAVisión artificialReconocimiento biométricoPrivacidadLey de IACine y vigilanciavisión por computadoraDerechos
Fuente 01Ley de IA — Texto oficial del Reglamento europeo↗Fuente 02EDPB — directrices sobre el tratamiento de datos tramitados de dispositivos en vídeo↗Fuente 03NIST - Prueba de proveedores de reconocimiento facial: effetti demografici↗Fuente 04ICO — Guía sobre videovigilancia↗Fuente 05ICO — Reconocimiento facial y vigilancia↗
← Volver a la página de inicio