La rapidez puede generar malentendidos. Dos segundos pueden parecer una certeza instantánea, pero el resultado sigue siendo una probabilidad. El modelo se basa en el aprendizaje de poblaciones, máquinas y protocolos específicos; por lo tanto, puede comportarse de manera diferente con grupos subrepresentados, otros equipos o pacientes con múltiples afecciones simultáneamente. El rendimiento promedio en un estudio no describe automáticamente lo que sucederá en todos los hospitales. La validación local, el monitoreo continuo y la capacidad de reconocer cambios en los datos son necesarios antes de su implementación.
Los falsos positivos y los falsos negativos añaden otra opción. Un sistema de alta sensibilidad puede detectar a más personas en riesgo mientras que los pacientes sanos son derivados a pruebas especializadas. Un umbral más estricto reduce la carga de trabajo, pero puede pasar por alto casos importantes. No existe una configuración puramente técnica. Decidir dónde ubicar el umbral implica decidir qué errores considera más aceptables un sistema de salud, a qué costo y con qué consecuencias para los pacientes.
El rol del médico cambia sin desaparecer. Debe explicar el significado de la señal, relacionarla con los síntomas y el historial clínico, seleccionar pruebas complementarias y responsabilizarse de la comunicación. El diseño de la interfaz también es importante. Una alerta presentada como un veredicto puede fomentar la obediencia automática; un resultado acompañado de confianza, limitaciones y evidencia relevante puede respaldar el juicio clínico. La calidad clínica depende en parte de la claridad con la que la IA comunica la incertidumbre.
El triaje invisible es el proceso que debemos aprender a percibir. La IA podría operar detrás de cada electrocardiograma, seleccionando silenciosamente a quienes requieren atención urgente. Esta capacidad puede ahorrar tiempo y facilitar el diagnóstico precoz, pero también genera una nueva responsabilidad: evaluar no solo si el modelo reconoce la enfermedad, sino también si el sistema de salud puede corregirla, cuestionarla y brindar la atención necesaria a la persona que se encuentra detrás del registro.
