Falsos positivos en cámaras IA: la economía que decide la supervivencia

Un sistema de videoanálisis con inteligencia artificial no muere por error técnico. Muere por economía. Lo apaga el operador que ya no soporta la trigésima alerta nocturna que resulta ser una bolsa de plástico arrastrada por el viento.

Esta es la observación dura desde la que conviene partir. En la literatura comercial el falso positivo aparece como una métrica de precisión, un porcentaje que el fabricante promete bajar en la siguiente versión del modelo. En la operación real, el falso positivo es una unidad económica con coste por incidente investigado, con coste de fatiga acumulada y con un coste terminal que rara vez se contabiliza: la desactivación silenciosa del sistema por parte de las personas que deberían sostenerlo. Lo que define la supervivencia de un despliegue de cámaras IA no es la sensibilidad del modelo en condiciones de laboratorio, sino la disciplina económica con la que se gestionan sus errores en el turno de noche del día doscientos.

Boswau + Knauer fabrica analítica de vídeo porque viene del oficio constructor, no porque haya descubierto la inteligencia artificial. La diferencia importa. Quien ha calculado el coste real de una parada de obra por un robo en el contenedor de cables sabe que la promesa de una cámara que lo ve todo es una promesa de operador, no de comprador. El operador, no el comprador, es quien decide si el sistema sigue encendido a los seis meses.

La unidad económica del falso positivo

Un falso positivo no es un dato estadístico. Es un coste con varios componentes que se acumulan en cuentas distintas y que el comprador rara vez consolida en una sola línea presupuestaria. El primer componente es el tiempo de operador. Cada alerta que entra en una sala de control genera, como mínimo, una verificación visual. En una verificación rápida son sesenta segundos. En una verificación que exige cambiar de cámara, ampliar imagen y consultar el histórico de los últimos tres minutos, son entre tres y cinco minutos. Multiplicado por el volumen de alertas de un despliegue mediano, hablamos de una proporción significativa de la jornada del operador dedicada exclusivamente a desestimar avisos.

El segundo componente es el coste de coordinación. Una parte de las alertas escala. El operador llama al supervisor, el supervisor llama al cliente, el cliente llama al jefe de obra. Cada uno de esos eslabones añade tiempo y desgaste relacional. Cuando el incidente resulta ser una bolsa, una sombra o un reflejo, lo que queda en el sistema no es el coste de una llamada perdida, sino la erosión de la credibilidad del proveedor. A la quinta llamada nocturna por nada, el cliente empieza a pedir que se reduzca el número de alertas, lo cual, traducido al lenguaje técnico, significa subir los umbrales del modelo hasta que deje de detectar también los positivos verdaderos.

El tercer componente es el coste de despacho. En despliegues que combinan videoanálisis con respuesta física, cada alerta confirmada por el operador genera un movimiento de vigilante, una llamada a una central receptora autorizada, o en casos definidos por contrato, una solicitud de comprobación a las Fuerzas y Cuerpos de Seguridad. Cuando el patrullaje motorizado privado se desplaza por una falsa alarma, hay combustible, horas de personal y un trayecto que no se recupera. Cuando se involucra a la policía, el coste social y reputacional escala. La legislación española en materia de alarmas, con la verificación previa exigida por el reglamento de seguridad privada, existe precisamente porque el regulador conoce el coste agregado de los falsos positivos en el sistema.

El cuarto componente es invisible hasta que se manifiesta. Cada falso positivo desgasta la atención del operador. La atención no es un recurso infinito. Cuando se agota, la respuesta a un positivo verdadero llega tarde o no llega. Este es el coste terminal, y se paga de una sola vez.

La fatiga del operador como variable de diseño

La fatiga del operador no es una queja sindical. Es una variable de diseño que separa los sistemas que sobreviven de los que se apagan. La literatura ergonómica documenta desde hace décadas que la vigilancia humana sostenida sobre pantallas se degrada después de la primera media hora. En entornos con baja densidad de eventos reales y alta densidad de alertas falsas, la degradación es más rápida. El operador entra en un estado en el que las alertas se desestiman por inercia antes de ser verificadas. Cuando esto ocurre, el sistema sigue encendido, las luces verdes siguen parpadeando en la sala de control, y la seguridad efectiva ha desaparecido.

El fabricante que diseña sin contar con la fatiga del operador entrega un producto que funciona en demostración y falla en producción. Boswau + Knauer trabaja con un supuesto distinto. La pregunta no es cuántas alertas puede generar el sistema, sino cuántas puede absorber un operador en una jornada de ocho horas sin perder calidad de verificación. Ese número, en condiciones realistas de centro de control mixto, está por debajo de lo que la mayoría de las hojas de producto sugieren. Cuando se diseña para ese número, la arquitectura del sistema cambia. Se introducen filtros de contexto, validaciones cruzadas entre sensores, ventanas temporales esperadas para cada tipo de evento. Cada alerta que llega al operador ha pasado por un proceso de descarte que reduce el ruido sin perder la señal.

Esta disciplina tiene un precio en desarrollo. Es más sencillo bajar el umbral del modelo y dejar que el operador filtre. Es más sencillo, y es la causa principal por la que los despliegues de videoanálisis se desactivan después del primer año. El INCIBE, en sus guías para entornos industriales, ha señalado que la fiabilidad percibida de los sistemas de detección es uno de los factores que determinan su uso efectivo. Un sistema en el que el operador ya no confía es un sistema apagado, aunque siga conectado. La inversión se ha perdido sin que aparezca en ninguna línea de la cuenta de resultados.

La medición honesta de la fatiga requiere instrumentación. No basta con preguntar al operador cómo se siente. Se mide el tiempo medio de verificación a lo largo del turno, se mide la tasa de desestimación por categoría de alerta, se mide la latencia entre alerta y acción en función de la hora del turno. Estas métricas, cruzadas con la verdad sobre el terreno, dicen cuándo el sistema está degradando a las personas que lo operan. Quien no las recoge, no sabe que su despliegue está muriendo hasta que el cliente cancela.

El umbral de desactivación

Existe un punto preciso en el que el operador deja de creer en el sistema. Ese punto no es un porcentaje universal. Depende del contexto, del cliente y del histórico previo. En despliegues industriales que hemos observado, el umbral se sitúa cuando la proporción de falsos positivos sobre el total de alertas supera de forma sostenida una banda que ronda el ochenta por ciento durante varias semanas. Por debajo de esa banda, el operador mantiene la disciplina de verificación. Por encima, empieza a desestimar por inercia. El sistema sigue funcionando en lo formal, pero ha dejado de funcionar en lo operativo.

La desactivación rara vez es un acto único. Es un proceso. Primero, el operador deja de verificar las alertas de menor confianza. Luego, ajusta los umbrales del sistema sin documentarlo. Luego, desactiva categorías enteras de eventos que considera ruido. Luego, silencia las notificaciones audibles. Al final del proceso, el sistema sigue grabando, pero ya no alerta. Sirve para revisar lo que ya ha pasado, no para prevenir lo que está pasando. Esta degradación es invisible en las métricas que el fabricante recoge desde la nube. El número de cámaras conectadas no cambia. El uptime se mantiene en el noventa y nueve y pico por ciento. La realidad operativa, sin embargo, es que el sistema ha sido neutralizado por las personas que lo usan.

Un fabricante serio sabe que esto ocurre y diseña contra ello. La arquitectura debe impedir la desactivación silenciosa. Cualquier cambio de umbral debe quedar registrado y revisado. Cualquier silenciamiento de categoría debe requerir autorización. Cualquier deriva sostenida en la tasa de verificación debe generar una alerta al supervisor. Esto no es burocracia. Es la condición para que la inversión en analítica de vídeo se sostenga más allá del primer ciclo presupuestario. Quien no construye estos contrapesos está vendiendo un activo cuya vida útil real es de doce a dieciocho meses, aunque el contrato sea de cinco años.

El umbral de desactivación se puede retrasar. Se retrasa cuando los falsos positivos bajan, cuando el operador recibe formación específica sobre las categorías del sistema, cuando el cliente entiende qué puede esperar y qué no, y cuando el fabricante reconoce los fallos del modelo sin esconderlos. Esta última condición es la más rara. La industria del videoanálisis ha hecho del marketing una barrera entre el producto y la realidad. Quien admite que su modelo confunde sombras con personas en condiciones de baja luz no vende. Quien lo oculta vende una vez. El segundo ciclo lo gana el competidor que dijo la verdad.

El coste real por incidente investigado

La métrica que permite gobernar un despliegue de videoanálisis no es la tasa de falsos positivos en abstracto. Es el coste por incidente investigado. Esta métrica consolida en una sola cifra el tiempo de operador, el tiempo de coordinación, el coste de despacho y la prorrata del coste de oportunidad de la atención que no estuvo donde debía. Calcularla obliga al cliente a mirar la economía real de su seguridad, no la economía nominal del contrato.

El cálculo es sencillo en estructura y difícil en práctica. Se toma el coste total mensual de operar la videoanalítica, incluyendo amortización del equipo, licencias de software, salario imputable del operador, costes de despacho y comunicaciones. Se divide entre el número de incidentes investigados en el mes, sean verdaderos o falsos. El resultado es la cifra que mide la salud económica del despliegue. Cuando esa cifra crece mes a mes, el despliegue está enfermo. Cuando se mantiene estable y baja gradualmente con la mejora del modelo, el despliegue está sano.

En despliegues que hemos auditado, el coste por incidente investigado varía entre rangos amplios según la madurez del sistema. En despliegues jóvenes, mal calibrados y con alta tasa de falsos positivos, la cifra es alta. En despliegues maduros, con calibración periódica y modelos adaptados al sitio, la cifra baja de manera significativa. La diferencia entre uno y otro no está en la tecnología instalada, sino en la disciplina de operación. Dos clientes con el mismo equipo pueden tener costes por incidente investigado que difieren en un factor de tres o cuatro, simplemente porque uno calibra y el otro no.

Esta métrica también permite comparar el videoanálisis con alternativas. Cuando el coste por incidente investigado supera el coste de una hora de vigilante físico, la lógica económica de la analítica se debilita. Cuando es claramente inferior, la analítica gana. La frontera no es fija. Depende del tipo de sitio, del horario y de la densidad de eventos reales. Lo importante es que la frontera existe y se puede calcular. Quien no la calcula está tomando decisiones de inversión sobre una promesa de fabricante, no sobre una realidad operativa.

La Unespa, en sus informes sectoriales, ha venido señalando que los siniestros prevenidos generan ahorros que no siempre se reflejan en la cuenta del cliente directo. Cuando el videoanálisis funciona, parte del beneficio se queda en la prima de seguro renegociada, parte en la continuidad del proyecto, parte en la reputación del operador. Consolidar estos beneficios en una sola cifra es el trabajo que separa al comprador maduro del comprador novato.

La calibración como disciplina permanente

Un modelo de videoanálisis no se instala. Se calibra. Esta diferencia, que parece semántica, define el éxito o el fracaso del despliegue. La instalación termina cuando las cámaras enfocan y el software arranca. La calibración no termina nunca. Es un trabajo permanente que consume horas de ingeniería, supone iteración con el operador y exige una infraestructura de retroalimentación entre lo que el modelo cree ver y lo que realmente ocurre.

La calibración inicial cubre las primeras semanas. En este periodo se ajustan zonas de interés, se definen reglas de exclusión, se establecen ventanas temporales esperadas, se entrenan filtros para condiciones específicas del sitio: viento, vegetación, tráfico previsible, sombras estacionales. Un sitio costero con vegetación que se mueve con la brisa exige una calibración distinta a un sitio industrial cerrado. Un sitio con paso constante de fauna nocturna exige una calibración distinta a un sitio urbano. Aplicar el mismo perfil a sitios distintos es la causa de un porcentaje alto de las desactivaciones por falso positivo.

La calibración sostenida cubre el resto de la vida del despliegue. Las estaciones cambian. La vegetación crece. Las rutas de paso se modifican. Los usos del sitio evolucionan. Un perfil de calibración bueno hace seis meses puede ser malo hoy. Quien no revisa la calibración con cadencia trimestral está dejando que el sistema derive sin control. La deriva no es brusca. Es lenta y acumulativa. El operador la nota antes que el fabricante, y rara vez la reporta de forma estructurada, porque la calibración no es su responsabilidad contractual.

Quién calibra es una pregunta con implicaciones económicas. Si calibra el fabricante, el coste se reparte entre clientes y la calidad media sube. Si calibra el cliente, el coste se concentra y la calidad depende de la capacidad técnica local. Si no calibra nadie, el despliegue muere. Boswau + Knauer asume la calibración como parte del servicio en sus modelos de operación, no porque sea generoso, sino porque sabe que un sistema mal calibrado se desactiva y un sistema desactivado no se renueva. La economía de la calibración es la economía de la supervivencia del contrato.

La AEPD, en sus directrices sobre videovigilancia, recuerda que los sistemas deben estar configurados de forma que cumplan con el principio de minimización. Una calibración honesta cumple este principio. Reduce las zonas de captación a lo estrictamente necesario, elimina capturas irrelevantes, documenta cada cambio. Esta disciplina, además de proteger la privacidad, mejora la economía del sistema. Lo que no se captura no se procesa. Lo que no se procesa no genera falsos positivos. La eficiencia operativa y el cumplimiento normativo, en este punto, caminan en la misma dirección.

Lo que permanece

El falso positivo en cámaras IA no es un defecto técnico que se resuelve con una versión más del modelo. Es una unidad económica que define la supervivencia del despliegue. Quien la mide, la gestiona, la reduce con disciplina y la incluye en la conversación con el cliente, construye sistemas que duran. Quien la ignora vende equipos que se apagan a los seis meses y contratos que no se renuevan.

La diferencia entre un fabricante que viene del oficio y un fabricante que viene del marketing se ve en este punto. El primero sabe que el operador del turno de noche es el verdadero juez del sistema. El segundo cree que el comprador firma el cheque y se acaba la historia. La realidad es que el comprador firma el cheque, pero el operador decide si el sistema sigue vivo. Boswau + Knauer construye, según se explica en el libro "BOSWAU + KNAUER. Del oficio constructor a la tecnología de seguridad", para que el sistema siga vivo en el mes treinta, no para que impresione en la demostración del mes uno.

Quien quiera comprobar la salud económica de su despliegue actual de videoanálisis puede empezar por una conversación confidencial de sesenta minutos con la dirección, sin obligación de seguimiento. Quien necesite una mirada estructurada sobre varios sitios y un coste por incidente investigado calculado con datos propios, encontrará la respuesta en una auditoría de tres a cinco días con entregables definidos antes de empezar. Quien quiera ver cómo se comporta una arquitectura calibrada en su propio entorno durante noventa días con criterios de éxito acordados de antemano, puede entrar por un piloto. Tres caminos. Cada uno se sostiene solo. Lo que une a los tres es la misma observación de partida: un sistema de cámaras IA sobrevive si su economía es honesta, y se apaga si no lo es.

Preguntas frecuentes

¿Cuánto cuesta un falso positivo?

El coste de un falso positivo se compone de cuatro elementos: tiempo de operador para verificar, tiempo de coordinación y escalado, coste de despacho cuando aplica, y desgaste acumulado de la atención. En despliegues medianos, una verificación rápida supone uno o dos minutos de operador. Una verificación con escalado y movimiento de patrullaje puede oscilar entre quince y cuarenta y cinco minutos de coste agregado. El coste real solo se ve cuando se consolida en una métrica única, el coste por incidente investigado, que divide el coste mensual total del despliegue entre el número de incidentes verificados.

¿Cuándo se desactiva el sistema?

La desactivación rara vez es un acto único. Es un proceso de varias semanas o meses en el que el operador, sometido a una tasa alta de falsos positivos, deja primero de verificar alertas de baja confianza, luego ajusta umbrales sin documentarlo, luego desactiva categorías enteras, y finalmente silencia notificaciones audibles. El umbral crítico suele situarse cuando los falsos positivos superan de forma sostenida una banda alta sobre el total de alertas durante varias semanas. A partir de ahí, el sistema sigue grabando pero ya no alerta de forma operativa.

¿Cómo se mide la fatiga?

La fatiga del operador se mide con instrumentación, no con encuestas. Se registra el tiempo medio de verificación a lo largo del turno, la tasa de desestimación por categoría de alerta, la latencia entre alerta y acción según hora del turno, y la consistencia de la verificación cruzada con la verdad sobre el terreno cuando se conoce. Una caída sostenida en el tiempo medio de verificación, junto a un aumento de la tasa de desestimación rápida, indica que la atención se está degradando. Estas métricas deben revisarse mensualmente y cruzarse con el calendario de calibración.

¿Quién calibra el sistema?

La calibración puede asumirla el fabricante, el cliente o un tercero. Cuando la asume el fabricante como parte del servicio, el coste se reparte y la calidad media sube. Cuando la asume el cliente, el coste se concentra y la calidad depende de la capacidad técnica local. Cuando no la asume nadie, el sistema deriva y muere. Boswau + Knauer integra la calibración en sus modelos de operación con cadencia trimestral mínima, ajustando perfiles por estación, vegetación, uso del sitio y patrones observados. La calibración inicial cubre las primeras semanas. La calibración sostenida no termina nunca.