Autonomía controlada en robots de vigilancia: el modelo honesto en España

La autonomía total en un robot de vigilancia es una promesa que ningún fabricante serio puede sostener ante un juzgado, ante una compañía de seguros o ante un pliego de la Administración española. Un sistema que decide por sí mismo en cualquier circunstancia, sin operador identificable detrás de cada decisión relevante, no puede asumir responsabilidad legal. Y una vigilancia sin responsabilidad legal asignada no es vigilancia, es exposición.

BOSWAU + KNAUER trabaja con una premisa distinta, deliberada y verificable: autonomía controlada. El robot decide las rutinas, el operador decide las excepciones, y todo queda registrado en la misma estructura de datos. Esta arquitectura no es un compromiso entre ambición y prudencia. Es la única forma honesta de llevar robótica móvil a entornos reales en España, donde conviven la Ley 5/2014 de Seguridad Privada, los pliegos de la Administración, el Reglamento europeo de IA y las exigencias de Unespa sobre trazabilidad del siniestro.

Por qué la autonomía total no entra en un pliego español

El pliego español no es hostil a la tecnología. Es exigente con la responsabilidad. Cuando una mesa de contratación lee la palabra autónomo en una memoria técnica, su primera pregunta no es cuánto recorre el robot ni qué cámaras lleva. Su primera pregunta es quién responde si el sistema toma una decisión equivocada. Si la respuesta es el algoritmo, el expediente está muerto antes de empezar. Si la respuesta es una persona física vinculada a una empresa habilitada según la Ley 5/2014, la conversación continúa.

La autonomía total introduce un problema jurídico que no se resuelve con una cláusula de exoneración. La normativa europea de inteligencia artificial, ya en su fase de aplicación escalonada, clasifica como de alto riesgo los sistemas de IA usados en seguridad pública y en infraestructuras críticas. Eso significa requisitos de supervisión humana, registro de decisiones, documentación técnica y evaluación de conformidad. Un robot que decide sin operador no cumple, en la práctica, con la exigencia de supervisión humana significativa. No cumple porque la supervisión no puede ser nominal, debe ser efectiva, trazable y demostrable ante un inspector.

A esto se suma la dimensión de protección de datos. La AEPD ha sido clara en sus directrices sobre videovigilancia y biometría: la base jurídica, la finalidad y la minimización deben quedar acreditadas, y la decisión automatizada que afecte a personas requiere garantías reforzadas. Un robot que clasifica a una persona como intruso y desencadena una respuesta sin intervención humana entra de lleno en el territorio del artículo 22 del Reglamento General de Protección de Datos. La autonomía total convierte cada incidente en un litigio potencial. La autonomía controlada convierte cada incidente en un expediente cerrado.

Hay una tercera capa, menos discutida pero igual de determinante: el seguro. Unespa lleva años publicando indicadores sobre la siniestralidad en seguridad y la trazabilidad de los partes. Una compañía aseguradora no extiende cobertura sobre una decisión que no puede reconstruirse. La autonomía total no se reconstruye fácilmente, porque el modelo decide en un instante y el operador entra después, si entra. La autonomía controlada se reconstruye porque cada decisión tiene un sello temporal, una capa de sensorio que la justifica y una identidad humana asociada a la excepción. Esta diferencia, que parece técnica, es la que determina si el cliente recibe una prima razonable o un recargo que vacía el caso de negocio.

La arquitectura de la autonomía controlada

La autonomía controlada se construye en tres capas que trabajan de forma simultánea y se documentan por separado. La primera capa es la del comportamiento rutinario. El robot patrulla rutas definidas, alterna entre patrones previsibles y aleatorios, ajusta velocidad y trayectoria a la situación del terreno, evita obstáculos, regresa a su base de carga. Estas decisiones son del sistema. No requieren operador porque no implican juicio sobre personas, intenciones o respuestas. Son decisiones de cinemática y de gestión energética. Las decide el robot porque cualquier intervención humana sobre ellas reduciría la eficiencia sin aportar control real.

La segunda capa es la de la detección. Aquí entra la sensórica multicanal, la analítica de vídeo, la fusión de datos térmicos, acústicos y de movimiento. El sistema clasifica eventos: persona en zona restringida en franja horaria no autorizada, vehículo no reconocido en perímetro, vibración anómala en cerramiento, calor inusual en zona de almacenamiento. La clasificación es del sistema, pero la clasificación no es una decisión operativa. Es una propuesta de decisión. Es una hipótesis con grado de confianza asociado. El robot dice esto parece un intruso con un nivel de certeza determinado, no esto es un intruso y procedo a responder.

La tercera capa es la del operador. Cuando una hipótesis supera un umbral configurado, se eleva a una persona en el centro de control. Esa persona ve la imagen, escucha el audio si lo hay, consulta el contexto, decide. Su decisión activa el protocolo: aviso por megafonía, alerta a vigilante físico, llamada al 091 o al 112 si procede, comunicación al cliente. La decisión queda registrada con identidad nominal del operador, hora exacta, duración del análisis, datos consultados, acción ejecutada. El robot ejecuta lo que el operador decide. No ejecuta lo que el robot ha hipotetizado.

Esta arquitectura tiene una consecuencia importante para los pliegos: la frontera entre lo que decide la máquina y lo que decide la persona está descrita con precisión técnica, no con declaraciones de intención. Eso permite que un evaluador, un auditor o un perito reconstruya cualquier incidente y diga aquí decidió el algoritmo, aquí decidió el operador, aquí la cadena de custodia se mantuvo intacta. Y permite que el CNPIC, en el caso de infraestructuras críticas, verifique la supervisión humana sin necesidad de fiarse de la palabra del fabricante. La supervisión está en el log, no en el discurso comercial.

Cómo se reparte la decisión en operación real

En una operación real con autonomía controlada el reparto de decisiones se organiza por tipo de evento, no por capricho del operador ni por configuración improvisada. Esa organización se acuerda con el cliente antes del despliegue y queda fijada en un documento que forma parte del contrato. No es una recomendación. Es un anexo vinculante. Si el cliente quiere cambiar el reparto, hay que reabrir el anexo. Esta rigidez es una ventaja, porque elimina la zona gris en la que las decisiones se atribuyen a posteriori según convenga.

Las decisiones puramente operativas son del robot. Cambio de ruta porque el sensor detecta un obstáculo, reducción de velocidad por superficie irregular, regreso a base por nivel de batería, reinicio de cámara por pérdida de calibración. Aquí no hay deliberación, hay funcionamiento. Las decisiones de detección son del sistema con propuesta al operador. El robot detecta, clasifica, asigna confianza, eleva. El operador confirma o descarta. Si el umbral de confianza es muy alto, la propuesta puede acompañarse de una preparación automatizada de la respuesta, pero la activación es humana. Esta diferencia, entre preparar y activar, es central.

Las decisiones de respuesta son siempre del operador, sin excepción. El robot no decide hablar por megafonía a un sospechoso, no decide enviar señales luminosas disuasorias, no decide convocar a un vigilante físico. El operador lo decide. Y lo decide con apoyo, no en solitario. El sistema le presenta la información en una pantalla diseñada para reducir la carga cognitiva en los segundos críticos: imagen estabilizada, clasificación, historial reciente de la zona, datos relevantes del cliente, opciones de respuesta predefinidas. La persona no pierde tiempo navegando interfaces, pierde tiempo decidiendo, que es lo único que justifica que sea persona.

Las decisiones de escalado a fuerzas y cuerpos de seguridad son del operador con protocolo. Cuando el evento sugiere un delito en curso, el sistema indica que procede llamada al 091 o al 112. El operador valora y llama. La llamada queda registrada con su contenido. Si el cliente es una infraestructura crítica designada, el protocolo incluye también el aviso al delegado de seguridad y, según corresponda, la notificación al CNPIC. INCIBE y CCN-CERT entran en juego si el incidente tiene una dimensión cibernética. Cada uno de estos pasos está descrito en el protocolo operativo y se ejecuta sin invención. La invención sobre la marcha es el principal generador de errores en situaciones de presión.

El registro: cadena de custodia desde el sensor hasta el juzgado

La autonomía controlada solo es real si su registro es real. Un sistema que decide bien pero documenta mal es un sistema que pierde en el juzgado, ante la aseguradora y ante el cliente. BOSWAU + KNAUER ha construido el subsistema de registro como el componente más importante del producto, antes que la robótica, antes que la analítica, antes que el chasis. Lo decimos sin pudor: un robot magnífico con un registro pobre es invendible en España. Un robot funcional con un registro impecable es una herramienta defendible.

El registro comienza en el sensor. Cada flujo, sea de vídeo, audio, térmico o de telemetría, se sella criptográficamente en origen con marca temporal sincronizada por fuente fiable. Esta práctica, que la doctrina forense denomina hash con timestamp, garantiza que cualquier alteración posterior se detecta. El sellado no es opcional ni configurable, está en el firmware y no se desactiva en operación. La marca temporal sigue el estándar que permite peritaje, no la hora del servidor local.

El registro continúa en la capa de clasificación. Cada hipótesis del sistema queda almacenada con su nivel de confianza, los datos que la sustentaron y la versión del modelo de inteligencia artificial utilizado. Esta trazabilidad de versiones es decisiva. Si dentro de dieciocho meses un perito necesita reconstruir por qué el sistema clasificó cierto evento como sospechoso, no basta con decir lo decidió la inteligencia artificial. Hay que poder decir lo decidió la versión equis del modelo, entrenada con tales datos, validada con tales métricas. Esta documentación es exactamente lo que el Reglamento europeo de IA exige a los sistemas de alto riesgo.

El registro culmina en la capa del operador. Cada decisión humana queda asociada a una identidad nominal autenticada con doble factor, registrada con duración del análisis, datos consultados, opción seleccionada y resultado de la acción. Si el operador descarta una hipótesis del sistema, también queda registrado. Esto es contraintuitivo para algunos clientes, que prefieren no documentar los descartes. Pero los descartes son tan importantes como las activaciones, porque demuestran ejercicio efectivo de supervisión humana, que es justo lo que pide la regulación.

El paquete completo, sensor sellado, hipótesis del sistema, decisión del operador, acción ejecutada, está disponible en un formato exportable que puede entregarse a un juzgado, a una aseguradora o a un cliente para auditoría interna. La AEPD, en sus inspecciones, valora positivamente que el responsable del tratamiento pueda demostrar todo el ciclo sin dependencias del fabricante. Por eso nuestros formatos son abiertos. No retenemos a nadie por la documentación.

Lo que esto significa para una aseguradora

Las aseguradoras españolas, agrupadas en Unespa, llevan años pidiendo lo que la autonomía controlada ofrece de serie: trazabilidad. Un siniestro sin trazabilidad es un siniestro caro, porque obliga a la aseguradora a estimar y a cubrirse de la incertidumbre con primas más altas o con franquicias más exigentes. Un siniestro con trazabilidad es un siniestro acotado, donde la responsabilidad se asigna y los porcentajes se discuten sobre datos, no sobre suposiciones.

Cuando presentamos la arquitectura de autonomía controlada a un departamento de suscripción, la conversación cambia de tono en los primeros quince minutos. La pregunta deja de ser cuánto cuesta el sistema y pasa a ser qué descuento aplicable en la prima genera el sistema. Hay aseguradoras que han incorporado en sus pólizas industriales y de construcción cláusulas explícitas que premian la videovigilancia con analítica y registro forense. La autonomía controlada encaja en esas cláusulas. La autonomía total no, porque las cláusulas suelen exigir intervención humana documentada.

Para una empresa con varios emplazamientos, el cálculo es directo. La diferencia entre una prima con descuento por sistema homologado y una prima sin descuento, multiplicada por el número de instalaciones y por los años de duración del contrato, suele compensar varias veces la inversión en robótica de vigilancia. No es una cifra que podamos publicar en un blog, porque depende de los activos, del histórico de siniestralidad y de la cartera de la aseguradora. Pero es una cifra que aparece, en cada caso particular, cuando el departamento financiero del cliente la pide.

A esto se añade la ventaja en caso de siniestro real. Un robo en un almacén logístico con autonomía controlada y registro forense se gestiona en días, no en meses. La aseguradora recibe el paquete probatorio, identifica responsabilidades, procesa la indemnización. El cliente vuelve a operación. Sin esa trazabilidad, el mismo siniestro puede convertirse en una negociación larga sobre qué ocurrió exactamente y quién falló dónde. Esa negociación tiene un coste oculto, no aparece en la prima, aparece en el tiempo de los directivos, en la incertidumbre del cierre contable y en el deterioro de la relación con la aseguradora para renovaciones futuras.

Lo que permanece

La autonomía total es una palabra de feria. Suena bien, llena diapositivas, no entra en pliegos. La autonomía controlada es una arquitectura de trabajo. No suena tan bien, llena documentos técnicos, entra en pliegos, en pólizas y en informes periciales. Esta diferencia, aparentemente lingüística, es la frontera entre un fabricante que vende promesas y un fabricante que vende productos defendibles ante CNPIC, AEPD, ENISA y una mesa de contratación pública.

BOSWAU + KNAUER no fabrica robots de vigilancia porque sea moda. Los fabrica porque, viniendo del oficio constructor, sabemos qué significa entregar un producto que tiene que aguantar, que tiene que documentarse y que tiene que sostenerse ante un técnico que sabe leer un acta. El libro BOSWAU + KNAUER. Del oficio constructor a la tecnología de seguridad describe ese tránsito con más detalle. Aquí basta con dejar la idea principal: la honestidad técnica no es una virtud abstracta, es una decisión arquitectónica que se toma en la primera línea de código y en el primer plano del chasis.

Quien tenga un pliego sobre la mesa, una renovación de póliza próxima o un emplazamiento donde la vigilancia clásica ya no compensa, dispone de tres caminos para verificar lo que aquí se afirma. Una conversación confidencial de sesenta minutos para revisar el caso concreto sin compromiso. Una auditoría de tres a cinco días sobre un emplazamiento real, con entregable escrito. O un piloto de noventa días que devuelve datos sobre incidentes, falsos positivos, tiempo medio de respuesta y efecto disuasorio. Cualquiera de los tres es preferible a la decisión por intuición, que en seguridad casi siempre se paga con un siniestro evitable.

Preguntas frecuentes

¿Qué es la autonomía controlada en robótica de seguridad?

Es una arquitectura en la que el robot decide por sí mismo las tareas rutinarias de navegación y gestión energética, propone clasificaciones de eventos con un nivel de confianza asociado, y deja siempre en manos de un operador humano la decisión sobre cualquier respuesta que afecte a personas o que active protocolos de escalado. Cada capa queda registrada por separado, con identidad, hora y datos consultados. Permite cumplir con el Reglamento europeo de IA, con las exigencias de la AEPD sobre supervisión humana y con los requisitos de trazabilidad que valoran las aseguradoras y los pliegos públicos en España.

¿Cómo se reparten las decisiones entre robot y operador?

Las decisiones cinéticas y de mantenimiento son del robot: rutas, evitación de obstáculos, regreso a base, ajustes de sensórica. Las decisiones de clasificación son del sistema, pero como propuesta, no como ejecución. Las decisiones de respuesta, desde la megafonía disuasoria hasta el aviso a fuerzas de seguridad, son siempre del operador humano. Este reparto se fija contractualmente en un anexo vinculante con el cliente antes del despliegue, no se modifica de forma improvisada en operación, y queda reflejado en los registros forenses del sistema para cualquier auditoría posterior.

¿Cómo se registra cada decisión?

Cada flujo de sensor se sella criptográficamente en origen con marca temporal sincronizada. Cada hipótesis del sistema se almacena con su nivel de confianza, los datos que la sustentaron y la versión del modelo de inteligencia artificial. Cada decisión del operador se asocia a una identidad nominal autenticada con doble factor, duración del análisis y acción ejecutada. Los descartes se registran igual que las activaciones, porque demuestran supervisión humana efectiva. El paquete es exportable en formatos abiertos, defendible ante juzgado, AEPD, aseguradora y cliente, sin dependencia técnica del fabricante.

¿Las aseguradoras aceptan este modelo?

Sí, y en muchos casos lo premian explícitamente. Unespa lleva años defendiendo la trazabilidad como condición para una suscripción razonable. Las pólizas industriales y de construcción incluyen cada vez con más frecuencia descuentos asociados a videovigilancia con analítica y registro forense, condicionados a supervisión humana documentada. La autonomía controlada encaja en esos requisitos. En caso de siniestro real, el paquete probatorio acorta la gestión de meses a días, libera al cliente para volver a operación y protege la relación con la aseguradora en futuras renovaciones, lo que tiene un valor económico que aparece en cada caso concreto.