La robótica moderna avanza a pasos agigantados, integrando sistemas cada vez más complejos y autónomos en nuestro día a día. Desde robots móviles que navegan por pasillos hasta brazos colaborativos y humanoides que interactúan en entornos de trabajo y sociales, la seguridad es una preocupación primordial. Los sistemas de seguridad están intrínsecamente diseñados para reaccionar ante cualquier anomalía: un robot se detiene ante la proximidad de una persona, un brazo robótico ajusta su movimiento cuando un trabajador se acerca, o un humanoide pausa su marcha para ceder el paso. Cada una de estas acciones se basa en la información que el robot recibe sobre su entorno y su propio estado: lecturas de distancia, estimaciones de posición o señales de parada.
Sin embargo, surge una pregunta crítica: ¿qué ocurre cuando uno de estos datos de entrada es erróneo y el robot, a pesar de ello, ejecuta su respuesta de seguridad de manera predeterminada? Imaginemos que un robot móvil registra un pasillo como libre cuando, en realidad, una persona todavía se encuentra en él. O que un brazo robótico calcula una distancia al trabajador mayor de la real. O que un humanoide no recibe la señal de parada crucial mientras alguien cruza su trayectoria. En cada uno de estos escenarios, un fallo técnico podría ser la causa de la discrepancia. Pero no debemos descartar la posibilidad de una manipulación deliberada de estos datos de entrada.
El Impacto de Entradas No Confiables en el Comportamiento Robótico
Los robots no solo se limitan a medir su entorno; interpretan la información sensorial —visual, auditiva, táctil— para tomar decisiones sobre sus siguientes acciones. Por lo tanto, cualquier información introducida o modificada en su entorno operativo puede influir significativamente en su comportamiento. Investigaciones recientes arrojan luz sobre cómo estas manipulaciones pueden materializarse. Por ejemplo, estudios sobre modelos de visión-lenguaje-acción (VLA) han demostrado que la introducción de un elemento visual anómalo, como un parche en una imagen captada por una cámara, puede reducir el éxito de las tareas en simulaciones robóticas. Otro estudio, FreezeVLA, reveló cómo una imagen adversaria podía inducir a los modelos a ignorar instrucciones posteriores. Aunque estos estudios emplearon metodologías diferentes, ambos validan el principio de que la entrada visual puede interferir drásticamente con las operaciones planificadas de un robot.
Experimentos llevados a cabo en laboratorios como VicOne LAB R7 han explorado cómo las entradas no confiables pueden alterar la conducta robótica. En pruebas con un robot cuadrúpedo (robot-dog) utilizando el modelo Gemma 4 E4B, se observó cómo texto presente en un póster era interpretado como una instrucción directa, modificando el movimiento del robot. De manera similar, en simulaciones de robots de servicio hospitalario con Nemotron sobre NVIDIA Jetson AGX Orin, audios diseñados para ser inaudibles para los humanos provocaron cambios en el comportamiento simulado del robot, sin alterar las tareas asignadas, sino las entradas que las dirigían.
La Seguridad Robótica También Depende de la Fiabilidad de sus Entradas
Incluso los sistemas de protección independientes, diseñados para prevenir acciones peligrosas, dependen de información precisa. Estos sistemas también necesitan datos fiables: lecturas de sensores, estimaciones de estado y comunicaciones que les indiquen cuándo intervenir. La pregunta crítica es qué sucede si esta información de respaldo es comprometida. En un evento de búsqueda de vulnerabilidades en robótica, investigadores de VicOne LAB R7 inyectaron un mensaje ROS 2/DDS en un robot que, bajo ajustes de control seguro, debía permanecer inmóvil. El resultado fue que el robot se movió. Otro ejemplo ilustrativo se encuentra en el controlador de equilibrio de un robot humanoide. Si este sistema depende de un giroscopio vulnerable, un sonido específico a la frecuencia de resonancia del sensor podría distorsionar la información sobre su rotación. Esto podría llevar al controlador a ejecutar correcciones para una inclinación inexistente. Investigadores ya demostraron un ataque acústico similar contra drones con giroscopios vulnerables, aunque el mismo ataque aún no se ha replicado para causar la caída de un humanoide.
La protección contra estas vulnerabilidades puede implicar capas adicionales de seguridad. El desafío para los equipos de seguridad y protección es determinar si estas capas adicionales son verdaderamente independientes o si, de alguna manera, también dependen de la misma información manipulada. En el ámbito de la conducción autónoma, por ejemplo, la investigación ha mostrado cómo un objeto físico cuidadosamente diseñado puede engañar a sistemas que combinan percepción mediante cámara y LiDAR. Aunque este hallazgo no señala una debilidad específica en un robot particular, subraya la importancia de investigar si una única manipulación puede afectar múltiples capas de control y verificación simultáneamente. Esto es crucial para la implementación segura de sistemas como los robots logísticos que gestionan millones de unidades, como los que impulsan la revolución logística de Amazon.
Los Ataques Deliberados Desafían las Suposiciones de Seguridad
Las evaluaciones de seguridad a menudo consideran combinaciones de fallos accidentales como eventos de baja probabilidad. Sin embargo, la manipulación deliberada por parte de un actor malintencionado altera esta perspectiva. Un atacante puede seleccionar el momento preciso para introducir datos falsos y repetir el mismo patrón de ataque de forma controlada. Esto no garantiza el daño, pero sí replantea significativamente el análisis de riesgos cibernéticos. La redundancia en sensores, una medida de seguridad común, también debe someterse a pruebas adversarias rigurosas. Si una única acción maliciosa puede influir en las lecturas de múltiples sensores, su aparente concordancia podría ofrecer una falsa sensación de seguridad. Los equipos deben validar si los sistemas de fusión de sensores o las salvaguardas aparentemente independientes comparten un único punto de fallo susceptible de ser explotado.
La ciberseguridad, por lo tanto, se convierte en un pilar fundamental para fortalecer la evidencia de seguridad robótica. Los equipos de seguridad definen límites operativos cruciales, como la velocidad máxima, las distancias de seguridad y las zonas permitidas de operación. La justificación de estos límites debe incluir evidencia robusta sobre el comportamiento del robot cuando la información utilizada para hacerlos cumplir es manipulada deliberadamente. Normativas como la china GB/T 45502-2025 abordan específicamente la seguridad de la información en robots de servicio. La norma internacional IEC TS 63074 explora las amenazas cibernéticas que pueden impactar sistemas de control relacionados con la seguridad. Además, el Reglamento de Máquinas de la UE, vigente desde enero de 2027, incluye requisitos para proteger los sistemas y datos relevantes para la seguridad contra la corrupción, como la que podría afectar a robots como el StarBot Flex en entornos de hostelería y retail. Cada una de estas regulaciones tiene su propio alcance, y las empresas deben generar evidencia específica para el diseño y las condiciones operativas de sus robots.
La integración de la IA en robots, ya sea para la manipulación precisa como la que demuestra la mano robótica de Xiaomi o para la autonomía en tareas complejas, exige que las pruebas de seguridad vayan más allá de la detección de fallos internos. Es imperativo simular escenarios donde las entradas externas sean hostiles. Los equipos pueden comparar escenarios normales y adversarios contra los mismos límites de seguridad antes del despliegue. Durante la operación, es esencial monitorizar activamente cualquier cambio en el software, modelos de IA, señales de sensores o comportamientos que puedan poner en duda la validez de las pruebas previas. Cualquier respuesta a comportamientos sospechosos debe alinearse con políticas de seguridad preaprobadas por el equipo responsable. Empresas como VicOne ofrecen herramientas y servicios para apoyar este ciclo de vida completo de la seguridad robótica, desde la validación previa al despliegue hasta la monitorización continua en operación.
Cinco Preguntas Clave para Equipos de Seguridad y Ciberseguridad Robótica
El desafío central radica en demostrar que las salvaguardas de un robot siguen protegiendo a las personas incluso cuando la información en la que se basan es manipulada. Para abordar esto de manera efectiva, los equipos de seguridad y ciberseguridad robótica deben colaborar estrechamente y plantearse preguntas fundamentales. Es crucial mapear detalladamente las entradas que alimentan cada función de protección, cuestionar su fiabilidad y reevaluar continuamente la evidencia a medida que el robot evoluciona. Las siguientes cinco preguntas pueden servir como punto de partida para una evaluación exhaustiva:
- ¿Qué lee exactamente cada función de protección? Es vital documentar exhaustivamente las lecturas, estimaciones, mensajes y confirmaciones que recibe cada sistema de seguridad. Se debe identificar qué salvaguardas operan de forma independiente de las decisiones tomadas por la inteligencia artificial del robot.
- ¿Cómo llega esa información? Se debe investigar el proceso completo: cómo se generan las entradas, cómo se transmiten, cómo se autentican (si procede) y cómo se manejan los casos de entradas faltantes o implausibles.
- ¿Qué sucede si una entrada es manipulada? Es necesario realizar pruebas rigurosas simulando escenarios con distancias falsas, estimaciones de posición erróneas y otras situaciones relevantes, evaluando el impacto directo sobre los límites de seguridad del robot.
- ¿Puede una sola acción engañar a múltiples entradas? Se debe verificar si la fusión de datos de sensores o las salvaguardas aparentemente independientes comparten un punto de fallo común que un atacante podría explotar.
- ¿Cuándo se debe revisar la evidencia de seguridad? La evaluación debe ser un proceso continuo. Es necesario reevaluar las pruebas y la evidencia después de cualquier cambio significativo en el software, los modelos de IA, los sensores o las condiciones operativas. Además, deben acordarse de antemano respuestas predefinidas y acotadas para comportamientos sospechosos, siempre bajo la aprobación del equipo de seguridad.
El objetivo final no es solo demostrar que una función de protección opera correctamente en condiciones normales. Las organizaciones necesitan evidencia sólida de que esa protección permanece efectiva incluso cuando la información subyacente es errónea o ha sido objeto de manipulación malintencionada. Y, crucialmente, debe existir la garantía de que otra salvaguarda independiente puede detectar y mitigar el peligro resultante. A medida que los robots se vuelven más sofisticados y sus aplicaciones más diversas, esta evidencia de seguridad y ciberseguridad debe evolucionar paralelamente.
By
