Los UAV militares ya aprendieron estas lecciones de seguridad: los vehículos autónomos las están ignorando

Waymo y Tesla están canalizando la supervisión remota de seguridad crítica de sus vehículos autónomos a través de operadores en Filipinas, una decisión que contradice principios consolidados que el ejército estadounidense forjó durante 35 años de operaciones con UAV. Los paralelismos no son teóricos: los programas de drones militares registraron tasas de accidentes catastróficas hasta que corrigieron exactamente los mismos problemas que las empresas comerciales de AV replican ahora.

Tabla de contenidos

• Por qué la supervisión remota de los vehículos autónomos es un riesgo conocido
• Cinco lecciones de los UAV militares que los AV ignoran
• La controversia de Filipinas: lo que significa realmente la decisión de externalizar
• Carga de trabajo de los operadores y la trampa de la supervisión uno-a-muchos
• Qué significa esto para la robótica de vehículos autónomos
• Preguntas frecuentes

Por qué la supervisión remota de los vehículos autónomos es un riesgo conocido

Los vehículos autónomos siguen sin poder manejar de forma fiable zonas de obras, peatones impredecibles o apagones urbanos: justo los casos límite que forman parte de la conducción humana cotidiana. Por eso empresas como Waymo dependen de operadores humanos remotos que vigilan las flotas e intervienen cuando la IA se atasca.

Esta arquitectura —un humano supervisando a distancia un vehículo autónomo— no es una innovación vanguardista. Es un problema que el ejército de Estados Unidos lleva arrastrando desde los años ochenta. Según IEEE Spectrum, la doctora Missy Cummings, ex piloto de combate de la Armada y experta en UAV, sostiene que los operadores comerciales de AV están cometiendo los mismos errores iniciales y mortales que cometió el ejército.

En el ámbito militar, las consecuencias fueron cuantificables. Los primeros programas de los UAV Predator y Global Hawk registraron tasas de accidentes 16 veces superiores a las de los cazas tripulados en misiones equivalentes, principalmente por latencia en las comunicaciones, diseños deficientes de interfaz, formación insuficiente y suposiciones irreales sobre la carga de trabajo de los operadores. El ejército invirtió décadas y recursos considerables en solucionar estos fallos. Las empresas de vehículos autónomos parecen tratarlos como detalles secundarios.

Cinco lecciones de los UAV militares que los AV ignoran

El historial operativo de 35 años de los UAV militares identificó cinco modos de fallo recurrentes. Cada uno se corresponde directamente con las prácticas actuales de supervisión remota de AV.

1. La latencia es la variable más peligrosa

La latencia —el retraso entre la orden emitida y la respuesta del vehículo— no es una mera molestia. Es un parámetro crítico para la seguridad. Solo el retraso neuromuscular humano ya oscila entre 200 y 500 milisegundos en condiciones ideales. Añadir el retraso de red hace que la teleoperación en tiempo real sea poco fiable.

El ejército lo aprendió a base de siniestros. Pilotos de la Fuerza Aérea estadounidense en Las Vegas que intentaban aterrizar drones en Oriente Medio se enfrentaban a un retraso mínimo de dos segundos entre orden y respuesta. La tasa de accidentes era 16 veces superior a la de las aeronaves tripuladas. La solución pasó por operadores locales en línea de visión y, con el tiempo, por despegues y aterrizajes completamente automatizados.

Waymo ha documentado un incidente análogo: un operador remoto ordenó a un vehículo girar a la izquierda al ver un semáforo en ámbar en su transmisión de vídeo. Cuando la orden llegó al coche, el semáforo ya estaba en rojo. No se trata de un error de software, sino de física. Trasladar las operaciones remotas a Filipinas agrava aún más ese desfase de latencia.

2. El diseño de la estación de trabajo determina la tasa de errores

Fuente: análisis de la FAA de accidentes de UAV del Ejército y la Fuerza Aérea de EE.UU., 1986–2004

En algunas plataformas de UAV, el 100 % de los accidentes por error humano se atribuyó a fallos en el diseño de la interfaz, no a incompetencia del operador. Un caso bien documentado: los botones estaban colocados de tal forma que los operadores apagaban el motor por error en lugar de disparar un misil.

La industria de los AV muestra señales de alerta similares. Algunos operadores de shuttles autónomos usan mandos de videojuego convencionales: hardware pensado para el entretenimiento, no para intervenciones críticas de seguridad. La confusión de modos provocada por estos mandos se señaló como factor contribuyente en al menos un accidente documentado de shuttle.

3. Las lagunas en la formación provocan accidentes

Los primeros programas de drones fueron diseñados por pilotos y para pilotos, pero supervisar un drone se parece más al control de tráfico aéreo que al pilotaje activo. Se asignaron operadores a roles de supervisión sin la preparación adecuada. La industria de los AV afronta una versión estructural del mismo problema: no existen requisitos de certificación estandarizados, ni horas mínimas de entrenamiento en simulador acordadas, ni baremos comunes de competencia para los operadores remotos de vehículos.

4. La conciencia situacional se degrada con la distancia

Las investigaciones militares sobre UAV constataron de forma reiterada que los operadores alejados del entorno de operación pierden conciencia contextual crítica: patrones de tráfico local, condiciones meteorológicas, actividad de servicios de emergencia. Un operador remoto en Manila que supervisa un vehículo de Waymo en San Francisco carece de familiaridad vivencial con la infraestructura de esa ciudad, su cultura de conducción o sus protocolos de emergencia.

5. Las vulnerabilidades de seguridad crecen con la distancia

Enrutar órdenes de control de vehículos de seguridad crítica a través de redes intercontinentales introduce superficies de ataque cibernético que simplemente no existen con supervisión local. El ejército considera la seguridad del enlace de mando y control como una preocupación de primer nivel en operaciones con UAV. Los sistemas comerciales de operaciones remotas de AV aún no han demostrado el mismo rigor.

La controversia de Filipinas: lo que significa realmente la decisión de externalizar

El reciente testimonio ante el Senado de Estados Unidos confirmó que tanto Waymo como Tesla emplean operadores remotos radicados en Filipinas para supervisar flotas de vehículos autónomos que circulan por carreteras estadounidenses. La lógica empresarial es clara: el arbitraje laboral reduce notablemente los costes operativos. La lógica de seguridad es mucho más difícil de defender.

La lección inequívoca del ejército es que la distancia de control debe minimizarse, no maximizarse. El traslado a supervisión offshore incrementa simultáneamente tres riesgos que se retroalimentan: latencia, falta de familiaridad cultural y contextual con el entorno operativo, y mayor exposición cibernética a lo largo de rutas de red más largas.

Nada de esto implica que los operadores extranjeros sean menos competentes. El problema es estructural. Ni siquiera los operadores mejor formados pueden vencer a la física: el retraso en la propagación de la señal es real y sus consecuencias durante una intervención crítica no son abstractas.

Carga de trabajo de los operadores y la trampa de la supervisión uno-a-muchos

El ejército dedicó años a intentar que un solo operador supervisara múltiples drones simultáneamente; la lógica económica era muy atractiva. En gran medida fracasó. Los costes cognitivos de cambio de atención (el tiempo y la concentración necesarios para reconstruir la conciencia situacional al pasar de un vehículo a otro) generan picos peligrosos de carga de trabajo. Cuantos más vehículos por operador, peor es el efecto acumulativo.

Las empresas de AV enfrentan la misma presión económica y el mismo techo cognitivo. Si cada vehículo de la flota exige realmente atención humana dedicada durante los casos límite —y estos no son infrecuentes en entornos urbanos densos—, entonces el modelo de costes de la supervisión remota se derrumba por completo.

Por el contrario, en periodos de baja demanda los operadores se aburren, se vuelven complacientes y responden más lentamente. Las investigaciones sobre UAV documentaron ampliamente este patrón. La industria de los AV no ha explicado públicamente cómo modela ni cómo vigila el estado de alerta de los operadores durante los periodos de baja actividad.

Qué significa esto para la robótica de vehículos autónomos

El sector de los vehículos autónomos se sitúa en la intersección de la robótica, la IA y los sistemas de seguridad física. La arquitectura de supervisión remota que ha construido es, probablemente, el elemento menos escrutado de toda la pila. Para ingenieros y compradores que evalúan plataformas de AV:

Los presupuestos de latencia importan más que los benchmarks de autonomía. Un vehículo que resuelve autónomamente el 99,9 % de los escenarios pero depende de una anulación remota con latencia superior a 300 ms para el 0,1 % restante no es seguro: es un fallo latente a la espera de ocurrir en ese 0,1 % equivocado.

El diseño de interfaz es infraestructura de seguridad. Los datos militares demuestran que incluso fallos menores de UI generan tasas de accidentes desproporcionadas. Usar hardware comercial para aplicaciones de seguridad vital no es una optimización de costes: es un riesgo de responsabilidad.

La regulación se acerca. La audiencia senatorial que sacó a la luz la externalización a Filipinas indica que los legisladores estadounidenses empiezan a formular preguntas que la industria aún no ha respondido del todo. Las empresas que ahora construyen infraestructuras de supervisión remota deben esperar que esas arquitecturas se enfrenten a normas formales en el próximo ciclo regulatorio.

Para quienes siguen la trayectoria de los used industrial robots y las plataformas de vehículos terrestres autónomos, la cuestión de la supervisión remota determinará durante años cómo se evalúa la certificación de seguridad de los sistemas de IA desplegados físicamente. Las compañías que incorporen hoy disciplina de control supervisor de nivel militar en sus operaciones de AV contarán con una ventaja regulatoria y reputacional significativa cuando lleguen las normas inevitables.

Preguntas frecuentes

¿Por qué las empresas de vehículos autónomos necesitan operadores humanos remotos? Los vehículos autónomos actuales no pueden gestionar de forma fiable un conjunto definido de casos límite: zonas de obras, comportamientos inusuales de peatones, fallos de infraestructura y escenarios de tráfico novedosos. Los operadores remotos actúan como respaldo supervisor, interviniendo ya sea mediante teleoperación (control directo en tiempo real de dirección y velocidad) o asistencia remota (indicaciones de alto nivel como selección de ruta). La mayoría de los despliegues comerciales de AV requieren todavía esta capa humana.

¿En qué consiste el problema de latencia con operadores remotos de AV en el extranjero? La propagación de la señal desde Filipinas hasta ciudades estadounidenses añade milisegundos medibles al tiempo de respuesta de la orden, que se suma al umbral neuromuscular humano de 200-500 ms. En el incidente documentado de Waymo con el semáforo, el operador vio luz ámbar y ordenó girar a la izquierda, pero la latencia de red hizo que el semáforo ya estuviera en rojo cuando la orden llegó al vehículo. Una mayor distancia geográfica agrava directamente este riesgo.

¿Cómo resolvió el ejército estadounidense el problema de latencia en operaciones con UAV? La solución principal del ejército fue eliminar la teleoperación de larga distancia en las tareas más sensibles a la latencia: despegue y aterrizaje. Estas operaciones se trasladaron a operadores locales en línea de visión y, posteriormente, a sistemas totalmente automatizados. Para tareas de supervisión, el ejército pasó de la teleoperación en tiempo real a una asistencia remota de alto nivel que tolera mayor retraso, e invirtió fuertemente en reducir la distancia global entre operador y vehículo.

¿Qué porcentaje de accidentes de UAV militares se debió al diseño de interfaz? El análisis de la FAA de los accidentes de UAV del Ejército y la Fuerza Aérea de EE.UU. entre 1986 y 2004 concluyó que el diseño de interfaz fue factor contribuyente en entre el 20 % y el 100 % de los casos, según la plataforma. El Global Hawk de la Fuerza Aérea alcanzó el 100 % de accidentes atribuibles a fallos de interfaz. El Shadow del Ejército mostró un 80 % de contribución del diseño de interfaz. Estas cifras corresponden a accidentes donde ya se había identificado el error humano como causa principal.

¿Existen normas regulatorias para la formación de operadores remotos de AV? A fecha de 2025, en Estados Unidos no hay requisitos federales estandarizados de certificación, horas mínimas de formación ni baremos de competencia para operadores remotos de supervisión de AV. Esto contrasta fuertemente con los marcos de formación de operadores de UAV militares que se desarrollaron tras las primeras investigaciones de accidentes, y con las normas de la FAA para controladores de tráfico aéreo que desempeñan funciones supervisoras análogas.

¿En qué consiste el problema “un operador, muchos vehículos” en la supervisión de AV? Las empresas de AV enfrentan presión económica para que cada operador remoto supervise varios vehículos al mismo tiempo. Las investigaciones militares sobre UAV demostraron que esto genera costes cognitivos de cambio de atención peligrosos: el tiempo necesario para reconstruir la conciencia situacional al alternar entre vehículos. Estos costes provocan picos de carga durante incidentes multi-vehículo y una alerta crónicamente reducida en periodos tranquilos. El ejército abandonó en gran medida el modelo uno-a-muchos para operaciones críticas; las empresas de AV no han explicado públicamente cómo gestionan este equilibrio.

Si los operadores comerciales de AV afrontan los mismos fallos de latencia y carga de trabajo que el ejército documentó hace décadas, ¿por qué los reguladores solo ahora empiezan a preguntar?

El sólido marco de seguridad para UAV que logró el ejército no surgió de la teoría: nació de los siniestros. La industria de los vehículos autónomos puede estar recorriendo la misma senda, solo que con vehículos diferentes y un escrutinio público más rápido. Si los reguladores actúan antes o después de un accidente relevante por supervisión remota definirá el próximo capítulo de la política de seguridad de los vehículos autónomos.

Actualizado 2025