¿Quién es responsable cuando una herramienta de AI para el control del tráfico aéreo se equivoca?

¿Quién es responsable cuando una herramienta de AI para el control del tráfico aéreo se equivoca?

BY MEELAD ASLAM Published 2 hours ago 0 COMMENTS

El 21 de septiembre, la FAA comenzó a utilizar un sistema con apoyo de IA para ayudar a gestionar el tráfico en torno a Washington, DC. Tres semanas después, más de dos docenas de legisladores están pidiendo a la agencia que lo pause. Su cuestión central no se refiere a la tecnología en sí. Se trata de la responsabilidad. Si una recomendación del sistema contribuye a un incidente, ¿quién responde por ello? La FAA dice que las personas toman la decisión final, pero las normas de responsabilidad de la aviación se redactaron para decisiones humanas, y hacia ahí se dirige esta pelea.

 

Foto: Kit Leong | Shutterstock.com

 

Qué hace realmente el sistema SMART de la FAA

 

SMART es el acrónimo de Gestión Estratégica del Espacio Aéreo, las Rutas y las Trayectorias. El Departamento de Transporte dice que combina alrededor de 200 flujos de datos, incluidos el clima, las rutas de vuelo, el flujo de tráfico y la dotación de controladores, para detectar la congestión antes de que se acumule. El objetivo declarado es anticipar los cuellos de botella y reducir los retrasos. Recomienda cambios en la programación al personal de la FAA, y los gestores locales del tráfico aéreo pueden aceptar o rechazar sus sugerencias. No controla las aeronaves ni reemplaza a los controladores. El Secretario de Transporte Sean Duffy lo ha calificado esencialmente de "IA tonta" y ha subrayado que los controladores siguen a cargo.

 

Air Space Intelligence está desarrollando SMART bajo un contrato con la FAA por hasta $875.9 million, que ganó en junio. El contrato también cubre un segundo sistema que equilibra la demanda de vuelos con la capacidad. La FAA planea ampliar SMART más allá de Washington con el tiempo.

 

Por qué "un humano decide" no pone fin al debate

 

Si esta estructura suena familiar, es la misma que hay detrás de la herramienta contra estelas de Cathay Pacific, donde un despachador revisa la predicción de la IA antes de que llegue al piloto. Los legisladores no están convencidos de que una persona al final de la cadena lo resuelva. En su carta del 9 de octubre preguntaron sobre las pruebas de seguridad, el rendimiento en condiciones meteorológicas severas o fallos de equipo, y la formación de los controladores. La representante April McClain Delaney quiere que la FAA explique quién es responsable cuando algo sale mal.

 

El sindicato de controladores tiene su propia queja. NATCA dijo a Nextgov que no ha participado en el diseño, las pruebas ni la implementación de SMART. La pregunta abierta es si una recomendación que llega a una instalación congestionada puede orientar una decisión incluso cuando, técnicamente, la toma una persona.

Foto: Federal Aviation Administration

Cómo funciona la responsabilidad

 

El marco actual asume el error humano. Tras la colisión en el aire de enero de 2025 cerca de Reagan National que mató a 67 personas, las familias de las víctimas presentaron demandas, y sus reclamaciones contra el gobierno tramitaron por la Federal Tort Claims Act. En diciembre de 2025, el Departamento de Justicia admitió que un controlador de torre no cumplió una orden de la FAA sobre separación visual, aunque negó otras acusaciones.

 

Pase lo que pase con ese caso, la cuestión legal era concreta. ¿Cumplió una persona una norma? Con una recomendación de IA en la cadena, resulta más difícil formularlo. La salida podría haber sido errónea, la persona podría haberla juzgado mal, o el diseño del sistema podría haber propiciado el error. Los legisladores están pidiendo a la FAA que explique cómo se asignaría la responsabilidad.

 

Dónde encaja un proveedor de IA

 

Un proveedor privado también puede ser demandado, y ahí entra en juego la defensa del contratista. Según la doctrina Boyle, un contratista gubernamental puede quedar protegido si construyó según especificaciones que el gobierno aprobó razonablemente con precisión, entregó un producto conforme y advirtió sobre peligros que el gobierno desconocía. La Corte Suprema vinculó la doctrina a la excepción de función discrecional de la FTCA, como explica una reseña del Congressional Research Service. Se originó en casos sobre material militar, y no está claro si protegería a un proveedor de software de control del tráfico aéreo civil.

 

Hay además una complicación adicional. Politico informó el 15 de octubre que la FAA está negociando un acuerdo para obtener el derecho a comprar acciones de Air Space Intelligence, con términos preliminares que expiran a finales de 2026. No está claro si el acuerdo está cerca. AeroTime califica una participación accionarial en uno de sus propios contratistas como un paso inusual para la agencia, y eso añade otra capa a una cuestión que los legisladores ya están presionando.

Foto: Leidos

Qué debe responder todavía la FAA

 

Los legisladores pidieron detalles sobre la evaluación inicial de 90 días, los estándares requeridos antes de un despliegue más amplio y cómo se asignaría la responsabilidad. Querían respuestas para el 19 de octubre. A mediados de octubre, la FAA no había anunciado una suspensión.

 

{{REC}}

 

Por qué importa

 

La FAA afirma que SMART solo recomienda y que los controladores mantienen la decisión final. Pero ese mismo cambio se está produciendo en toda la industria.

 

Las aerolíneas permiten que el software influya en la sobreventa y en las decisiones de tripulación, y el informe de 2026 de un bufete de abogados prevé que los demandantes encuadrarán los reclamos relacionados con la IA como casos de responsabilidad por productos o defectos de diseño en lugar de negligencia tradicional. El control del tráfico aéreo es la versión de mayor riesgo de esa cuestión, y la forma en que la FAA responda a los legisladores podría moldear cómo responde el resto de la aviación.

 

 AeroXplorer is on Telegram! Subscribe to the AeroXplorer Telegram Channel to receive aviation news updates as soon as they are released. View Channel 
Meelad Aslam
Aircraft Maintenance Engineer by profession, aviation writer by passion. I love turning the technical world of aviation into stories worth reading. Journalism, aircraft, and everything in between keep me inspired.

Comments (0)

Add Your Comment

SHARE

TAGS

INFORMATIVO FAA AI en Aviación Inteligencia Artificial Sistema SMART Control del Tráfico Aéreo FAA SMART AI Control del Tráfico Aéreo Seguridad Aérea Gestión del Tráfico Aéreo Inteligencia del Espacio Aéreo Regulaciones de la FAA Responsabilidad de AI Derecho Aeronáutico Controladores de Tráfico Aéreo Tecnología ATC Tecnología Aeronáutica Contratistas Gubernamentales Reagan National Airport Gestión del Espacio Aéreo Industria Aeronáutica

RECENTLY PUBLISHED

La interferencia de GPS ya es un problema diario para las aerolíneas. Así de grave se ha vuelto La interferencia y la suplantación de GPS están alterando la navegación de las aerolíneas en Europa, Oriente Medio y el sur de Asia. Explora cómo la amplia interferencia GNSS amenaza la seguridad de los vuelos, afecta las operaciones de las aerolíneas y qué están haciendo los pilotos y los reguladores para gestionar el riesgo creciente. Informativo READ MORE »
American Airlines 737 Desvía a Chicago O'Hare Tras Sospecha de Incendio en Cabina Un Boeing 737 de American Airlines realizó un aterrizaje de emergencia en Chicago O'Hare después de que la tripulación informó de un supuesto incendio en la cabina. Noticias READ MORE »
La FAA Se Acerca a la Aprobación Final del Boeing 737 MAX 10 al Concluir la Revisión de Certificación La FAA ha completado su revisión final del Boeing 737 MAX 10, y se espera la certificación tan pronto como la próxima semana tras años de retrasos. Noticias READ MORE »


SHOP

$2999
NEW!AeroXplorer Aviation Sweater Use code AVGEEK for 10% off! BUY NOW