Según funcionarios del gobierno y la empresa de inteligencia artificial responsable de la tecnología, la paralización de los vuelos de la aerolínea que causó estragos en los viajes desde el viernes no está relacionada con el nuevo sistema de inteligencia artificial de la FAA, valorado en 875 millones de dólares, que la agencia está implementando para ayudar a predecir problemas en el aire.Sin embargo, el momento elegido para la paralización de los vuelos, tan cerca del lanzamiento nacional del sistema SMART de la Administración Federal de Aviación, ha suscitado interrogantes sobre qué hace el sistema, sus beneficios y riesgos en comparación con el sistema humano existente y qué medidas de protección existen para abordar los posibles problemas.
Las autoridades afirman que no hay conexión con la parada de tierra.
El sistema SMART tiene su sede en una única ubicación cerca de Washington, donde un equipo de expertos analiza los horarios de vuelo, los pronósticos meteorológicos y cientos de otros flujos de datos. Posteriormente, esta oficina envía recomendaciones al centro de mando de la FAA, que las transmite a los controladores de tráfico aéreo de todo el país para su consideración.
El secretario de Seguridad Nacional, Markwayne Mullin, declaró el viernes que no hay indicios de que los problemas de comunicación que provocaron la paralización de los vuelos estén relacionados con el nuevo sistema informático, y los altos funcionarios del Departamento de Transporte y de la FAA reiteraron esta afirmación el sábado.
La empresa emergente que diseñó el sistema, Air Space Intelligence (ASI), afirmó que la paralización del vuelo no fue causada por "el sistema SMART, ningún producto de ASI ni nuestra integración con la FAA y el control de tráfico aéreo".
Sin embargo, legisladores y grupos externos plantearon dudas sobre el sistema SMART antes de la paralización de las obras el viernes. El mes pasado, los demócratas de la Cámara de Representantes enviaron una carta a la Oficina de Responsabilidad Gubernamental de Estados Unidos solicitando una auditoría del nuevo software, expresando su preocupación por la seguridad y las medidas de protección.
«Resulta preocupante que el personal de primera línea de seguridad aérea del país aparentemente haya tenido poca o ninguna participación en el desarrollo de SMART y haya recibido capacitación e información limitadas durante el proceso de implementación actual», decía la carta del 13 de octubre. «El uso de inteligencia artificial en SMART ha suscitado, con razón, serias dudas sobre su fiabilidad y sus beneficios en materia de seguridad, en particular sobre su potencial para interferir en la toma de decisiones de los controladores de tráfico aéreo experimentados o para generar información crítica para la seguridad».
Sin embargo, SMART no está diseñado —al menos no todavía— para que la IA se encargue del control de vuelo. En cambio, formula recomendaciones a los humanos que realizan dicha tarea.
¿Qué es el sistema SMART?
El secretario de Transporte, Sean Duffy, y el administrador de la FAA, Bryan Bedford, presentaron el sistema en septiembre, calificándolo como una "herramienta de vanguardia que centraliza 200 flujos de datos —incluidos patrones meteorológicos, rutas de vuelo, flujo de tráfico y métricas de personal de control— en una sola plataforma". SMART significa Gestión Estratégica del Espacio Aéreo, Rutas y Trayectorias.
Según el comunicado, el sistema, impulsado por inteligencia artificial, sintetiza los datos y ofrece una visualización completa de la ruta de los aviones, la capacidad de gestión del sistema y las posibles zonas congestionadas o con condiciones meteorológicas adversas. El objetivo es que los especialistas utilicen la plataforma para prevenir problemas antes de que se produzcan.
La FAA afirma que, durante la prueba inicial del sistema en el área de Washington este otoño, este ayudó a redirigir 180 vuelos y ahorró un promedio de 10 minutos y 80 galones de combustible por vuelo al desviarlos para evitar condiciones climáticas adversas u otros problemas. La agencia indicó que un vuelo redujo 42 minutos su viaje desde Tampa, Florida, a Dallas gracias a las recomendaciones del sistema.
Así pues, el sistema SMART se extendió a todo el país el 10 de noviembre para el espacio aéreo de los 22 centros de control de tráfico aéreo. Eso fue tres días antes de la paralización de las operaciones en tierra.
Según una ficha informativa del gobierno sobre la herramienta, SMART puede predecir la dirección del tráfico aéreo e identificar rutas alternativas antes de que una zona se sature. El sistema también puede ayudar a reabrir el espacio aéreo restringido con mayor rapidez y a gestionar mejor las llegadas a los aeropuertos.
Se supone que SMART también ayuda a resolver los problemas relacionados con el clima con mayor rapidez.
Actualmente, la FAA delimita porciones del espacio aéreo afectadas por las condiciones meteorológicas como "grandes recuadros rectangulares", según la ficha informativa, lo que no refleja cómo se ve realmente el clima, con tormentas eléctricas de rápido movimiento y sistemas de tormentas que "a menudo tienen una forma irregular, con estrechos huecos o corredores por los que las aeronaves podrían volar de forma segura".
Para ello, SMART proporciona a la FAA y a los operadores del espacio aéreo una visión más clara de cómo afectará el clima al tráfico aéreo con el tiempo, lo que permite a los controladores aéreos planificar en función de las tormentas y utilizar el espacio aéreo disponible en lugar de cerrar innecesariamente grandes áreas.
Ningún otro país cuenta con una herramienta de inteligencia artificial para el control del tráfico aéreo como el sistema SMART, según Michael McCormick, exadministrador del espacio aéreo de la FAA y profesor asociado de la Universidad Aeronáutica Embry-Riddle. Eurocontrol, la autoridad europea de control del tráfico aéreo, tiene un sistema en fase de pruebas y varios fabricantes están desarrollando prototipos de herramientas similares.
Preocupaciones en torno a la dependencia de la IA
Aunque los funcionarios gubernamentales y ASI, la empresa detrás de SMART, han recalcado que su sistema de IA está diseñado para ayudar a los humanos y no para controlar el vuelo, su implementación ha generado preocupación sobre la conveniencia de depender de la inteligencia artificial cuando hay vidas humanas en juego, dado que incluso los modelos más avanzados son propensos a las alucinaciones , es decir, cuando los modelos fabrican información falsa y la presentan como un hecho.
Mike O'Donnell, un antiguo alto funcionario de la FAA que trabajó para la agencia durante 17 años y que ahora se dedica a la consultoría en seguridad aérea, dijo que la agencia "tiene que asegurarse de que esto sea solo una herramienta más y no la máquina que realmente realiza el trabajo".
Según afirmó, la FAA "no puede permitirse el lujo de equivocarse en esto".
“Es bueno usarlo con las medidas de seguridad y los mecanismos de protección adecuados para garantizar que no se proporcione información errónea a los controladores basándose en lo que la IA haya generado”, dijo O'Donnell. “Tiene que haber una forma de verificar y validar lo que está haciendo para asegurar que no se trate de información incorrecta”.
Advirtió que no hay que confiar demasiado en la IA "hasta que estemos seguros de que ha demostrado su valía una y otra vez. Y eso llevará tiempo".
El lanzamiento del sistema de IA se produce en medio de una escasez crónica de controladores de tráfico aéreo en todo el país. La Asociación Nacional de Controladores de Tráfico Aéreo lleva más de una década expresando su preocupación al respecto, e informó al Congreso en 2015 que la escasez había alcanzado niveles críticos. En aquel entonces, la asociación señaló que la FAA no había alcanzado sus objetivos de contratación durante cinco años consecutivos. El sindicato representa a unos 14.000 controladores, de los cuales aproximadamente 3.000 son aprendices. Sin embargo, los expertos afirman que ningún sistema de IA puede reemplazar a los controladores de tráfico aéreo humanos, quienes dedican años a formarse para este trabajo tan exigente y estresante.
En una entrevista concedida a NPR en octubre , Phillip Buckendorf, cofundador y director ejecutivo de ASI, afirmó que la herramienta SMART está diseñada para los gestores de tráfico aéreo que administran todo el espacio aéreo de Estados Unidos.
“La IA hace los cálculos, la IA realiza las operaciones”, declaró Buckendorf a NPR, pero en última instancia, es el operador humano quien decide si seguir o no la recomendación del sistema. “Ellos toman la decisión, ellos deciden, ellos son los jueces”.
BARBARA ORTUTAY escribe sobre redes sociales e internet para Associated Press.
mailto
JOSH FUNK cubre temas de transporte, incluyendo seguridad aérea, transporte por carretera y aerolíneas, así como las principales compañías ferroviarias de carga. También analiza Berkshire Hathaway, la empresa de Warren Buffett, los drones, los esfuerzos por romper el monopolio chino de los elementos de tierras raras y la agricultura.
Por BARBARA ORTUTAY y JOSH FUNK
(Foto AP/Ryan Murphy)


