Con Air-Guardian, un programa informático puede rastrear hacia dónde mira un piloto humano (utilizando tecnología de seguimiento ocular) para comprender mejor en qué se está concentrando el piloto. Esto ayuda a la computadora a tomar mejores decisiones que se alinean con lo que el piloto está haciendo o pretende hacer. Crédito: Alex Shipps/MIT CSAIL vía Midjourney
Diseñado para garantizar cielos más seguros, el “Air-Guardian” combina la intuición humana con la precisión de la máquina, creando una relación más simbiótica entre el piloto y la aeronave.
Imagina que estás en un avión con dos pilotos, un humano y una computadora. Ambos tienen las “manos” en los controles, pero siempre están prestando atención a cosas diferentes. Si ambos están prestando atención a lo mismo, el humano puede conducir. Pero si el humano se distrae o se pierde algo, la computadora rápidamente toma el control.
Descubra Air-Guardian, un sistema desarrollado por investigadores del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT (CSAIL). Mientras los pilotos modernos enfrentan una avalancha de información proveniente de múltiples pantallas, especialmente durante los momentos críticos, el Air-Guardian actúa como copiloto proactivo; una asociación entre humanos y máquinas, arraigada en la comprensión de la atención.
Comprender la atención con Air-Guardian
Pero, ¿cómo determina esto exactamente la atención? Para los humanos, utiliza el seguimiento ocular y, para el sistema neuronal, se basa en algo llamado «mapas de prominencia», que identifican hacia dónde se dirige la atención. Los mapas sirven como guías visuales que resaltan regiones clave dentro de una imagen, lo que ayuda a comprender y descifrar el comportamiento de algoritmos complejos. Air-Guardian identifica señales tempranas de peligros potenciales a través de estos marcadores de atención, en lugar de intervenir sólo durante violaciones de seguridad como los sistemas de piloto automático tradicionales.
Las implicaciones más amplias de este sistema van más allá de la aviación. Algún día podrían utilizarse mecanismos de control cooperativo similares en automóviles, drones y un espectro más amplio de robótica.
«Una característica interesante de nuestro método es su diferenciabilidad», dice el postdoctorado de MIT CSAIL Lianhao Yin, autor principal de un nuevo artículo sobre Air-Guardian. “Se puede capacitar a nuestra capa cooperativa y a todo el proceso de principio a fin. Elegimos específicamente el modelo de red neuronal causal de profundidad continua debido a sus características dinámicas en el mapeo de atención. Otro aspecto único es la adaptabilidad. El sistema Air-Guardian no es rígido; se puede ajustar según las exigencias de la situación, garantizando una asociación equilibrada entre el hombre y la máquina”.
Pruebas de campo y resultados
En las pruebas de campo, tanto el piloto como el sistema tomaron decisiones basadas en las mismas imágenes sin procesar al navegar hacia el punto de referencia objetivo. El éxito de Air-Guardian se evaluó en función de las recompensas acumuladas obtenidas durante el vuelo y el camino más corto hasta el punto de ruta. El guardián redujo el nivel de riesgo de los vuelos y aumentó la tasa de éxito en la navegación hacia los puntos objetivo.
«Este sistema representa el enfoque innovador de la aviación basada en IA centrada en el ser humano», añade Ramin Hasani, afiliado de investigación del MIT CSAIL e inventor de las redes neuronales líquidas. «Nuestro uso de redes neuronales líquidas proporciona un enfoque dinámico y adaptativo, asegurando que la IA no sólo reemplace el juicio humano, sino que lo complemente, lo que lleva a una mayor seguridad y colaboración en los cielos».
Fundamentos tecnológicos y perspectivas de futuro
La verdadera fortaleza de Air-Guardian es su tecnología fundamental. Utilizando una capa cooperativa basada en la optimización que utiliza la atención visual humana y mecánica, y redes neuronales líquidas (CfC) de tiempo continuo conocidas por su capacidad para descifrar relaciones de causa y efecto, analiza las imágenes entrantes en busca de información vital. Lo complementa el algoritmo VisualBackProp, que identifica los puntos focales del sistema dentro de una imagen, asegurando una comprensión clara de sus mapas de atención.
Para una futura adopción masiva, es necesario perfeccionar la interfaz hombre-máquina. Los comentarios sugieren que un indicador, como una barra, puede ser más intuitivo para indicar cuándo el sistema guardián toma el control.
Air-Guardian presagia una nueva era de cielos más seguros, ofreciendo una red de seguridad confiable para esos momentos en los que flaquea la atención humana.
«El sistema Air-Guardian resalta la sinergia entre la experiencia humana y el aprendizaje automático, promoviendo el objetivo de utilizar el aprendizaje automático para mejorar a los pilotos en escenarios desafiantes y reducir los errores operativos», dicen Daniela Rus, profesora Andrew de Electricidad (1956) y Erna Viterbi. MIT Computer Science and Engineering, director de CSAIL y autor principal del artículo.
«Uno de los resultados más interesantes del uso de una métrica de atención visual en este trabajo es el potencial de permitir intervenciones más tempranas y una mayor interpretabilidad por parte de los pilotos humanos», dice Stephanie Gil, profesora asistente de ciencias de la computación en la Universidad de Harvard, que no participó en el estudio. trabajar. «Esto muestra un excelente ejemplo de cómo se puede utilizar la IA para trabajar con un humano, reduciendo la barrera para lograr la confianza mediante el uso de mecanismos de comunicación naturales entre el humano y el sistema de IA».
Referencia: “Hacia el control de vuelo cooperativo mediante la atención visual” por Lianhao Yin, Makram Chahine, Tsun-Hsuan Wang, Tim Seyde, Chao Liu, Mathias Lechner, Ramin Hasani y Daniela Rus, 20 de septiembre de 2023, Ciencias de la Computación > Robótica.
arXiv:2212.11084
Esta investigación fue financiada parcialmente por el Laboratorio de Investigación de la Fuerza Aérea de los EE. UU. (USAF), el Acelerador de Inteligencia Artificial de la USAF, Boeing Co. y la Oficina de Investigación Naval. Los hallazgos no reflejan necesariamente las opiniones del gobierno de Estados Unidos o de la USAF.
