Aproximadamente 185.000 personas han muerto en accidentes de aviación civil desde la llegada de los vuelos propulsados hace más de un siglo. Sin embargo, en los últimos cinco años entre las aerolíneas estadounidenses, el riesgo de muerte ha sido casi nulo. De hecho, tienes muchas más posibilidades de ganar la mayoría de las loterías que morir como pasajero en una aerolínea estadounidense.
¿Cómo se volvió tan seguro volar? ¿Y podemos aplicar las lecciones de seguridad adquiridas con tanto esfuerzo en la aviación a la inteligencia artificial?
Cuando la humanidad introduce una nueva tecnología que cambia paradigmas y esa tecnología se adopta rápidamente a nivel mundial, las consecuencias futuras se desconocen y, a menudo, se temen colectivamente. La introducción del vuelo propulsado en 1903 por los hermanos Wright no fue una excepción. Hubo muchas objeciones a esta nueva tecnología, incluidas preocupaciones religiosas, políticas y técnicas.
Poco después de que se introdujeran los vuelos propulsados, se produjo el primer accidente aéreo, y por no mucho me refiero al mismo día. Sucedió en el cuarto vuelo de los hermanos Wright. La primera persona que murió en un accidente aéreo murió cinco años después, en 1908. Desde entonces, ha habido más de 89.000 accidentes aéreos en todo el mundo.
Soy un investigador que estudia la seguridad de la aviación y veo cómo la industria de la IA actual recuerda a los primeros (y decididamente menos seguros) años de la industria de las aerolíneas.
Del estudio de los accidentes a su predicción
Aunque trágico, cada accidente y cada víctima mortal fue un momento de reflexión y aprendizaje. Los investigadores de accidentes intentaron recrear cada accidente e identificar los antecedentes y las causas fundamentales del accidente. Después de que los investigadores identificaron lo que provocó cada accidente, los fabricantes y operadores de aeronaves implementaron medidas de seguridad con la esperanza de prevenir accidentes adicionales.
Por ejemplo, si un piloto de una época anterior del vuelo se olvidaba de bajar el tren de aterrizaje antes de aterrizar, era probable que se produjera un accidente de aterrizaje. Entonces, a la industria se le ocurrió la idea de instalar sistemas de advertencia que alertarían a los pilotos sobre el estado inseguro del tren de aterrizaje, una lección que se aprende sólo después de los accidentes. Este proceso reactivo, si bien es necesario, tiene un alto costo para aprender a mejorar la seguridad.
Durante el siglo XX, el mundo de la aviación organizó y estandarizó sus operaciones, procedimientos y procesos. En 1938, el presidente Franklin Roosevelt firmó la Ley de Aeronáutica Civil, que estableció la Administración de Aeronáutica Civil. Este predecesor de la Administración Federal de Aviación incluía la Junta de Seguridad Aérea.
El paradigma de seguridad completamente reactivo cambió con el tiempo a uno proactivo y, en última instancia, predictivo. En 1997, un grupo de organizaciones industriales, laborales y de aviación gubernamentales formaron un grupo llamado Equipo de Seguridad de la Aviación Comercial. Comenzaron a observar los datos y trataron de encontrar tendencias y analizar los informes de los usuarios para identificar riesgos y peligros antes de que se convirtieran en accidentes.
El grupo, que incluye a la FAA y la NASA, decidió desde el principio que no habría competencia entre aerolíneas en materia de seguridad. La industria compartiría abiertamente datos de seguridad. ¿Cuándo fue la última vez que vio una campaña publicitaria de una aerolínea que afirmaba "nuestra aerolínea es más segura que la de ellos"?
Está todo en los datos.
El equipo de Seguridad de la aviación comercial ayudó a la industria a pasar de reactiva a predictiva mediante la adopción de un enfoque de sistemas basado en datos para abordar los problemas de seguridad. Ella generó estos datos utilizando informes humanos y datos de aviones.
Cada día se realizan millones de vuelos en todo el mundo y en cada uno de esos vuelos se registran miles de puntos de datos. Los expertos en seguridad aérea utilizan ahora registradores de datos de vuelo (utilizados durante mucho tiempo para investigar accidentes a posteriori) para analizar los datos de cada vuelo. Al examinar cuidadosamente todos estos datos, los analistas de seguridad pueden detectar eventos y tendencias nuevos y problemáticos. Por ejemplo, al analizar los datos, un científico capacitado en seguridad puede ver si ciertas aproximaciones a las pistas de aviones se están volviendo más riesgosas debido a factores como la velocidad excesiva y la mala alineación, antes de que ocurra un accidente de aterrizaje.
Los registradores de voz y datos de vuelo son bien conocidos por las investigaciones de accidentes, pero los datos de vuelos ordinarios son invaluables para la prevención de accidentes. ISSIgui/Wikimedia Commons, CC BI-SA
Para aumentar aún más las capacidades proactivas y predictivas, cualquier persona que trabaje en los sistemas de aviación puede enviar informes de seguridad de forma anónima y con impunidad. Sin garantías de anonimato, la gente podría dudar en informar problemas y la industria aérea se perdería información crucial relacionada con la seguridad.
Todos estos datos son almacenados, agregados y analizados por científicos de seguridad, que analizan todo el sistema e intentan encontrar precursores de accidentes antes de que provoquen accidentes. El riesgo de que muera un pasajero en una aerolínea estadounidense es ahora menos de 1 entre 98 millones. Es más probable que mueras camino al aeropuerto que en un accidente aéreo. Ahora, más de 100 años después de la llegada de los vuelos propulsados, la industria de la aviación, después de aprender las duras lecciones, se ha vuelto extremadamente segura.
Un modelo para la IA
La IA está impregnando rápidamente muchos aspectos de la vida, desde los vehículos autónomos hasta la justicia penal y las decisiones sobre empleo y préstamos. Sin embargo, la tecnología está lejos de ser infalible y los errores atribuibles a la IA han tenido consecuencias que cambian vidas y, en algunos casos, incluso la vida o la muerte.
Casi todas las empresas de IA intentan implementar algunas medidas de seguridad. Pero parecen estar haciendo estos esfuerzos individualmente, tal como lo hicieron los primeros actores en el campo de la aviación. Y estos esfuerzos son en gran medida reactivos, esperando que la IA cometa un error y luego actúe.
¿Qué pasaría si existiera un grupo como el Equipo de Seguridad de la Aviación Comercial donde todas las empresas de IA, los reguladores, el mundo académico y otras partes interesadas se reunieran para iniciar procesos proactivos y predictivos para garantizar que la IA no provoque accidentes?
Desde la perspectiva de los informes, imagine que cada interfaz de IA tiene un botón de informe en el que el usuario puede hacer clic no solo para informar resultados potencialmente alucinatorios e inseguros a cada empresa, sino también a una organización de IA similar a un equipo de seguridad de la aviación comercial. Además, los datos generados por sistemas de inteligencia artificial, similares a los que vemos en la aviación, también se pueden recopilar, agregar y analizar en busca de amenazas a la seguridad.
Si bien este enfoque puede no ser la solución definitiva para prevenir los daños de la IA, si las grandes tecnológicas adoptan las lecciones aprendidas de otras industrias de grandes consecuencias como la aviación, podrían aprender a regular, controlar y, sí, hacer que la IA sea más segura para todos.
.webp)
0 Comentarios