En el lapso de cinco meses, en incidentes totalmente separados, la inteligencia artificial nos ha fallado con consecuencias catastróficas.Dos choques de aviones mataron a más de 300 personas, porque los sistemas informáticos emitían señales erróneas a los pilotos, y las publicaciones de un terrorista que disparaban a devotos en dos mezquitas, no se pueden eliminar de los enlaces de Facebook. Estos son solo tres ejemplos.
No es de ninguna ayuda o consuelo que Boeing esté actualizando sus sistemas para evitar que los aviones se detengan, y que Facebook todavía no tiene ni idea de cómo prevenir la propagación viral de publicaciones horribles. Por el contrario, el anuncio de Boeing que se muestra en todo el mundo bajo la etiqueta “el futuro es ahora” debe retirarse y cuestionarse en cuanto a su veracidad.
En el mundo de la alta tecnología de los viajes aéreos, posiblemente más seguros que nunca, dos aviones similares que se estrellan en circunstancias similares son preocupantes, como mínimo. Que todos los 737 máx. 8 y 9 se están retirando del servicio de manera demasiado lenta, lo dice todo acerca de la consideración empresarial. Cientos han sido entregados y están en servicio; Miles más están en orden. Sin duda, los individuos habrán sido bendecidos con grandes bonos como resultado.
Pero el hecho de que Boeing esté actualizando sus sistemas plantea la cuestión. Estas aeronaves se someten a rigurosas simulaciones, pruebas de ensayo y pruebas de inteligencia artificial para verificar la seguridad. Que todo esto haya fallado, o se haya pasado por alto, traiga sombras de duda sobre la capacidad de Boeing para ser el futuro de ahora.
Le tomó a la Autoridad Federal de Aviación un tiempo muy largo antes de anunciar el aterrizaje de los aviones basándose en la evidencia obtenida de los choques que finalmente fueron reconstruidos por el rastreo satelital de las autoridades canadienses de aviación. Ese no es un buen anuncio para la estrategia de Trump “America first” y “Made in America”.
El concepto de Boeing que reemplaza a los cientos de aviones es una ilusión, y el costo recae en el ordenante. Estados Unidos ciertamente no será el primero en hacerlo. Queda por verse si Lion y Ethiopian Airlines abren la ruta legal que, en cualquier caso, tomará años en compensar, si es que lo hace.
La tragedia en Christchurch demostró que Facebook tiene muchas cosas que hacer. Inmediatamente después de permitir que se divulguen o filtren datos personales, tenemos una transmisión en vivo horrenda de un individuo sin sentido que mata personas en dos mezquitas. Que su algoritmo tan promocionado que hace uso de machine learning para detectar aquello que se sale de sus normas y su inteligencia artificial no hayan podido evitar que se vuelva viral plantea una pregunta vital.
¿Estamos realmente listos para la IA, las trampas y todo?
Y mientras que Facebook se dedicó a la ardua tarea de eliminar todo contenido visual que hiciera alusión a los vídeos del ataque o al manifiesto, la pieza visual pasó a otras redes. De Facebook saltó a Twitter y YouTube, y entonces ya se hizo prácticamente imposible parar la sonda. Según ha comunicado YouTube.
Las máquinas y la inteligencia artificial son y serán un soporte fundamental para la vida y desarrollo de la humanidad, sin embargo, por ningún motivo se puede dejar al azar y sin controles humanos que las máquinas tomen decisiones críticas que puedan significar afectaciones a la vida o elementos críticos del funcionamiento de una sociedad.