Más información sobre el libro de Benny Czarny, «Cybersecurity Upside Down»

Más información
Utilizamos inteligencia artificial para traducir el sitio web y, aunque nos esforzamos por garantizar la precisión, es posible que las traducciones no sean siempre 100 % exactas. Agradecemos tu comprensión.

Lo que el diseño de los aviones puede enseñarnos sobre la próxima interrupción de una infraestructura crítica

Por Benny Czarny

En los últimos días, he estado leyendo noticias sobre las interrupciones del servicio en Microsoft, la FAA, United Airlines, Chase y Amtrak. También he estado llamando a amigos, familiares y empleados que se han visto afectados por estas interrupciones, para saber si estaban bien y cómo iban a volver a casa.

La palabra «interrupción del servicio» cobra otro significado cuando alguien a quien quieres se queda atrapado en un aeropuerto. Detrás de la explicación técnica hay niños cansados, pasajeros mayores haciendo cola, conexiones perdidas y planes que se van al traste. Para una empresa, puede suponer la pérdida de pedidos, retrasos en los pagos y un día de trabajo perdido.

Soy el fundador y director ejecutivo de OPSWAT, una empresa de ciberseguridad dedicada a la protección de infraestructuras críticas. También soy piloto con habilitación de vuelo por instrumentos. Al analizar estos incidentes, no dejo de plantearme la misma pregunta: ¿por qué no aplicamos en mayor medida los principios que garantizan el buen funcionamiento de un avión a las infraestructuras de las que dependemos a diario?

Un avión integra los sistemas de propulsión, navegación, comunicaciones y control de vuelo en un espacio sorprendentemente reducido. Estos sistemas funcionan de forma coordinada, a veces en condiciones difíciles, y de ellos dependen las vidas de las personas.

El diseño parte de la base de que se producirán fallos. Gran parte de la formación de los pilotos consiste en reconocer esos fallos y saber qué hacer a continuación. Se practica mientras aún se tiene el lujo de poder cometer un error.

Tomemos, por ejemplo, la energía eléctrica. Un alternador genera electricidad para el avión. Sí, puede que sirva para cargar tu iPhone, pero a mí me interesa más que las radios y los instrumentos de vuelo sigan funcionando.

En un avión equipado con dos alternadores, uno de ellos puede alimentar las cargas esenciales si el otro falla. Si fallan ambos, las baterías pueden proporcionar un tiempo de funcionamiento limitado. Se debe reducir la carga y aprovechar ese tiempo para gestionar la emergencia.

Lo importante es que el alternador y la batería funcionan de forma diferente. Uno genera electricidad y el otro la almacena. La batería te ofrece otra forma de mantener en funcionamiento los equipos esenciales cuando el sistema de generación deja de funcionar.

Esa idea va más allá. Airbus ha documentado diseños de control de vuelo que utilizan hardware y software diferentes en los ordenadores principal y secundario, incluyendo sistemas secundarios más sencillos. El objetivo es reducir la probabilidad de que un solo fallo inhabilite todas las formas de llevar a cabo una función crítica.

Normalmente llevo mi iPad con ForeFlight, además de los instrumentos que ya hay en el avión. Es una ayuda complementaria, cuyas prestaciones dependen de los sensores a los que está conectado, y tengo que conocer sus límites. Aun así, disponer de otra fuente de información de vuelo, en un dispositivo diferente con su propia batería, me da cierta tranquilidad.

Ahora analicemos la misma cuestión en el ámbito de las tecnologías de la información, en los sistemas críticos y en las infraestructuras críticas. Estos sistemas deben garantizar la vida o la libertad, como es el caso de un avión, por lo que deberíamos adoptar la misma mentalidad de diseño.

Si mi sistema principal y mi sistema de respaldo utilizan el mismo software, reciben la misma actualización y dependen de la misma red, ¿hasta qué punto son independientes? Trasladar uno de ellos a otro edificio no elimina un defecto en el código. Una segunda nube podría seguir dependiendo del mismo servicio de identidad o de la misma fuente de datos.

Podemos clonar un sistema y copiar también sus puntos débiles.

Si un mismo fallo puede dejar fuera de servicio ambos sistemas, ¿tenemos realmente una copia de seguridad?

Los recientes incidentes ponen de manifiesto por qué esa cuestión es realmente importante.

Microsoft, 12 y 13 de noviembre

Su informe preliminar describe un defecto oculto en el software, un aumento del tráfico en las pasarelas y una reducción de la capacidad. El desvío del tráfico de los servidores afectados contribuyó a propagar el fallo a otros que presentaban la misma vulnerabilidad. Microsoft ya contaba con diferentes arquitecturas de pasarelas, pero algunos servicios, entre ellos Exchange Online, no pudieron migrar a la alternativa a la escala necesaria. Agradezco la información detallada que ha publicado Microsoft. My La conclusión es que la independencia y la capacidad deben someterse a pruebas de forma conjunta. Creo que una arquitectura alternativa debe asumir el trabajo esencial como respaldo activo cuando sea realmente necesario.

FAA, 13 de noviembre

La FAA describió una saturación de la red durante un periodo de trabajos de sustitución de routers. El bloqueo de dos emplazamientos sospechosos de ser el origen del problema estabilizó la red. Los controladores y los pilotos mantuvieron la seguridad, pero se detuvieron las salidas en todo el país. La causa principal sigue siendo objeto de investigación, y la FAA afirma que el sistema SMART (Gestión Estratégica del Espacio Aéreo, las Rutas y las Trayectorias) no tuvo nada que ver. La cuestión que se plantea respecto a la arquitectura es cómo un problema en un número reducido de ubicaciones se extendió de forma tan generalizada, y qué medidas adicionales de aislamiento y comunicaciones independientes podrían preservar más operaciones de forma segura. Sin embargo, ¿deberíamos preguntarnos también qué provocó que la arquitectura existente se viniera abajo y cómo se descartó que SMART tuviera algo que ver?

Amtrak, 13 de noviembre

Surgieron problemas con las reservas mientras los pasajeros de las aerolíneas, que se habían quedado varados, buscaban alternativas. Amtrak achacó el problema a una actualización del sistema y al aumento de la demanda, aunque la causa técnica exacta sigue sin estar clara. Este es un escenario que incluiría en cualquier simulacro de recuperación: cuando falla una parte de nuestra infraestructura, la gente recurre a otra. El siguiente sistema también debe tener capacidad para esas personas.

United, 16 de noviembre

Reuters informó de que una interrupción del servicio afectó a varias aplicaciones de la tripulación e impidió que United facilitara los pesos finales de las aeronaves para los vuelos de salida. La causa técnica subyacente sigue sin revelarse. Piénsalo: el avión, la tripulación y los pasajeros pueden estar todos listos, pero el vuelo no puede despegar sin información esencial. Cualquier alternativa debe contar con datos de carga actualizados y precisos. La copia de seguridad de ayer no sería suficiente. Tenemos que restablecer un sistema operativo con datos actualizados.

Chase, 16 de noviembre.

Un error interno del software retrasó las transacciones, incluidos los pagos en los que intervenían otros bancos. En este caso, la recuperación debe preservar el registro financiero. La transición rápida solo resulta útil si se contabilizan los pagos, los saldos son correctos y las transacciones no se procesan dos veces. Esto debe demostrarse con un volumen de transacciones realista.

Se trata de incidentes distintos, y debemos ser cautelosos a la hora de sacar conclusiones mientras continúan las investigaciones. Pero ya hay aquí mucho que podemos incorporar a nuestros propios debates sobre ingeniería.

Y ahora estamos incorporando la inteligencia artificial a los sistemas de los que dependemos.

Recuperar una aplicación convencional ya puede resultar complicado. Un sistema basado en inteligencia artificial incorpora un modelo, un entorno de ejecución, lagos de datos y flujos de trabajo cuyas relaciones pueden ser difíciles de desentrañar cuando surge algún problema. Incluso cuando el modelo permanece inalterado, los datos y el contexto operativo pueden cambiar. Restaurar una versión anterior del código puede dejar componentes que ya no funcionan correctamente entre sí.

El programa puede volver a funcionar aunque el sistema siga ofreciendo recomendaciones erróneas.

Por eso considero que un sistema de IA es un entorno operativo vivo. La recuperación consiste en comprender qué ha cambiado, restablecer los componentes compatibles y comprobar el comportamiento antes de volver a confiar en él.

La gente sigue necesitando el servicio mientras se llevan a cabo esos trabajos.

En cuanto a nuestras funciones más críticas, creo que deberíamos plantearnos una implementación independiente en una arquitectura diferente, que ya esté en funcionamiento y lista para tomar el relevo. Podría tratarse de otra plataforma de IA. O bien, podría ser un sistema convencional más sencillo capaz de mantener en marcha las operaciones esenciales.

La independencia debe extenderse más allá de la aplicación. Es posible que otros programas de la misma red defectuosa sigan sin estar disponibles. Dos modelos distintos que utilicen los mismos datos corruptos pueden seguir generando resultados erróneos. Debemos examinar toda la ruta de la que depende el servicio. Debemos adoptar el mismo enfoque que describí en el ejemplo de la arquitectura de la cabina de mando del Airbus.

Sé que esto cuesta dinero y aumenta la complejidad. La alternativa no necesita todas las funciones del sistema principal. Al igual que la batería de un avión, debe garantizar el funcionamiento de las funciones esenciales durante un periodo determinado, utilizando una arquitectura diferente.

Empieza por decidir qué debe seguir funcionando, en qué medida y durante cuánto tiempo. Si el sistema solo puede soportar una interrupción de milisegundos o segundos, eso se convierte en un requisito técnico que debemos demostrar. Restablecer todo lo demás puede llevar más tiempo.

A continuación, somete el diseño a pruebas de presión en condiciones controladas. Desactiva la IA. Desconecta la red. Introduce datos obsoletos, un parche defectuoso o un ataque cibernético. Pruébalo cuando el sistema de respaldo ya haya perdido parte de su capacidad. Observa qué ocurre cuando personas reales tienen que realizar la transición y evalúa si el servicio sigue siendo utilizable y funciona correctamente.

En la cabina, necesito saber qué sigue funcionando tras un fallo, cuánto tiempo seguirá funcionando y qué debo hacer a continuación. Necesito esas respuestas antes de despegar.

Las familias que intentan volver a casa y las empresas que esperan recibir sus pagos merecen que les dediquemos la misma atención.

En tu próxima reunión de dirección, pregunta a tu equipo: «si nuestro sistema principal fallara ahora mismo, ¿qué seguiría funcionando, y podría ese mismo fallo hacer que eso también dejara de funcionar?»

Analiza a fondo el diseño y la arquitectura detallados e intenta encontrar fallos. Server : caída del sistema, interrupción de las comunicaciones, un incidente cibernético. Si se trata de un sistema de IA como SMART, estudia sus componentes. Asume que podría salirse de control, limita el ancho de banda y ten preparado un segundo sistema con una arquitectura diferente listo para entrar en funcionamiento en caso de que todo el sistema deje de funcionar.

Entonces pídeles que te lo enseñen.

La próxima interrupción del servicio no debería ser la primera ocasión en la que comprobemos si el sistema de respaldo funciona.

¡Mantente al día con OPSWAT!

Regístrate hoy mismo para recibir las últimas novedades de la empresa, historias, información sobre eventos y mucho más.