¿Y si Skynet y sus Terminators no fuesen realmente la mayor amenaza?

Carlos lleva ya casi un año trabajando en el gabinete de comunicación del ministerio y aunque su vocación periodística le mortifica de vez en cuando no deja de apreciar la estabilidad que le ofrece su nuevo trabajo; sentado frente a su ordenador, Carlos echa un vistazo a la agenda del ministro para la próxima semana mientras no se quita de la cabeza el discurso de apertura de las nuevas jornadas de Ciberseguridad que tiene que entregar en dos días.

En ese momento, recibe un correo de su responsable en el que, escueto como siempre, le adjunta un enlace con información útil para el discurso del “jefe”. Al pinchar en el enlace, una página de una compañía de ciberseguridad con el típico informe que dice lo que ya sabe todo el mundo desde hace años, su PC se bloquea y está a punto de colgarse, aunque al final Carlos consigue descargar el informe y confirmar que no va a ser de gran ayuda para el discurso.

Un sistema de IA consiguió su objetivo de distraer su atención el tiempo suficiente para que el dron pudiese ejecutar su trabajo

Hace tiempo que los virus informáticos (para ser más precisos deberíamos hablar de programas maleware, del inglés malicious software) son una amenaza real (no hay que olvidar el episodio de mayo del año pasado en el que Telefónica y otras grandes empresas sufrieron un ataque masivo que tuvo en vilo al CNI durante varios días).

Cruce de datos

Sin embargo este tipo de ataques pueden ver incrementado su potencial de forma exponencial si se combinan con soluciones de Inteligencia Artificial; por ejemplo, en el caso de Carlos, un programa espía (spyware) instalado en su PC lleva semanas enviando información a algún servidor remoto en el que una herramienta de IA está cruzando datos de su actividad (páginas visitadas, correos, mensajería, etc.) para crear un perfil específico y diseñar un ataque totalmente personalizado contra Carlos en forma de correo de su jefe con un enlace sobre una actividad en la que actualmente está trabajando.

El ataque es tan efectivo que Carlos nunca llega a sospechar que al hacer click en ese enlace ha dado control absoluto de su PC a un usuario remoto al que no le ha costado acceder a la agenda privada del ministro y confirmar cuándo (y con quién) va a ser la siguiente cita para almorzar en la terraza de moda de la capital.

El teniente Pérez lleva más de diez años de servicio, los último cinco formando parte del equipo de escolta del ministro. Hoy es un día bastante tranquilo, en la agenda solo hay almuerzo privado y una reunión en el Ministerio a última hora de la tarda. Como siempre en cuanto llegan al restaurante el teniente Pérez contacta con el centro de mando para confirmar la posición del “paquete”; de manera habitual el dispositivo de seguridad es más amplio pero, cuando se trata de una actividad privada, el operativo es más reducido para no llamar demasiado la atención y, además, la ubicación de la terraza del restaurante ofrece suficientes garantías desde el punto de vista de seguridad.

Cuando el teniente está acabando el primer plato, su móvil empieza a sonar y, mientras lo busca en su chaqueta, observa de reojo a la mesa en la que el ministro y su acompañante siguen disfrutando tranquilos de la comida. Su compañero se ha quedado en la entrada y el restaurante ahora está muy tranquilo, así que se permite cogerlo aunque suponiendo que será algo sin importancia. Sin embargo, el corazón se le encoge cuando reconoce la voz de su hija llorando desconsoladamente al explicarle que acaba de tener un accidente.

El papel de un dron

De forma inconsciente se levanta y se dirige hacia el interior del local mientras intenta calmar a su hija, por lo que no puede ver cómo, en ese momento y justo a su espalda, un dron está descendiendo hasta quedarse suspendido un par de metros en una esquina de la terraza.

Todos los comensales se giran hacia el dron, extrañamente silencioso y que ahora gira sobre sí mismo como si estuviese buscando algo o a alguien. Tras unos segundos, de pronto el dron parece activarse, avanza hacia la mesa del ministro y detona su carga, matando inmediatamente al ministro y su acompañante sin que hayan tenido siquiera tiempo de reaccionar.

Parece una realidad distópica propia de Black Mirror, pero los avances tecnológicos en el campo de la IA ya permiten que escenarios como éste

¿Fantasía? El pasado mes de diciembre Google presentó la segunda generación de su sistema de generación de voz, un sistema que permite alcanzar un grado de precisión tan elevado que hace indistinguible una voz humana real de una voz generada por ordenador. El sistema de Inteligencia Artificial (WaveNet) se basa en dos redes neuronales, la primera traduce el texto en un espectograma (una representación de las frecuencias del sonido en el tiempo) que alimenta a la segunda red, responsable de “leerlo” y generar el audio correspondiente.

El teniente Pérez no estaba hablando con su hija, sino con un sistema de IA que consiguió su objetivo de distraer su atención el tiempo suficiente para que el dron pudiese ejecutar su trabajo.

El reconocimiento facial

En cuanto al dron, realmente no es un tecnología especialmente novedosa, pero sí lo es su combinación con el sistema de IA de reconocimiento facial que pueden permitir crear drones autónomos capaces de trasladarse a una zona en base a coordenadas GPS y una vez allí activar su sistema de reconocimiento facial para localizar y fijar a un objetivo concreto.

No es un gran secreto que las principales potencias militares trabajan desde hace ya tiempo con tecnologías de este tipo; ya en 2016 la Fuerzas Aéreas estadounidenses hicieron una demostración con dos cazas F18 que liberaban en vuelo un “enjambre” de más de 100 pequeños drones para ejecutar tareas de reconocimiento de objetivos.

Lo que acaban de leer parece una realidad distópica propia de un capítulo de Black Mirror, pero es evidente que los avances tecnológicos en el campo de la IA ya permiten que escenarios como éste puedan empezar a plantearse realmente. Hasta la fecha cuando pensamos en IA nuestro mayor terror para el futuro responde al nombre de Skynet, esa inteligencia artificial que nos hizo temer, en los años ochenta y de la mano de la película Terminator, un mundo dominado por máquinas.

El hombre es el peligro

Un mundo en el que las máquinas toman conciencia de sí mismas y decidan aniquilarnos por completo. Y hace pocos días se ha publicado The Malicious Use of Artificial Intelligence: Forecasting, Prevention and Mitigation, un informe en el que han participado diversas universidades e instituciones y en el que se alerta del riesgo que supone que estas tecnologías estén en las manos equivocadas.

Ahora que estamos en una carrera constante por mostrar cualquier avance en el campo de la IA es el momento de plantearnos si Skynet es realmente nuestro mayor enemigo ahí fuera. Es posible que de nuevo estemos equivocados y que el mayor peligro para el hombre sea, como siempre ha sido, el propio hombre.