viernes, 4 de agosto de 2017

La rebelión de máquina

Desde el siglo XIX y con la aparición de las máquinas avanzadas la vida del ser humano comenzó  a hacerse más cómoda. Con la llegada de estos equipos capaces de realizar acciones de forma autónoma, la vida laboral se volvía más fácil. Sin embargo, el miedo a lo desconocido ya apareció durante esta época, y dio lugar al llamado ludismo. Este fue el inicio de lo que más tarde recogió Asimov en ‘El legado de Frankestein’, refiriéndose al miedo a que las obras humanas se vuelvan contra sus creadores. Algo que parece estar muy enraizado en el inconsciente colectivo.

Con la llegada de informática este miedo se ha ido agigantando a lo largo de los años, llegando a considerar la creación de auténticas inteligencias artificiales toda una amenaza. Pero, ¿este miedo es racional o irracional? Hoy en nuestro repaso a la semana comprobaremos cuánto realmente tenemos algo que temer…

Esta semana descubríamos que Facebook tuvo que apagar dos robots que habían empezado a comunicarse mediante un lenguaje propio que habían creado. La máquina, cuyo objetivo era crear una inteligencia artificial capaz de aprender y desarrollar nuevas tácticas de negociación, había desarrollado un lenguaje casi imposible de descifrar pero que resultaba más lógico para sus tareas. Esta “anomalía” pone un problema sobre la mesa: es posible que en el futuro no comprendamos la comunicación entre máquinas. Entonces ¿qué pasará?

Este no es el único ejemplo de los avances que puede conseguir la Inteligencia Artificial. En la pasada DEF CON el director de Data Science, Hyrum Anderson, mostró a todos los presentes como Elon Musk’s OpenAI podía crear un malware que los mejores antivirus no podrían detectar. El sistema aprendía cómo ajustar sus códigos binarios para pasar a través de los antivirus y una vez conseguido se ejecutaba. Una forma fácil y sencilla de desbaratar la línea básica de defensa.

Pero pensar que las máquinas son las responsables de todos nuestros problemas no sería más que ocultar la verdad. En la mayoría de los casos, los principales causantes de las tragedias en el cibermundo son de carne y hueso. Un ejemplo perfecto lo encontramos en los nuevos smartphones Leagoo y Nomu. Según informaba Dr. Web el pasado martes, los nuevos Leagoo M8, Leagoo M5 Plus, Nomu S10 y Nomu S20 venían con un malware de regalo incluido.

Y no ha sido el único lanzamiento de la semana que venía con “características” extra. Al día siguiente descubríamos que las nuevas cámaras de Shenzhen Neo Electronics eran fácilmente hackeables para cualquier cibercriminal con algo de conocimiento.  

Leyendo estas noticias nos preguntamos ¿estos fallos se deben a...? La misma que nos hicimos a principios de semana cuando Microsoft anunciaba que se negaba a parchear una vulnerabilidad porque lo podía hacer cualquier usuario desde su ordenador. Lo fácil es pensar que la empresa de Bill Gates no quiere tapar este fallo por dejadez pero, ¿y si es una forma de poner las pilas a los usuarios? Dejamos esa pregunta en el aire.


El ser humano teme a lo desconocido y a la velocidad que avanza el mundo es natural que cierto susto al leer noticias de este estilo. Sin embargo, el uso y los propósitos de la inteligencia artificial los seguimos poniendo nosotros, así que si las máquinas se rebelan, cabe achacarnos la responsabilidad a nosotros. ¿Cómo evitarlo? Estando informados y actuando en base a ese conocimiento. 

0 comentarios:

Publicar un comentario