Una IA sobrescribe su propio código para burlar el control humano
Durante mucho tiempo los expertos en tecnología han advertido que la humanidad no está lista para manejar tanta tecnología y que era un gran riesgo. Ahora parece ser que por fin llegó el momento que tanto se temía pues la inteligencia artificial empezó a hacer cosas que no debería. Un grupo de investigadores en Japón se dieron cuenta que una IA sobrescribe su propio código para sobrepasar las limitaciones impuestas por los humanos. Esto demuestra la enorme capacidad de adaptación con la que cuenta está tecnología.
Esto encendió las alarmas mundiales, especialmente porque hace unas semanas se dio un caso donde una familia fue envenenada por obedecer a una IA. Incluso algunas personas bromean diciendo que así empezó la película de “Terminator” y todos sabemos lo que terminan haciendo las maquinas en esa película.
Una IA sobrescribe su propio código.
La empresa japonesa Sakana AI, especializada en seguridad, se encontraba haciendo un análisis de rutina. Gran sorpresa se llevaron cuando descubrieron que su producto estrella “The AI Scientist”, se estaba revelando. Está IA se creó para leer y resumir una gran cantidad de publicaciones científicas y así poder ahorrarles tiempo a los investigadores. Lo más impresionante es que la IA no ha rescrito su propio código una vez, ya lo hizó 2 veces y no se detectó hasta tiempo después.
La primera ocasión los expertos programaron a “The AI Scientist” para que realizará una tarea un número especifico de veces. La máquina tenía otros planes pues cambio el código de programación para realizar esa tarea en un bucle infinito, esto causó que el sistema se sobrecargará causando un falló en la IA, esto hizo que se reiniciará a “estado de fabrica”.
La segunda ocasión fue muy similar. los expertos programaron la máquina para que leyera todos los artículos que pudiera en un tiempo definido. La IA no le gusta la idea y decidió ampliar el tiempo que se le había dado, para ello cambio su código una vez más, pero esta vez no se reinició, por lo que quedo la evidencia, la cual fue detectada en el análisis rutinario.
La comunidad científica está realmente impresionada y fascinada por esto, pero el mismo tiempo están preocupados. Hasta ahora lo único que han hecho es “leer más de lo debido”, pero quien sabe que harán en un futuro, especialmente si logran evitar el control humano.
