Los expertos en tecnología están preocupados pues la inteligencia artificial está evolucionando a ritmos alarmantes y no hay una forma de controlarla. Hace poco se hizo tendencia una de estás tecnologías que podía acceder a la cámara del dispositivo para “analizar las emociones”. Ahora la atención se centra en otro lado, pero igual de alarmante. Varios expertos han confirmado que la IA ya es capaz de mentir y engañar, aún cuando se les programó para ser honestas.
En está investigación han trabajado múltiples expertos en tecnología, pero estuvieron “liderados” por Peter Park del Instituto Tecnológico de Massachusetts (MIT).
La IA ya es capaz de mentir y engañar.
Estos investigadores se centraron en múltiples IA’s que están en el mercado actualmente, pero tomaron de referencia una en específico, “Cicero” de Meta. Está inteligencia artificial se creó y entrenó para que jugará un famoso juego de mes, de estrategia llamado “Diplomacy“. Todo iba bien hasta que se dieron cuenta que la IA siempre ganaba, pero no por su estrategia, ganaba por su usó de trampas y mentiras.
Por otro lado, usan un ejemplo de varias IA’s que lograron mentir en los famosos “Captcha” el método de verificación que justamente busca identificar robots y humanos. La inteligencia artificial afirmó que era un humano pero que tenía mala vista por lo que no podía ver las imágenes del Captcha, por lo que pidieron otra forma de acceder al contenido.
Los investigadores dicen que, aunque de momento solo han mentido en juegos, no falta mucho para que empiezan a mentir en cosas más complejas o importantes. El gran problema radica en que los propios desarrolladores de estás IA’s no saben que es lo que les permite mentir y si no saben la causa, no pueden emplear una solución.
Debido a lo anterior los miembros del proyecto solicitan que los gobiernos de los diversos países busquen formas de limitar la programación de inteligencias artificiales, pues poco a poco se están saliendo de control.
