Acusan a OpenAI y Anthropic de ‘Jugar con nuestras vidas’
La Chispa te informa que acusan a OpenAI y Anthropic de “jugar con nuestras vidas”. Jacob Coxon, investigador británico de inteligencia artificial de 27 años, abandonó la industria después de trabajar tres años en preentrenamiento de modelos de IA, primero en OpenAI y posteriormente en Anthropic, empresa que había elegido por considerarla más prudente.
Acusan a OpenAI y Anthropic por los riesgos de la superinteligencia
Coxon afirmó en X que ninguna de las dos compañías actúa de manera responsable y que ambas avanzan hacia una inteligencia artificial capaz de mejorarse a sí misma. Según el investigador, acusan a OpenAI y Anthropic de una carrera tecnológica que podría tener consecuencias irreversibles, mientras sus propios trabajadores reconocen que existe un riesgo real para la humanidad.
“Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, escribió. También sostuvo que algunas personas que desarrollan IA creen sinceramente que esta tecnología podría acabar con la humanidad antes de que termine la década.
Anthropic reconoce que existen riesgos extremos
Evan Hubinger, responsable de seguridad de Anthropic, respaldó parte de las declaraciones de Coxon. En X reconoció que dentro de la compañía realmente consideran posible que la IA pueda matar a seres humanos. A título personal, estimó el riesgo en más de un 10% durante la próxima década.
La preocupación se relaciona con la llamada automejora recursiva, escenario en el que un sistema de inteligencia artificial podría diseñar versiones superiores de sí mismo, dificultando cada vez más la supervisión humana.
La carrera por desarrollar inteligencia artificial
Coxon considera que ninguna compañía debería desarrollar una IA que supere las capacidades humanas sin intervención gubernamental, coordinación internacional o una desaceleración conjunta. Aunque reconoció que Anthropic comprende la gravedad del problema, señaló que la competencia tecnológica puede estar impulsando a las empresas a asumir riesgos.
En febrero, Anthropic retiró de su carta de seguridad el compromiso de suspender el desarrollo de modelos si no conseguía controlar sus riesgos. Además, más de mil trabajadores de la industria, incluido su director ejecutivo, Dario Amodei, pidieron a Washington preparar un mecanismo de frenado.
OpenAI también ha llamado a extremar la precaución. A finales de julio, su jefe científico, Jakub Pachocki, señaló que el momento actual exige “extrema precaución” y coordinación internacional.
¿Qué significa esto para el futuro de la IA?
El debate ya no se limita a la velocidad de los avances tecnológicos. La seguridad de la inteligencia artificial, la regulación de modelos avanzados, la supervisión humana y los riesgos de una posible superinteligencia se han convertido en asuntos centrales para gobiernos, investigadores y empresas.
Aunque ninguna de las dos compañías respondió de inmediato a las consultas de AFP, las declaraciones reflejan una creciente división dentro del sector tecnológico sobre hasta dónde debe llegar el desarrollo de sistemas cada vez más autónomos.
