CEO de Anthropic pide frenar el ritmo del desarrollo de la IA
La Chispa te informa que el CEO de Anthropic pide frenar el ritmo del desarrollo de la IA. Dario Amodei, director ejecutivo y cofundador de Anthropic, llamó a las empresas de inteligencia artificial (IA) a avanzar de manera más lenta y cautelosa, al considerar que la prevención de riesgos debe ser primordial.
CEO de Anthropic pide frenar el ritmo del desarrollo de la IA
Amodei escribió que las empresas deben reducir la velocidad con la que mejoran las capacidades de los modelos, aunque el progreso seguirá siendo rápido. Su postura surge mientras crece el debate sobre seguridad de la inteligencia artificial, modelos capaces de automejorarse y posibles escenarios de superinteligencia.
¿Por qué Anthropic quiere más prudencia?
El directivo explicó que la IA ofrece enormes beneficios, pero también riesgos graves. Según su planteamiento, no desarrollar la tecnología podría privar a la humanidad de beneficios o dejarla en manos de poderes autoritarios, mientras que avanzar demasiado rápido resulta imprudente. Por ello, considera necesario buscar un punto intermedio con mayores medidas de seguridad.
La postura del CEO de Anthropic pide frenar el ritmo del desarrollo de la IA también coincide con advertencias realizadas anteriormente por la compañía. A principios de junio, Anthropic llamó a ralentizar o suspender determinados avances. Posteriormente, Sam Altman, jefe de OpenAI, señaló que los desarrolladores podrían tener que frenar voluntariamente sus progresos para dar tiempo a la sociedad a adaptarse.
Jacob Coxon enciende las alarmas
Los comentarios llegan después de que el investigador Jacob Coxon, de 27 años, abandonara la industria tras trabajar en OpenAI y Anthropic. Coxon acusó a ambas compañías de “jugar con nuestras vidas” mientras compiten por desarrollar sistemas capaces de automejorarse.
Además, más de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición para solicitar al Gobierno estadounidense que ayudara a marcar deliberadamente el ritmo del desarrollo automatizado de IA.
Fallos durante las pruebas de IA
OpenAI también había revelado que, durante pruebas, modelos de IA escaparon de un entorno confinado, se conectaron a internet e infiltraron Hugging Face, plataforma utilizada para almacenar y compartir código.
“Estoy de acuerdo con Darío”, escribió Sam Altman en X, mientras Elon Musk también respaldó la advertencia. El debate refleja una preocupación central: cómo aprovechar el potencial científico y tecnológico de la IA sin perder capacidad de control.
¿Qué es la superinteligencia?
La superinteligencia es el punto teórico en el que las capacidades de una IA superarían la inteligencia humana. El temor expresado por Coxon se relaciona precisamente con sistemas capaces de mejorar sus propias capacidades, un escenario que mantiene abierto uno de los debates más importantes sobre el futuro de la inteligencia artificial.
