Creadores de IA instan a adoptar normas internacionales sobre IA
La Chispa te informa que los creadores de IA instan a adoptar normas internacionales para regular a las IAs en un evento sin precedentes. Los líderes de dos de las principales empresas de inteligencia artificial (IA) del mundo, habitualmente rivales, coincidieron ante el Consejo de Seguridad de la ONU en que esta industria tecnológica requiere normas y cooperación globales, o de lo contrario pondrá en peligro la seguridad mundial.
El CEO de OpenAI, Sam Altman, y el CEO de Anthropic, Dario Amodei, advirtieron que la falta de regulación sobre el desarrollo tecnológico y la inteligencia artificial avanzada podría representar un riesgo vital para la humanidad.
¿Por qué los creadores de IA instan a adoptar normas internacionales urgentemente?
Sus declaraciones surgen tras semanas de llamados globales para frenar la innovación tecnológica descontrolada. Varios incidentes recientes con agentes de IA autónomos que hackearon sistemas de otras compañías encendieron las alarmas de seguridad informática mundial.
Propuestas de OpenAI para la regulación global
En su intervención presencial, Altman insistió en que los creadores de IA instan a adoptar normas internacionales para medir capacidades, evaluar riesgos y preservar una supervisión humana. Señaló la necesidad de mecanismos de información precisos para aprender de los fallos antes de que se conviertan en catástrofes.
Gobernanza democrática y ética tecnológica
Altman enfatizó que las decisiones sobre gobernanza digital deben tomarse por instituciones democráticas que rindan cuentas, lo cual excluye a países de rápido desarrollo como China.
Propuestas de Anthropic para la seguridad informática mundial
Por videoconferencia, Amodei propuso tres ejes claves para la gobernanza digital:
-
Acuerdos globales específicos (como prohibir la IA en armas biológicas).
-
Sistemas de evaluación y verificación del cumplimiento mutuo.
-
Normas globales comunes para probar la tecnología y notificar incidentes de seguridad.
Cooperación geopolítica ante el avance tecnológico
Amodei afirmó que este es el problema de seguridad mundial más grave de la actualidad, exigiendo a las potencias dejar de lado sus diferencias.
El dilema entre el catastrofismo y el optimismo tecnológico
Aunque Altman aclaró que una catástrofe es inaceptable, también pidió evitar extremos: ni el pánico catrofista de que la IA destruirá a la humanidad, ni el optimismo ciego que minimiza las amenazas de la tecnología.
El futuro del debate en las Naciones Unidas
Aunque no se prevén acuerdos por escrito inmediatos, la reunión representa el germen para sembrar el debate global sobre el control de la inteligencia artificial.
