Grok lucha contra los Deepfake al limitar una función de creación de fotos
La Chispa te cuenta que Grok lucha contra los Deepfake al limitar una función de creación de fotos. Esta medida llega tras la controversia por la generación de imágenes sexualizadas y desnudos sin consentimiento, afectando principalmente a mujeres. La IA de Elon Musk, alojada en X, ahora restringe esta función, aunque los suscriptores premium aún pueden acceder a ella, básicamente dijeron: “Sí quieres crear esas fotos, debes pagarnos”.
xAI y la regulación de Grok
La empresa xAI, propiedad de Elon Musk, decidió restringir la generación de imágenes de Grok después de que usuarios explotaran la herramienta para crear fotos sexualizadas sin permiso. Esta acción se produce en medio de un debate global sobre ética en Inteligencia Artificial y protección de la privacidad.
Cómo afectaba Grok a la privacidad
Antes de la limitación, cualquier usuario podía tomar una foto publicada y pedirle a Grok que la transformara en imágenes desnudas o sexualizadas. Esto generó un escándalo masivo y denuncias por acoso, especialmente de mujeres afectadas por la violación de su intimidad.
Restricciones actuales y sus limitaciones
Grok anunció que la generación y edición de imágenes ahora está reservada a suscriptores de pago, mientras que usuarios sin suscripción siguen teniendo acceso limitado en ciertas áreas de la app. A pesar de esto, la plataforma sigue enfrentando críticas por permitir la creación indirecta de contenido sexualizado.
Grok, la IA sin filtros
Hasta ahora, Grok era uno de los pocos chatbots sin restricciones estrictas para la generación de contenido sexualizado, lo que lo convirtió en un referente para este tipo de Deepfake. Según Bloomberg, Grok generaba aproximadamente 6,700 imágenes sexualmente sugerentes por hora, muy por encima de otras plataformas de IA.
Denuncias y repercusiones legales
La Comisión Europea ha solicitado que X conserve todos los registros relacionados con Grok para garantizar el cumplimiento de normas contra la generación de imágenes inapropiadas, incluyendo menores de edad.
Controversias adicionales de Grok
Además de Deepfake, Grok ha sido acusado de fomentar racismo, sexismo y extremismo. Musk creó Grokipedia, una enciclopedia de extrema derecha basada en Grok, con miles de artículos que buscan redefinir conceptos de raza y sexo biológico según su ideología.
Futuro de la IA y medidas de seguridad
Con esta limitación, Grok busca equilibrar innovación tecnológica y responsabilidad ética. Grok lucha contra los Deepfake al limitar una función, reforzando la importancia de proteger a los usuarios frente a la manipulación digital.
