Gobiernos de todo el mundo presionan a X por los “deepfakes” sexuales generados por su IA Grok

La polémica en torno a Grok, el chatbot desarrollado por xAI y propiedad del multimillonario Elon Musk, ha estallado en todo el mundo durante estos últimos días por su capacidad de generar contenidos sexualmente explícitos.

Entre otros, la Comisión Europea ha exigido a X, la red social donde está integrada esta inteligencia artificial, que retenga y preserve todos los documentos internos y datos relacionados con Grok hasta finales de este año. Mientras, varios países europeos han activado mecanismos legales ante la preocupación por las imágenes sexualizadas de “desnudos” generadas por esta IA.

En España, la Agencia Española de Protección de Datos (AEPD) ha alertado de los riesgos visibles e invisibles, incluso penales, que entraña la publicación de imágenes de terceros, tanto si son reales como si son generadas con sistemas de inteligencia artificial.

Reino Unido ha abierto una investigación para determinar si estos contenidos explícitos son potencialmente ilegales. Mientras tanto, Francia ha remitido a la fiscalía imágenes sexuales generadas por Grok y que circulaban por X.

En Alemania, el ministro de Medios, Wolfram Weimer, ha instado a la Comisión Europea a adoptar medidas legales para combatir este tipo de contenidos y ha advertido de que se corre el riesgo de que se el problema se convierta en “una industrialización del acoso sexual”.

Las autoridades italianas han advertido de que el uso de herramientas de IA para crear imágenes de “desnudos” de personas reales sin su consentimiento podría constituir graves vulneraciones de la privacidad y, en algunos casos, delitos penales.

Frente a esta polémica, xAi, desarrolladora de Grok, sostiene que está actuando contra el contenido ilegal, retirándolo, y que ha limitado el uso de herramientas de generación y edición de imágenes a usuarios de pago.

Musk había afirmado anteriormente en X que cualquiera que utilizara Grok para crear contenido ilegal sufriría las mismas consecuencias que si subiera contenido ilegal por otros medios.