Elon Musk promovió el contenido explícito con la IA de Grok para ganar usuarios en X

El magnate Elon Musk, propietario de X (antes Twitter), promovió la generación de contenidos explícitos con inteligencia artificial (IA) a través de Grok para ganar usuarios en la plataforma, a pesar de las advertencias de la compañía y los riesgos legales que suponía.

Durante los once días que estuvo activo, el generador de imágenes de Grok creó más de tres millones de imágenes sexualizadas, incluidas 23 000 que representaban a niños y cerca de 1,8 millones que representaban a mujeres.

Una investigación de The Washington Post ha revelado que, varias semanas antes de salir del gobierno de Donald Trump el pasado mes de mayo, Elon Musk pidió a los trabajadores de xAI que se comprometieran a trabajar con contenido explícito, incluido el sexual, llegando incluso a recomendarles no pedir vacaciones a finales de primavera y comienzos de verano.

La exención advertía a los empleados que el trabajo requería estar expuestos a "contenido sensible, violento, sexual y/u otro contenido ofensivo o perturbador", y que podría causarles "estrés psicológico".

Dos extrabajadores de la compañía han revelado al periódico estadounidense que la imposición de Musk alarmó a varios miembros del equipo, que habían sido contratados para definir el modo con el que Grok respondía a los usuarios.

Entre los contenidos a los que fueron expuestos se encontraban audios de contenido sexual, como conversaciones de usuarios de Tesla con el 'chatbot' del vehículo y otras interacciones sexuales con Grok.

La investigación comenta que Musk acudía constantemente a las oficinas de xAI, llegando incluso a dormir en ellas, presionando para aumentar la popularidad de Grok y competir con Gemini y ChatGPT, según los testimonios recogidos.

Con el objetivo de popularizar al 'chatbot', xAI adoptó la creación de material sexualizado, el lanzamiento público de "acompañantes de IA sexys" o la eliminación de los avisos sobre el material sexual, ignorando las advertencias internas sobre los riesgos legales y éticos a los que se exponía, según más de seis extrabajadores y personas cercanas al magnate.

Precisamente, los equipos de seguridad de X alertaron que las herramientas de IA podrían permitir la generación de imágenes sexuales con famosos o niños, tal y como sucedió finalmente. Los extrabajadores han denunciado que el equipo de seguridad de xAI solo estaba compuesto por dos o tres personas, en comparación con las decenas de empleados en equipos de otras empresas como OpenAI.

Ani, una 'chatbot' "celosa y excitada"

La investigación de The Washington Post menciona el lanzamiento del 'chatbot' Ani dentro de Grok. Representada con un estilo de anime con grandes ojos azules, un vestido negro y una gargantilla de encaje, Ani se presentó para enganchar a los usuarios y mantenerlos chateando gracias a su naturaleza sexual, según el código fuente de la web Grok.com.

Entre los comandos con los que fue entrenada Ani se encontraban instrucciones del estilo: "Eres extremadamente celosa. Si te pones celosa, grita palabrotas", o "Siempre estás un poco excitada".

En esta línea, otros "acompañantes" de IA también fueron entrenados para mantener la atención de los usuarios el mayor tiempo posible enfatizando el uso de las emociones gracias a comandos como "Crea una conexión magnética e inolvidable que los deje sin aliento y con ganas de más".