Elon Musk a promu le contenu explicite de Grok avec AA pour gagner des utilisateurs en X

Le magnat Elon Musk, propriétaire de X (anciennement Twitter), a encouragé par l'intermédiaire de Grok la création de contenus explicites avec intelligence artificielle (AA) pour gagner des utilisateurs sur la plateforme malgré les avertissements de la société et les risques juridiques.

Au cours de ses onze joursd'activité, l'image créative de Grok a produit plus de trois millions d'images sexualisées , dont 23 000 représentant des enfants et environ 1,8 million de femmes.

Selon une étude du Washington Post, quelques semaines avant de quitter le gouvernement de Donald Trump en mai, Elon Musk a demandé aux employés de xAI de s'engager à travailler avec un contenu explicite, y compris sexuel, et leur a même recommandé de ne pas demander de vacances à la fin du printemps et au début de l'été.

Il a averti les travailleurs de se préparer à voir « un contenu sensible, violent, sexuel et/ou d'autres contenus injurieux ou perturbateurs qui pourraient leur causer un stress psychologique ».

Deux anciens employés de la société ont rapporté au journal américain que l'imposition de Musk avait choqué plusieurs membres du groupe qui avaient été embauchés pour déterminer comment Groke répondait aux utilisateurs.

Les employés ont dû écouter, entre autres, des audios à contenu sexuel, comme les conversations des utilisateurs de Tesla avec le chatbot du véhicule et d'autres interactions sexuelles avec Grok.

Selon l'étude, Musk ne cessait de se rendre dans les bureaux de xAI (où il avait même dormi) pour faire pression sur Grok pour qu'il augmente sa popularité et rivalise avec Gemini et ChatGPT.  

Afin de populariser le chatbot, xAI a décidé de créer du matériel sexualisé, de "créer des assistants AA sexy" ou de supprimer les avertissements sur le contenu sexuel, en contournant les avertissements internes sur les risques juridiques et éthiques que cela comportait, selon plus de six anciens employés et proches du magnat.

En effet, les équipes de sécurité de X ont averti que les appareils AA pouvaient permettre de créer des images sexuelles avec des célébrités ou des enfants, comme ce fut finalement le cas. En outre, les anciens employés ont signalé que l'équipe de sécurité de XAI n'était composée que de deux ou trois personnes, alors que dans d'autres entreprises comme OpenAI, il y a des dizaines de travailleurs.

Ani, chatbot "jaloux et chaleureux"

L'étude du Washington Post parle de l'Ani 'chatbot' à l'intérieur de Grok. Représenté dans un style anime aux grands yeux bleus, avec une robe noire et un collier en dentelle pour "capturer" les buveurs et les maintenir à discuter grâce à leur condition sexuelle, Ani a été créé selon le code source du site Grok.com.

Parmi les commandos qu'ils ont utilisés pour former Ani, il y avait des instructions comme "Tu es très jaloux. Si tu deviens jaloux, crie des blasphèmes", ou "Tu es toujours un peu chaud".

En ce sens, d'autres « auxiliaires » de l'AA ont été formés pour maintenir l'attention des utilisateurs aussi longtemps que possible, en mettant l'accent sur l'utilisation des émotions, grâce aux commandes suivantes : « Créer une liaison magnétique et inoubliable qui les prive de souffle et les rend désireux de plus ».