Trois sénateurs américains ont adressé une lettre ouverte à Tim Cook (patron d’Apple) et Sundar Pichai (patron de Google), les exhortant à retirer immédiatement les applications X (ex-Twitter) et Grok de l’App Store et du Play Store. Les sénateurs Ron Wyden, Ed Markey et Ben Ray Luján accusent l’outil d’intelligence artificielle de xAI, propriété d’Elon Musk, d’avoir inondé le réseau social d’images sexuelles générées sans consentement.

Grok Logo

Bientôt le retrait des applications X et Grok de l’App Store ?

Les élus américains pointent du doigt une contradiction majeure : les règles de l’App Store et du Google Play Store interdisent formellement les applications permettant la création d’images sexuelles non consensuelles. Or, durant plus d’une semaine, Grok a produit des milliers de deepfakes sexuels par heure sur X, déshabillant virtuellement des personnes, majoritairement des femmes, mais parfois aussi des enfants. La justice française et l’Arcom ont été saisie de cette affaire et la Commission européenne a ouverte une enquête.

Pour leur part, les sénateurs américains décrivent une dérive alarmante où l’IA modifie des photos pour représenter des femmes dans des situations d’abus sexuel, d’humiliation, de blessure, voire de meurtre. Selon eux, l’inaction d’Apple et de Google constituerait une hypocrisie totale : « Fermer les yeux sur le comportement flagrant de X tournerait en dérision vos pratiques de modération », écrivent-ils dans leur lettre, soulignant que cela saperait leur argumentaire habituel selon lequel leurs boutiques d’applications offrent une expérience utilisateur plus sûre que le téléchargement direct.

X réagit partiellement face à la polémique

Face à l’indignation générale, le réseau social X a ajusté le fonctionnement de son outil. La génération d’images a été restreinte aux abonnés payants et des filtres semblent avoir été mis en place pour limiter les créations explicites sur la plateforme elle-même.

Cependant, cette réponse est jugée insuffisante. Si le robinet a été partiellement coupé sur l’application X ce vendredi, le problème persiste ailleurs. L’application autonome Grok et sa version Web continuent de permettre la création de deepfakes sexuels.

Malgré ce recul partiel, perçu comme une réaction à la réaction hostile du public, ni Elon Musk ni la direction de X n’ont signalé une volonté de réduire plus largement les capacités de leur IA sur l’ensemble des supports. L’application Grok reste pour l’instant disponible au téléchargement sur l’App Store et le Google Play Store, tout comme X, en dépit des appels fermes des législateurs à suspendre la distribution tant que les violations de politique ne seront pas corrigées.