Apple a retiré de l’App Store Kromix, une application de retouche d’images par intelligence artificielle qui dénude pour générer des deepfakes sexuels de femmes politiques américaines, après une enquête de Wired. Kromix avait été mise en avant dans des publicités sur les plateformes de Meta, qui a supprimé une campagne publicitaire de 32 annonces ciblant spécifiquement les hommes.
Kromix se présentait dans ses publicités comme « l’IA que les hommes utilisent vraiment », en revendiquant explicitement « aucune restriction » et en affirmant que « tous les personnages sont de vraies personnes ». Cette communication assumée sur l’absence de garde-fous a directement attiré l’attention certains sur la nature réelle du service proposé par cette application de retouche d’images par IA.
Ce sont ces publicités diffusées par Meta pour promouvoir Kromix qui ont déclenché la réaction en chaîne : la suppression de la campagne par Meta et le retrait de l’application par Apple sur l’App Store sont intervenus après que Wired a directement contacté les deux entreprises pour recueillir leurs commentaires sur ce dossier.
Un porte-parole d’Apple a justifié ce retrait en rappelant une position constante de l’entreprise :
Nous avons toujours strictement interdit les applications conçues pour générer, diffuser ou consulter du contenu pornographique. Les applications qui dénudent enfreignent nos règles de validation des applications et nous mettons tout en œuvre pour identifier et supprimer les applications, ainsi que les comptes de développeurs qui les gèrent et qui tentent de contourner nos procédures et nos politiques.
Déjà d’autres cas d’applications qui dénudent
Ce retrait ne constitue pas un cas isolé dans la politique récente d’Apple face à ce type d’application. Apple avait déjà retiré MaskAI de son App Store avant l’affaire Kromix. Elle aussi permettait de générer des deepfakes sexuelles. De son côté, le procureur de San Francisco David Chiu avait demandé à Apple et Google le retrait de huit applications qui dénudent.
Dans le cas de Kromix, aussi bien Meta qu’Apple sont fautifs : le premier pour avoir autorisé les campagnes publicitaires et le second pour avoir validé l’application sur l’App Store. Ils ont seulement réagi à avoir été contactés à ce sujet.
0 commentaires