David Chiu, procureur de San Francisco, a envoyé des lettres de mise en demeure à Apple et Google exigeant le retrait immédiat de 13 applications qui permettent de dénuder des personnes et donc de proposer des deepfakes sexuels en s’aidant de l’intelligence artificielle. Selon les lettres consultées par Wired, David Chiu accuse les deux entreprises de faciliter activement la vente de ces images explicites avec les applications sur l’App Store et le Play Store.

App Store Icone Logo

Une demande pour retirer les applications de deepfakes sexuels sur l’App Store

Le procureur de San Francisco fonde son accusation sur un argument économique précis : il affirme qu’Apple et Google ont gagné des millions de dollars en commissions grâce aux paiements intégrés utilisés par ces applications qui dénudent. Les deux entreprises prélèvent en effet une commission sur chaque transaction effectuée via leurs systèmes de paiement intégré, ce qui transforme, selon le procureur, une simple négligence de modération en complicité lucrative. Il invoque à l’appui les lois californiennes sur les services de deepfake et affirme que « ces entreprises ont la responsabilité de s’assurer que les applications sur leurs plateformes ne facilitent pas les abus sexuels ».

Apple et Google disposent pourtant déjà de règles interdisant explicitement la pornographie, les abus et le harcèlement sur leurs boutiques d’applications respectives. Apple avait même renforcé ses règles de l’App Store en juin et avait procédé à des suppressions antérieures d’applications de deepfake qui dénudent. Google revendique de son côté avoir supprimé des centaines d’applications pour violation de ses règles, avoir restreint les résultats de recherche associés au terme « nudify » (dénuder) et avoir retiré cinq applications Android spécifiquement identifiées par le procureur de San Francisco. Un porte-parole dit que « le Google Play n’autorise pas les applications contenant du contenu sexuel et nous prenons continuellement des mesures proactives pour détecter et supprimer les applications à contenu nuisible ».

Ces mesures n’ont toutefois pas empêché les applications visées de rester disponibles pendant une longue période, malgré des signalements répétés de chercheurs et de journalistes dans les deux boutiques d’applications. David Chiu juge le processus de modération actuel insuffisant et réclame son amélioration, une démarche qui s’inscrit dans la continuité d’une action légale antérieure qu’il avait menée contre 16 sites Internet permettant de générer des deepfakes.