Apple était allé très loin (trop loin ?) avec sa solution de détection automatique d’images pédopornographiques sur les comptes iCloud, une mesure qui avait abouti à une levée de bouclier des associations de défense de la vie privée et des utilisateurs du numérique. La firme de Cupertino avait fini par retirer sa mesure sous le poids des critiques, mais finalement, c’est peut-être l’Europe qui va reprendre la balle au bond.

La Commission européenne dévoile en effet aujourd’hui même un projet de lutte contre les abus sexuels d’enfants basé sur la détection automatique et obligatoire d’images pédopornographiques dans toutes les messageries. existantes. Certes, la procédure semble à priori moins intrusive que ce prévoyait de faire Apple sur les comptes iCloud, sans compter que le chiffrement de bout en bout ne serait pas remis en cause, mais le projet inquiète déjà certaines associations qui craignent que les mesures prises se révèlent inefficaces contre les vrais coupables tout en augmentant les risques de pénaliser des utilisateurs innocents (risque de faux positif).

Pour rappel, Apple intègre déjà dans Messages une fonction (optionnelle) de détection d’images sensibles (images à caractère sexuel, ou de la simple nudité), fonction active dans certains pays uniquement.