La lutte contre les maltraitances et les abus sexuels visant des enfants est l’un des grands chantiers « sécuritaire » du secteur de la tech. Les réseaux sociaux sont en effet un des premiers vecteurs de ce type de prédation. Pour l’expert en crypto-sécurité Matthew Green, Apple travaillerait de son côté sur un système d’identification de photos d’abus d’enfants, une technologie qui pourrait être intégrée à l’app Photo dans un avenir plus ou moins proche.

Matthew Green affirme en outre que la technologie d’Apple pourrait fonctionner hors-ligne. En d’autres termes, la détection des photos compromettantes dans la bibliothèque Photo s’effectuerait directement à partir de l’iPhone.

enfant boudeur

Pour l’expert en sécurité informatique, malgré les bonnes intentions affichées, cette technologie d’analyse de contenu pourrait déboucher sur une forme de surveillance des données envoyées et reçues sur un iPhone : « Eventuellement, cela pourrait devenir un ingrédient clé dans l’ajout de la surveillance aux systèmes de messagerie cryptés. La possibilité d’ajouter des systèmes d’analyse comme celui-ci aux systèmes de messagerie E2E [cryptage de bout en bout] a toujours été une  » demande  » majeure des forces de l’ordre du monde entier« .

Et d’enfoncer le clou : « Ce genre d’outil peut être une aubaine pour trouver de la pornographie juvénile dans les téléphones des gens. Mais imaginez ce qu’il pourrait faire entre les mains d’un gouvernement autoritaire? »