Telegram explique comment Apple a été piegé pour retirer son application de l’App Store

Comme nous l’indiquions plus tôt, Apple a temporairement retiré l’application Telegram de l’App Store pendant plusieurs heures. Apple a déjà dit que c’était en lien avec du contenu pédopornographique. Maintenant, la messagerie donne sa version des faits.

C’est Paul Durov, le patron de Telegram, qui a posté un message sur X (ex-Twitter) pour expliquer la situation. Il confirme qu’un utilisateur a posté ce qu’il présente comme du contenu « porno illégal » dans un message. Mais il se trouve qu’il y a eu toute une manipulation pour alerter Apple afin de faire retirer l’application.

Paul Durov écrit :

Telegram supprimant rapidement les contenus illégaux des groupes publics à l’aide de divers outils de modération, l’attaquant a dû recourir à une astuce technique. Il a inséré du contenu illégal modifié par IA en éditant un ancien message dans une discussion de groupe active. De ce fait, le contenu était effectivement masqué aux membres du groupe, les empêchant ainsi de le voir ou de le signaler.

L’attaquant était un « extorqueur de suppression » : une personne qui exige une rançon des administrateurs de groupes en échange de ne pas s’en prendre à leurs communautés. Ces extorqueurs utilisent des comptes automatisés pour implanter du contenu illégal dans des groupes publics, puis le signalent directement à Apple dans le but de provoquer la suppression de communautés légitimes dont les administrateurs ont refusé de les payer.

D’un point de vue pratique, la présence de contenus pornographiques illégaux dans les groupes publics de Telegram ne constitue pas un problème systémique. Notre modération est efficace. Le fait que les attaquants doivent recourir à des contenus antidatés, pratiquement invisibles, et à d’autres astuces techniques en est la preuve.

A l’arrivée, le patron de Telegram parle de deux leçons que les développeurs doivent apprendre :

• Les extorqueurs ont trouvé le moyen de pousser Apple à réagir de manière excessive. Apple a retiré Telegram de l’App Store avant même de nous contacter. Cela crée un risque systémique potentiel pour toutes les applications mobiles hébergeant du contenu généré par les utilisateurs. Si une application utilisée par plus d’un milliard de personnes peut être retirée de l’App Store sans avertissement préalable, n’importe quelle application peut l’être.
• Les tactiques utilisées par les extorqueurs spécialisés dans les signalements abusifs évoluent, mettant en danger les communautés sur l’ensemble des plateformes sociales. Telegram possède une grande expérience dans l’identification des stratagèmes utilisés par les groupes organisés de signalement abusif et dans la protection des communautés légitimes (même lorsque cela risque d’entraîner le retrait temporaire de notre propre application de l’App Store). D’autres plateformes ne sont peut-être pas aussi bien préparées.