Il en faut beaucoup pour choquer Kelvin Lay. Mon ami et collègue a été responsable de la création des premières unités africaines dédiées à l'exploitation des enfants et à la traite des êtres humains, et pendant de nombreuses années, il a été enquêteur principal pour le Centre de protection en ligne contre l'exploitation des enfants de la National Crime Agency du Royaume-Uni, spécialisé dans les poursuites extraterritoriales contre les enfants. exploitation à travers le monde.
Mais ce qui s’est passé lorsqu’il s’est récemment porté volontaire pour une démonstration d’un logiciel d’identification de pointe l’a laissé sans voix. Quelques secondes après avoir reçu une image de l'apparence actuelle de Lay, l'application d'IA a trouvé une quantité vertigineuse de photos en ligne de lui qu'il n'avait jamais vues auparavant, y compris à l'arrière-plan des photographies de quelqu'un d'autre lors d'un match de rugby des Lions britanniques à Auckland huit. ans plus tôt.
"C'était époustouflant", m'a dit Lay. "Et puis le manifestant a fait défiler vers le bas jusqu'à deux autres photos, prises sur deux plages distinctes – une en Turquie et une autre en Espagne – probablement récoltées sur les réseaux sociaux. Il s'agissait d'une autre famille mais avec moi, ma femme et mes deux enfants en arrière-plan. Les enfants auraient eu six ou sept ans; ils ont maintenant 20 et 22 ans."
L'IA en question faisait partie d'un arsenal de nouveaux outils déployés à Quito, en Équateur, en mars, lorsque Lay a travaillé avec un groupe de travail de dix pays pour identifier et localiser rapidement les auteurs et les victimes d'exploitation et d'abus sexuels d'enfants en ligne - une pandémie cachée avec plus de 300 millions de victimes dans le monde chaque année.
C'est là qu'intervient le travail du Childlight Global Child Safety Institute, basé à l'Université d'Édimbourg. Lancé il y a un peu plus d'un an en mars 2023 avec le soutien financier de la Human Dignity Foundation, la vision de Childlight est d'utiliser l'éclairage puissance des données et des connaissances pour mieux comprendre la nature et l'étendue de l'exploitation et des abus sexuels sur les enfants.
Je suis professeur de recherche internationale sur la protection de l'enfance et directeur des données de Childlight. Depuis près de 20 ans, je fais des recherches sur les abus sexuels et la maltraitance des enfants, notamment avec l'Alliance de la ville de New York contre les agressions sexuelles et l'Unicef.
La lutte pour protéger nos jeunes contre tout danger a été entravée par un manque de données :la qualité et la cohérence des données diffèrent à travers le monde, les définitions diffèrent et, franchement, la transparence n'est pas ce qu'elle devrait être. Notre objectif est de travailler en partenariat avec de nombreux autres acteurs pour contribuer à intégrer le système, combler les lacunes en matière de données et mettre en lumière certains des crimes les plus sombres au monde.
Notre nouveau rapport, Into The Light, a produit les premières estimations mondiales de l'ampleur du problème en termes de victimes et d'auteurs.
Nos estimations sont basées sur une méta-analyse de 125 études représentatives publiées entre 2011 et 2023 et soulignent qu'un enfant sur huit, soit 302 millions de jeunes, a été victime d'abus et d'exploitation sexuels en ligne au cours de l'année précédant les enquêtes nationales. /P>
De plus, nous avons analysé des dizaines de millions de rapports adressés aux cinq principales organisations mondiales de surveillance et de police :l'Internet Watch Foundation (IWF), le National Center for Missing and Exploited Children (NCMEC), le Centre canadien de protection de l'enfance (C3P), le Association internationale des lignes d'assistance Internet (INHOPE) et base de données internationale sur l'exploitation sexuelle des enfants (ICSE) d'Interpol. Cela nous a aidé à mieux comprendre la nature des images et des vidéos d'abus sexuels sur des enfants en ligne.
Même si d'énormes lacunes dans les données signifient qu'il ne s'agit que d'un point de départ, et loin d'être un chiffre définitif, les chiffres que nous avons découverts sont choquants.
Nous avons constaté que près de 13 % des enfants dans le monde ont été victimes de prise, de partage et d'exposition non consensuelles à des images et des vidéos à caractère sexuel.
En outre, on estime qu'un peu plus de 12 % des enfants dans le monde ont fait l'objet de sollicitations en ligne, telles que des discussions à caractère sexuel non désirées pouvant inclure des sextings non consensuels, des questions à caractère sexuel non désirées et des demandes d'actes sexuels non désirés de la part d'adultes ou d'autres jeunes.
Les cas ont grimpé en flèche depuis que la COVID a changé les habitudes en ligne du monde. Par exemple, l'Internet Watch Foundation (IWF) a rapporté en 2023 que les images d'abus sexuels sur des enfants mettant en scène des enfants d'écoles primaires âgés de sept à dix ans entraînés à commettre des actes sexuels en ligne avaient augmenté de plus de 1 000 % depuis le confinement du Royaume-Uni.
L'association caritative a souligné que pendant la pandémie, des milliers d'enfants sont devenus plus dépendants d'Internet pour apprendre, socialiser et jouer et que c'est un phénomène que les prédateurs d'Internet ont exploité pour contraindre davantage d'enfants à des activités sexuelles, y compris parfois même des amis ou des frères et sœurs via des webcams. et les smartphones.
Il y a également eu une forte augmentation des signalements de « sextorsion financière », avec des enfants victimes de chantage à cause d'images sexuelles que leurs agresseurs les ont amenés à fournir – avec des résultats souvent tragiques, avec une vague de suicides à travers le monde.
Ces abus peuvent également utiliser la technologie de deepfake de l'IA, notoirement utilisée récemment pour générer de fausses images sexuelles de la chanteuse Taylor Swift.
Nos estimations indiquent qu'un peu plus de 3 % des enfants dans le monde ont été victimes d'extorsion sexuelle au cours de l'année écoulée.
Cette pandémie d’exploitation et d’abus sexuels sur enfants touche les élèves de chaque classe, de chaque école, de chaque pays, et doit être combattue de toute urgence en tant qu’urgence de santé publique. Comme pour toutes les pandémies, telles que la COVID et le SIDA, le monde doit s'unir et fournir une réponse immédiate et globale de santé publique.
Notre rapport met également en évidence une enquête qui examine un échantillon représentatif de 4 918 hommes âgés de plus de 18 ans vivant en Australie, au Royaume-Uni et aux États-Unis. Il a produit des découvertes surprenantes. En termes d'auteurs :
Internet a permis aux communautés de délinquants sexuels de partager facilement et rapidement des images d'abus et d'exploitation d'enfants à une échelle stupéfiante, ce qui, à son tour, augmente la demande pour ce type de contenu parmi les nouveaux utilisateurs et augmente les taux de maltraitance des enfants, brisant d'innombrables vies.
En fait, plus de 36 millions de signalements d'images sexuelles en ligne d'enfants victimes de toutes les formes d'exploitation et d'abus sexuels ont été déposés en 2023 auprès des organismes de surveillance par des sociétés telles que X, Facebook, Instagram, Google, WhatsApp et des membres du public. . Cela équivaut à un rapport toutes les secondes.
Comme partout dans le monde, l’Équateur est aux prises avec ce problème moderne et transnational :la propagation rapide de l’exploitation et des abus sexuels sur enfants en ligne. On peut voir un agresseur, par exemple à Londres, payer un autre agresseur quelque part comme aux Philippines pour produire des images d'atrocités contre un enfant qui sont à leur tour hébergées par un centre de données aux Pays-Bas et dispersées instantanément dans plusieurs autres pays.
Lorsque Lay, qui est également directeur de l'engagement et des risques chez Childlight, était à Quito en 2024, la loi martiale signifiait qu'un grand hôtel normalement occupé par des touristes affluant pour les délices des îles Galápagos, était étrangement calme, à l'exception d'un groupe de 40 forces de l'ordre. analystes, chercheurs et procureurs qui avaient plus de 15 000 images et vidéos d'abus sexuels sur des enfants à analyser.
La cache de fichiers comprenait du matériel enregistré chaque année auprès des autorités, du contenu provenant d'appareils saisis et de la base de données International Child Sexual Exploitation (ICSE) d'Interpol. Les dossiers étaient potentiellement liés à des auteurs dans dix pays d'Amérique latine et des Caraïbes :Argentine, Chili, Colombie, Costa Rica, Équateur, El Salvador, Honduras, Guatemala, Pérou et République dominicaine.
L'exploitation des enfants existe partout dans le monde mais, sur la base des renseignements provenant de plusieurs partenaires sur le terrain, nous estimons qu'une majorité des pays membres d'Interpol manquent de formation et de ressources pour répondre correctement aux preuves de matériels d'abus sexuels sur enfants qui leur sont partagés par des organisations. comme le Centre national pour les enfants disparus et exploités (NCMEC). Le NCMEC est un organisme créé par le Congrès américain pour enregistrer et traiter les preuves de matériels d'abus sexuels sur des enfants téléchargés dans le monde entier et repérés, en grande partie, par les géants de la technologie. Cependant, nous pensons que ce manque de capacité signifie que des millions de rapports alertant les forces de l'ordre sur des contenus abusifs ne sont même pas ouverts.
L'opération en Équateur, en collaboration avec le Centre international pour les enfants disparus et exploités (ICMEC) et la sécurité intérieure des États-Unis, visait à contribuer à changer cette situation en aidant les autorités à développer davantage de compétences et de confiance pour identifier et localiser les délinquants sexuels et secourir les enfants victimes.
Au cœur de l'opération de Quito se trouvait la base de données d'Interpol qui contient environ cinq millions d'images et de vidéos que des enquêteurs spécialisés de plus de 68 pays utilisent pour partager des données et coopérer sur des affaires.
À l’aide d’un logiciel de comparaison d’images et de vidéos – essentiellement un travail d’identification avec photo qui reconnaît instantanément l’empreinte numérique des images – les enquêteurs peuvent comparer rapidement les images qu’ils ont découvertes avec les images contenues dans la base de données. Le logiciel peut établir instantanément des liens entre les victimes, les agresseurs et les lieux. Cela évite également la duplication des efforts et permet de gagner un temps précieux en permettant aux enquêteurs de savoir si des images ont déjà été découvertes ou identifiées dans un autre pays. Jusqu'à présent, il a permis d'identifier plus de 37 900 victimes dans le monde.
Lay possède une expérience significative sur le terrain dans l'utilisation de ces ressources pour aider Childlight à transformer les données en action. Il a récemment fourni des conseils techniques aux forces de l'ordre au Kenya, où il a notamment utilisé des données pour arrêter le pédophile Thomas Scheller. En 2023, Scheller, 74 ans, a été condamné à 81 ans de prison. Le ressortissant allemand a été reconnu coupable par un tribunal de Nairobi de trois chefs d'accusation de traite, d'actes indécents sur des mineurs et de possession de matériel pédopornographique.
Mais malgré ces avancées en matière de données, des inquiétudes subsistent quant à l’incapacité des forces de l’ordre à suivre le rythme d’un problème trop important pour que les agents puissent s’en sortir par des arrestations. C'est un phénomène rendu possible par les avancées technologiques émergentes, notamment les images d'abus générées par l'IA, qui menacent de submerger les autorités par leur ampleur.
À Quito, autour d'un repas chaud de saison des pluies composé d'encocado de pescado, un savoureux plat régional de poisson dans une sauce à la noix de coco servi avec du riz blanc, Lay a expliqué :« Ce n'est certainement pas pour isoler l'Amérique latine, mais il est devenu clair qu'il existe un Il y a un déséquilibre dans la manière dont les pays du monde traitent les données. Certains traitent pratiquement toutes les références reçues, et si elles ne sont pas traitées et que quelque chose se produit, les gens peuvent perdre leur emploi. certains pays reçoivent chaque jour des milliers de références par e-mail qui ne sont même pas ouvertes."
Nous constatons désormais que les progrès technologiques peuvent également être utilisés pour lutter contre les prédateurs sexuels en ligne. Mais l'utilisation d'une telle technologie soulève des questions éthiques.
L’outil d’IA puissant, mais controversé, qui a laissé Lay sans voix, en est un bon exemple :l’un des nombreux outils de reconnaissance faciale d’IA arrivés sur le marché, et avec de multiples applications. La technologie peut aider à identifier les personnes à l'aide de milliards d'images récupérées sur Internet, y compris sur les réseaux sociaux.
Un logiciel de reconnaissance faciale par IA comme celui-ci aurait été utilisé par l'Ukraine pour démystifier de fausses publications sur les réseaux sociaux, améliorer la sécurité aux points de contrôle et identifier les infiltrés russes, ainsi que les soldats morts. Il aurait également été utilisé pour identifier les émeutiers qui ont pris d'assaut la capitale américaine en 2021.
Le magazine New York Times a rapporté un autre cas remarquable. En mai 2019, un fournisseur d'accès Internet a alerté les autorités après qu'un utilisateur ait reçu des images montrant des abus sexuels sur une jeune fille.
Une image granuleuse contenait un indice essentiel :un visage adulte visible en arrière-plan que la société de reconnaissance faciale a pu faire correspondre à une image sur un compte Instagram représentant le même homme, toujours en arrière-plan. Et ce, en dépit du fait que l'image de son visage aurait semblé avoir environ la moitié de la taille d'un ongle humain en la regardant. Cela a aidé les enquêteurs à identifier son identité et l'emplacement de Las Vegas où il créait du matériel d'abus sexuel sur des enfants à vendre sur le dark web. Cela a conduit au sauvetage d'une fillette de sept ans et à sa condamnation à 35 ans de prison.
De son côté, le gouvernement britannique a récemment affirmé que les logiciels de reconnaissance faciale pouvaient permettre à la police de « garder une longueur d'avance sur les criminels » et de rendre les rues britanniques plus sûres. Bien que, pour le moment, l'utilisation de tels logiciels ne soit pas autorisée au Royaume-Uni.
Lorsque Lay s'est porté volontaire pour permettre l'analyse de ses propres caractéristiques, il a été stupéfait de constater qu'en quelques secondes l'application produisait une multitude d'images, dont une le montrant à l'arrière-plan d'une photo prise lors d'un match de rugby des années auparavant. Pensez à la façon dont les enquêteurs peuvent également identifier un tatouage distinctif ou un papier peint inhabituel là où des abus ont eu lieu et le potentiel de cela en tant qu'outil de lutte contre la criminalité est facile à apprécier.
Bien entendu, il est également facile de comprendre les préoccupations de certaines personnes concernant les libertés civiles, qui ont limité l’utilisation de cette technologie à travers l’Europe. Entre de mauvaises mains, que pourrait signifier une telle technologie pour un dissident politique caché par exemple ? Une start-up chinoise de reconnaissance faciale a par exemple fait l'objet d'une surveillance de la part du gouvernement américain pour son rôle présumé dans la surveillance du groupe minoritaire ouïghour.
Des arguments similaires sont parfois avancés par les grands partisans du chiffrement de bout en bout sur les applications populaires :des applications qui sont également utilisées pour partager des fichiers d'abus et d'exploitation d'enfants à l'échelle industrielle, éteignant ainsi la lumière sur certains des crimes les plus sombres au monde.
Pourquoi, demandez aux puristes de la vie privée, quelqu'un d'autre devrait-il avoir le droit de connaître son contenu privé ?
Ainsi, certains peuvent penser que nous avons atteint un point kafkaïen où le droit à la vie privée des agresseurs risque de l'emporter sur le droit à la vie privée et à la sécurité des enfants dont ils abusent.
Il est donc clair que si le cryptage des applications de partage de fichiers populaires doit devenir la norme, il faut trouver un équilibre qui réponde au désir de confidentialité de tous les utilisateurs, avec la détection proactive des contenus pédopornographiques en ligne.
Meta a montré récemment qu'il existe un potentiel de compromis susceptible d'améliorer la sécurité des enfants, au moins dans une certaine mesure. Instagram, décrit récemment par la NSPCC comme la plateforme la plus utilisée pour le toilettage, a développé un nouvel outil visant à bloquer l'envoi d'images sexuelles aux enfants, même si, notamment, les autorités ne seront pas alertées de ceux qui envoient le matériel.
Cela impliquerait ce qu'on appelle une analyse côté client qui, selon Meta, sape la principale fonctionnalité de protection de la vie privée du cryptage, à savoir que seuls l'expéditeur et le destinataire connaissent le contenu des messages. Meta a déclaré qu'elle signalait au NCMEC tous les cas apparents d'exploitation d'enfants apparaissant sur son site, où que ce soit dans le monde.
Selon Lay, le compromis avec l’utilisation de l’IA pour détecter les délinquants est simple :garantir qu’elle ne peut être utilisée que sous la stricte licence de professionnels de la protection de l’enfance avec des contrôles appropriés en place. Ce n’est pas « une solution miracle », m’a-t-il expliqué. L'identification basée sur l'IA devra toujours être suivie par un travail de police à l'ancienne, mais tout ce qui peut « réaliser en 15 secondes ce que nous passions des heures et des heures à essayer d'obtenir » mérite un examen attentif, estime-t-il.
L’opération en Équateur, combinant l’IA et le travail traditionnel, a eu un impact immédiat en mars. L'ICMEC rapporte qu'elle a abouti à un total de 115 victimes (principalement des filles et pour la plupart âgées de 6 à 12 ans et de 13 à 15 ans) et 37 délinquants (principalement des hommes adultes) identifiés positivement dans le monde. En trois semaines, l'ICMEC a déclaré que 18 interventions internationales avaient eu lieu, avec 45 victimes sauvées et sept agresseurs arrêtés.
D’une manière ou d’une autre, un compromis doit être trouvé pour faire face à cette pandémie. "Les abus sexuels sur enfants constituent une crise de santé publique mondiale qui ne cesse de s'aggraver grâce aux progrès technologiques qui permettent la production instantanée et la distribution illimitée de matériel d'exploitation d'enfants, ainsi que l'accès non réglementé aux enfants en ligne."
Ce sont les mots de la Tasmanienne Grace Tame :une survivante remarquable des abus subis pendant l'enfance et directrice exécutive de la Fondation Grace Tame qui œuvre pour lutter contre les abus sexuels sur les enfants.
"Comme d'innombrables enfants victimes d'abus sexuels, ma vie a été complètement bouleversée par les effets durables du traumatisme, de la honte, de l'humiliation publique, de l'ignorance et de la stigmatisation. J'ai déménagé à l'étranger à 18 ans parce que je suis devenu un paria dans ma ville natale, je n'ai pas poursuivi d'études supérieures. éducation comme espéré, abusé de l'alcool et des drogues, s'est automutilé et a travaillé plusieurs emplois au salaire minimum. Tame estime qu'"une base de données de recherche mondiale centralisée est essentielle à la protection des enfants".
Si Internet et la technologie nous ont amenés là où nous en sommes aujourd’hui, l’IA utilisée à Quito pour sauver 45 enfants est une puissante démonstration du pouvoir de la technologie pour le bien. De plus, le travail du groupe de travail composé de dix pays témoigne du potentiel des réponses mondiales à un problème mondial sur un Internet qui ne connaît pas de frontières nationales.
Une plus grande collaboration, une plus grande éducation et, dans certains cas, une réglementation et une législation peuvent tous aider, et ils sont nécessaires sans délai car, comme le dit le mantra de Childlight, les enfants ne peuvent pas attendre.
Fourni par The Conversation
Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lisez l'article original. 
