Les créateurs d'une application permettant aux utilisateurs de "déshabiller" virtuellement les femmes à l'aide de l'intelligence artificielle l'ont fermée après un tollé sur les réseaux sociaux concernant son potentiel d'abus.

Les créateurs de "DeepNude" ont déclaré que le logiciel avait été lancé il y a plusieurs mois pour le "divertissement" et qu'ils avaient "largement sous-estimé" la demande pour l'application.

"Nous n'avons jamais pensé que ce serait viral et (que) nous ne serions pas en mesure de contrôler le trafic, " les créateurs de DeepNude, qui ont indiqué leur emplacement comme l'Estonie, a déclaré sur Twitter.

"Malgré les mesures de sécurité adoptées (filigranes), si 500, 000 personnes l'utilisent, la probabilité que les gens en abusent est trop élevée. Nous ne voulons pas gagner de l'argent de cette façon."

Articles dans le Washington Post, Vice et d'autres médias ont montré comment l'application pouvait être utilisée pour prendre une photo d'une femme vêtue et la transformer en une image nue, suscitant l'indignation et un débat renouvelé sur la pornographie non consensuelle.

"C'est une invention horriblement destructrice et nous espérons vous voir bientôt subir les conséquences de vos actes, " a tweeté la Cyber ​​Civil Rights Initiative, un groupe qui cherche à se protéger contre la pornographie non consensuelle et « vengeresse ».

Marie-Anne Franks, professeur de droit et président du CCRI, tweeté plus tard, "C'est bien qu'il ait été fermé, mais ce raisonnement n'a aucun sens. L'UTILISATION PRÉVUE de l'application était de se livrer aux fantasmes sexuels prédateurs et grotesques d'hommes pathétiques."

DeepNude proposait une version gratuite de l'application ainsi qu'une version payante, et était la dernière d'une tendance de la technologie "deepfake" qui peut être utilisée pour tromper ou manipuler.

Bien que l'application ait été fermée, les critiques craignent que certaines versions du logiciel restent disponibles et soient maltraitées.

"L'application #Deepnude est maintenant disponible et sera utilisée, malgré le fait que le créateur l'ait retiré du marché. Si seulement il y avait un moyen de désactiver toutes les versions, " CCRI a tweeté.

© 2019 AFP