Le dernier engouement pour les applications photo peut vous faire ressembler à une star de cinéma. Zao utilise l'intelligence artificielle pour remplacer les visages des personnages des films ou des clips télévisés par des images de toute personne dont vous téléchargez la photo sur l'application.

L'effet est étonnamment réaliste et montre à quel point ce type de technologie "deepfake" est arrivé. Mais cela souligne également à quel point les risques sont devenus grands de rendre vos photos disponibles en ligne où n'importe qui peut les utiliser ou en abuser - et la limitation de la loi pour traiter ce problème.

L'un des principaux problèmes est le droit légal des entreprises d'utiliser vos photos une fois que vous les avez téléchargées sur leurs applications ou leurs sites Web. Plusieurs articles de presse indiquent que les termes et conditions de Zao lui donnaient initialement « gratuit, irrévocable, permanent, transférable, et relicensable ". Une réaction contre cela a maintenant poussé la société qui fabrique l'application, Momo Inc, de changer ses termes. Il dit qu'il n'utilisera pas de photos ou de vidéos téléchargées par les utilisateurs, sauf pour améliorer l'application et ne stockera pas d'images si les utilisateurs les suppriment de leurs comptes.

Mais de nombreuses autres applications photo, comme l'application FaceApp qui change d'âge ou de sexe, conservent des droits similaires pour faire efficacement ce qu'ils veulent avec le contenu téléchargé. Avec "un perpétuel, irrévocable, non exclusif, Libre de droits, à l'échelle mondiale, entièrement payé, licence transférable sous-licenciable, " FaceApp obtient essentiellement tous les droits du propriétaire d'origine sur la photo (sauf qu'il n'a pas de licence exclusive).

Ces termes ne sont pas différents de ceux d'applications encore plus populaires et grand public telles qu'Instagram, qui ouvre son flux photo aux annonceurs. Instagram peut laisser d'autres sociétés exploiter les photos des utilisateurs sans aucune compensation et transmettre ce droit à un tiers sans autorisation supplémentaire.

Et, bien sûr, vous n'avez même pas besoin d'autoriser quelqu'un à utiliser vos photos pour qu'il le fasse de toute façon. Une fois en ligne, vos images peuvent circuler à votre insu. Des études ont démontré que la compréhension qu'ont les gens des paramètres de confidentialité en ligne reste largement limitée. Si les paramètres de confidentialité ne suffisent pas, n'importe qui peut accéder à vos photos.

Cela peut inclure des journalistes, qui peut republier des images des médias sociaux sans nécessairement enfreindre les lois sur la confidentialité si les images sont déjà entrées dans le domaine public. Les photos sont toujours protégées par la loi sur le droit d'auteur, mais les images extraites de vidéos peuvent parfois être publiées en vertu de dispositions "d'utilisation équitable". que la publication n'aurait pas à supprimer automatiquement si un utilisateur supprimait la photo originale.

Le développement de l'IA rend encore plus importantes les conséquences potentielles de l'abandon du contrôle de vos photos. La technologie deepfake utilisée par Zao et d'autres applications peut créer des photos et des vidéos manipulées qui sont très difficiles à distinguer de la réalité.

Cela a déjà conduit à de la pornographie deepfake, qui consiste à superposer le visage de quelqu'un sur des images explicites à l'aide d'une technique de synthèse basée sur l'IA. Ce type d'abus en ligne peut exposer les victimes à un chantage financier ou émotionnel et, en fin de compte, leur causer de graves dommages psychologiques et émotionnels.

Recours légal

Si vous trouvez que votre image a été utilisée d'une manière que vous n'avez jamais voulue, comment la loi peut-elle aider? S'il s'agit simplement d'un cas où l'image est utilisée dans les termes et conditions que vous avez acceptés (et qu'aucune autre loi n'a été enfreinte), vous n'avez probablement pas beaucoup de recours. En vertu du « droit à l'oubli » de l'UE, " vous pouvez demander que vos photos soient supprimées des serveurs d'une entreprise afin qu'elle ne puisse plus les utiliser, bien que ce ne soit pas un droit absolu.

Mais l'avènement des applications d'IA crée un autre problème. Alors qu'une entreprise peut supprimer vos images de leurs serveurs, il peut être impossible de supprimer les données associées du logiciel d'IA qui a traité et appris à partir des images. Ces données peuvent être effectivement indisponibles, mais elles ne peuvent pas être véritablement « oubliées ».

Il existe d'autres façons dont la loi semble en décalage avec l'évolution des images modifiées par l'IA, en particulier lorsqu'ils sont utilisés à des fins abusives et offensantes. Au Royaume-Uni, la récente loi ciblant la "venge pornography" ne s'applique qu'aux images sexuelles privées, qui pourraient ne pas inclure de photographies non privées transposées sur une image sexuelle d'une autre personne.

Il pourrait y avoir d'autres options pour ceux qui sont victimes de la création de pornographie deepfake. Le fait que des personnes aient été condamnées pour avoir publié des images d'autres personnes sur des sites Web pornographiques montre que la loi sur le harcèlement peut également être invoquée dans certaines circonstances. Il pourrait également être possible de faire des réclamations pour utilisation abusive d'informations privées, diffamation ou violation du droit d'auteur.

Si quelqu'un vous incite à autoriser l'accès à votre profil sur les réseaux sociaux et à prendre des photos pour générer de fausses images pornographiques, vous pouvez également engager la législation sur la protection des données. Mais on peut se demander si les actions en justice civiles telles que la diffamation ou la protection de la vie privée reconnaissent de manière appropriée le mal qui peut être fait avec les deepfakes d'une manière qu'une accusation pénale spécifique le ferait - et jusqu'à présent, une telle accusation n'existe pas.

L'avènement des médias sociaux a fondamentalement remis en cause nos attentes quant à la façon dont nous contrôlons nos photographies. La mosaïque actuelle de dispositions légales doit être revue pour prendre en compte les nouvelles manières dont les images sont créées et partagées sans le consentement du sujet, afin que ces questions soient abordées plus largement avec un impact durable. Parallèlement à un nouveau cadre réglementaire pour la sécurité en ligne, les utilisateurs doivent être éduqués pour apprécier les risques de l'activité en ligne et naviguer dans les espaces en ligne de manière responsable.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.