Les faux contenus audio ou vidéo ont été classés par les experts comme l'utilisation la plus préoccupante de l'intelligence artificielle en termes d'applications potentielles pour le crime ou le terrorisme, selon un nouveau rapport de l'UCL.

L'étude, Publié dans Sciences criminelles et financé par le Dawes Center for Future Crime à l'UCL (et disponible sous forme de briefing politique), identifié 20 façons dont l'IA pourrait être utilisée pour faciliter la criminalité au cours des 15 prochaines années. Ceux-ci ont été classés par ordre de préoccupation—en fonction du préjudice qu'ils pourraient causer, le potentiel de profit ou de gain criminel, à quel point ils seraient faciles à réaliser et à quel point ils seraient difficiles à arrêter.

Les auteurs ont déclaré que le faux contenu serait difficile à détecter et à arrêter, et qu'il pouvait avoir divers objectifs, du discrédit d'une personnalité publique à l'extraction de fonds en se faisant passer pour le fils ou la fille d'un couple lors d'un appel vidéo. Un tel contenu, ils ont dit, peut conduire à une méfiance généralisée à l'égard des preuves audio et visuelles, ce qui serait en soi un préjudice sociétal.

En plus du faux contenu, cinq autres crimes liés à l'IA ont été jugés très préoccupants. Ceux-ci utilisaient des véhicules sans conducteur comme armes, aider à créer des messages de phishing plus personnalisés (spear phishing), perturber les systèmes contrôlés par l'IA, récolter des informations en ligne à des fins de chantage à grande échelle, et de fausses nouvelles créées par l'IA.

L'auteur principal, le professeur Lewis Griffin (UCL Computer Science) a déclaré :« Alors que les capacités des technologies basées sur l'IA se développent, il en va de même pour leur potentiel d'exploitation criminelle. Pour se préparer adéquatement à d'éventuelles menaces d'IA, nous devons identifier quelles pourraient être ces menaces, et comment ils peuvent avoir un impact sur nos vies."

Les chercheurs ont compilé les 20 crimes activés par l'IA à partir d'articles universitaires, rapports d'actualités et d'actualités, et la fiction et la culture populaire. Ils ont ensuite réuni 31 personnes ayant une expertise en IA pour deux jours de discussions afin de classer la gravité des crimes potentiels. Les participants étaient issus du milieu universitaire, le secteur privé, la police, le gouvernement et les agences de sécurité de l'État.

Les crimes qui étaient moyennement préoccupants comprenaient la vente d'articles et de services frauduleusement étiquetés comme « IA », comme le filtrage de sécurité et la publicité ciblée. Ceux-ci seraient faciles à réaliser, avec des profits potentiellement importants.

Les crimes peu préoccupants comprenaient les robots cambrioleurs - de petits robots utilisés pour entrer dans les propriétés par des points d'accès tels que des boîtes aux lettres ou des chatières - qui ont été jugés faciles à vaincre, par exemple à travers des cages boîtes aux lettres, et la traque assistée par l'IA, lequel, bien qu'extrêmement dommageable pour les individus, ne pouvait pas fonctionner à grande échelle.

Le premier auteur, le Dr Matthew Caldwell (UCL Computer Science) a déclaré :« Les gens mènent désormais une grande partie de leur vie en ligne et leur activité en ligne peut faire et défaire les réputations. Un tel environnement en ligne, où les données sont la propriété et le pouvoir d'information, est idéalement adapté à l'exploitation par une activité criminelle basée sur l'IA.

"Contrairement à de nombreux crimes traditionnels, les crimes dans le domaine numérique peuvent être facilement partagés, répété, et même vendu, permettant de commercialiser des techniques criminelles et de fournir le crime en tant que service. Cela signifie que les criminels peuvent être en mesure d'externaliser les aspects les plus difficiles de leur crime basé sur l'IA. »

Professeur Shane Johnson, Directeur du Dawes Center for Future Crimes à l'UCL, qui a financé l'étude, a déclaré :« Nous vivons dans un monde en constante évolution qui crée de nouvelles opportunités, bonnes et mauvaises. En tant que tel, il est impératif que nous anticipions les futures menaces criminelles afin que les décideurs politiques et les autres parties prenantes ayant la compétence d'agir puissent le faire avant que de nouvelles « récoltes criminelles » ne se produisent. Ce rapport est le premier d'une série qui identifiera les futures menaces criminelles associées aux technologies nouvelles et émergentes et ce que nous pourrions faire à leur sujet."