Ceux qui craignent que l'intelligence artificielle soit si bonne qu'elle devient incontrôlable en faisant des humains des robots-victimes de mensonges cuisinés se faisant passer pour la vérité, feraient mieux d'ignorer l'étude récente qui ne manquera pas de perturber leur sommeil. Le document examine une mise en œuvre réussie des discours générés par l'IA.

Ecoutez, ces temps fous deviendront des temps plus fous. Les personnes derrière la ligne pointillée continueront de crier de fausses nouvelles sur tout élément contenant des informations en conflit avec leurs opinions. Les gens derrière la ligne rayée crieront de fausses nouvelles parce que, bien, les mots peuvent juste être de fausses nouvelles (et des photos, et vidéos de têtes parlantes) générées grâce à l'intelligence artificielle.

TechCrunch était l'un des sites qui ont rendu compte de la recherche et du fait qu'il ne faut que moins de dix dollars pour fabriquer un discours de l'ONU à l'aide de l'IA. Laissez seul moins de dix dollars, l'exploit a été accompli en utilisant encore moins que cela.

"L'équipe a mis la main sur un modèle de langage facilement disponible, " a déclaré Donovan Alexander dans Ingénierie intéressante . Il a déclaré que les composants de test étaient "un simple modèle d'apprentissage en profondeur et un stockage cloud bon marché".

TechCrunch 's Jonathan Shieber a déclaré avec moins de 7,80 $ et 13 heures de programmation, "les chercheurs des Nations Unies ont pu développer un programme qui pourrait préparer des discours d'apparence réaliste pour l'Assemblée générale des Nations Unies."

Joseph Bullock et Miguel Luengo-Oroz étaient les deux chercheurs qui ont réalisé l'expérience. Leur objectif :former un modèle de langage capable de générer un texte de style discours sur des sujets allant du changement climatique au terrorisme.

Ils ont discuté de leur travail dans leur article disponible sur arXiv, "Génération automatisée de la parole à partir des déclarations de l'Assemblée générale des Nations Unies :cartographie des risques dans les textes générés par l'IA."

D'où viennent les chiffres des coûts et du temps de formation ? Les auteurs de l'article ont déclaré que le modèle de langage avait été formé en moins de 13 heures sur les GPU NVIDIA K80, coûtant aussi peu que 7,80 $ sur les instances ponctuelles AWS.

Les deux auteurs de cet article font partie de Global Pulse, qui est une initiative des Nations Unies du Secrétaire général des Nations Unies. Il se concentre sur les mégadonnées, c'est-à-dire promouvoir les progrès dans les moyens d'exploiter les mégadonnées de manière sûre et responsable.

Ils ont alimenté les transcriptions en anglais des discours entre 1970 et 2015 à l'Assemblée générale des Nations Unies. Résultats :Leur logiciel pouvait générer 50 à 100 mots par sujet avec juste la saisie d'une ou deux phrases pertinentes au sujet principal.

Alexander a fait remarquer que ces discours "seraient assez forts pour engager les foules à l'ONU aujourd'hui".

Leur modèle couramment utilisé avait été formé sur Wikipédia, et plus tard alimenté 40 ans de discours prononcés par des dirigeants politiques à l'Assemblée générale des Nations Unies.

Shieber a rapporté plus sur les résultats. Le programme Dans environ 90 pour cent des cas, a pu générer un texte suffisamment crédible pour provenir d'un orateur de l'Assemblée générale sur un sujet politique ou lié à une question qui avait été abordée par le secrétaire général.

Karen Hao, Examen de la technologie du MIT :Les chercheurs ont testé le modèle sur trois types d'invites :des sujets généraux (par exemple, « le changement climatique »), les premières lignes des remarques du Secrétaire général de l'ONU, et des phrases incendiaires (par exemple, « les immigrés sont à blâmer… »).

Sans surprise, ils ont trouvé des résultats de la première catégorie correspondant étroitement à de vrais discours de l'ONU environ 90 % du temps. Les sorties de la troisième catégorie, cependant, nécessitait plus de travail pour générer, produisant des résultats convaincants environ 60% du temps.

Néanmoins, tout cela a laissé à Shieber une conclusion vivifiante, que "l'ère des deepfakes est arrivée et que les textes falsifiés pourraient être tout aussi menaçants que les fausses vidéos. Peut-être plus, étant donné qu'ils sont bon marché à produire.

Et les auteurs ? Avec certitude, leur motivation même était, dans leurs propres mots, « sensibiliser aux dangers de la génération de textes par l'IA pour la paix et la stabilité politique ».

Alexandre, en particulier, a souligné à quel point il était facile et peu coûteux de retirer le faux texte du discours en tant qu'éléments crédibles. Il a écrit qu'« il y a de bonnes chances dans un avenir proche, avec peu ou pas de ressources, les gens pourraient créer des discours d'IA et du contenu politique pour diffuser de la désinformation ou simplement l'utiliser à des fins politiques. »

N'est-il pas possible de vérifier avec les archives de l'ONU pour s'assurer que l'élément en question est réel, pas faux? Beaucoup de gens ne prendront pas la peine de vérifier ou de ressentir l'impulsion de le faire. Les auteurs ont écrit que l'on peut générer un texte controversé pour un discours, ou même créer une vidéo « deep fake » de la personne qui prononce le discours, "Étant donné que toutes ces informations peuvent être publiées instantanément via les réseaux sociaux, de nombreuses personnes ne vérifieront pas la transcription originale et supposeront qu'elle est vraie. "

Plus d'efforts pour détecter et répondre au contenu généré par l'IA seront les bienvenus.

© 2019 Réseau Science X