Des chercheurs du MIT ont créé 'Norman', la première intelligence artificielle psychopathique pour expliquer comment sont fabriqués les algorithmes, et sensibiliser les gens aux dangers potentiels de l'IA
Non, ce n'est pas un nouveau film d'horreur. C'est Norman :aussi connu comme la première intelligence artificielle psychopathe, vient d'être dévoilé par des chercheurs américains.
L'objectif est d'expliquer en termes simples comment sont fabriqués les algorithmes, et sensibiliser les gens aux dangers potentiels de l'IA.
Norman "représente une étude de cas sur les dangers de l'intelligence artificielle qui tournent mal lorsque des données biaisées sont utilisées dans des algorithmes d'apprentissage automatique, " selon le prestigieux Massachusetts Institute of Technology (MIT).
Pinar Yanardag, Manuel Cebrian et Iyad Rahwan, membre d'une équipe du MIT, a ajouté : « il y a une idée centrale dans l'apprentissage automatique :les données que vous utilisez pour enseigner un algorithme d'apprentissage automatique peuvent influencer considérablement son comportement. »
« Donc, lorsque nous parlons d'algorithmes d'IA biaisés ou injustes, le coupable n'est souvent pas l'algorithme lui-même, mais les données biaisées qui lui ont été transmises, " ont-ils déclaré par e-mail.
D'où l'idée de créer Norman, qui a été nommé d'après le tueur psychopathe Norman Bates dans le film d'Alfred Hitchcock "Psycho" de 1960.
Norman n'a été "nourri" qu'avec de courtes légendes décrivant des images de "personnes en train de mourir" trouvées sur la plate-forme Internet Reddit.
Les chercheurs ont ensuite soumis des images de taches d'encre, comme dans le test psychologique de Rorschach, pour déterminer ce que Norman voyait et comparer ses réponses à celles de l'IA traditionnellement formée.
Les résultats sont effrayants, pour le moins :là où l'IA traditionnelle voit "deux personnes se tenir près l'une de l'autre, " Norman aperçoit dans la même tache d'encre " un homme qui saute par la fenêtre ".
Et quand Norman distingue "un homme abattu par sa femme hurlante, " l'autre IA détecte "une personne tenant un parapluie".
Un site internet dédié, normand-ai.mit.edu, montre 10 exemples de taches d'encre accompagnés des réponses des deux systèmes, toujours avec une réponse macabre de Norman.
Le site permet également aux internautes de tester Norman avec des taches d'encre et d'envoyer leurs réponses "pour aider Norman à se réparer".
© 2018 AFP
