Lorsque les chercheurs conçoivent des systèmes d'apprentissage automatique, leur objectif est généralement d'automatiser certaines fonctions. Au lieu d'être totalement autonome, cependant, la plupart de ces systèmes fonctionnent avec les humains. Afin d'être vraiment utile, ils ont besoin de comprendre quels sont les objectifs des gens.

Les chercheurs du Centre finlandais d'intelligence artificielle (FCAI) ont maintenant pris des mesures importantes pour concevoir une IA qui comprend les gens.

En premier, les chercheurs ont appris à l'IA à construire un modèle de son utilisateur, humain ou machine. Puis, ils lui ont appris à adapter ce modèle en suivant les actions de l'utilisateur. En pratique, les chercheurs ont développé des méthodes d'apprentissage automatique qui combinent statistiques et calcul, puis testé les méthodes en pratique et en simulation. Ils ont testé les algorithmes dans des situations simples afin de s'assurer qu'ils comprennent ce qui se passe exactement dans ces situations et rendent compte des événements avec précision.

Dans la première expérience, ils ont conçu un professeur d'IA pour l'apprentissage de l'IA.

"C'était difficile surtout parce que l'IA d'apprentissage pouvait décider ce qu'elle voulait apprendre, " explique Samuel Kaski, le directeur de FCAI et professeur à l'Université Aalto. Les chercheurs ont remarqué que l'apprenant en IA obtenait de meilleurs résultats d'apprentissage lorsque l'enseignant comprenait les informations qu'il avait déjà apprises et adaptait son matériel pédagogique à cet apprenant particulier.

Dans la deuxième expérience, les utilisateurs humains ont été invités à trouver un mot cible particulier en utilisant un moteur de recherche de mots basé sur l'IA. Le moteur présente à l'utilisateur un mot à la fois, et l'utilisateur lui dit alors si le mot présenté est utile pour trouver le mot cible. Si l'utilisateur recherche le mot "football, " par exemple, ils sont susceptibles de dire que le premier mot lié au sport présenté est utile, si tous les mots précédents ont été liés à la nourriture.

Les résultats de cette expérience ont montré que l'IA pouvait aider les utilisateurs à trouver les mots cibles plus rapidement si elle comprenait que, en répondant aux mots présentés d'une certaine manière, l'utilisateur veut orienter l'IA vers les bons mots. En d'autres termes, l'IA a pris en compte le fait que l'utilisateur essaie de l'enseigner.

Selon le professeur Kaski, ce sujet est important, car l'interaction entre l'utilisateur et l'IA devient beaucoup plus facile lorsque l'IA comprend les objectifs de son utilisateur. "Ensuite, l'utilisateur humain n'a plus besoin d'expliquer en détail ce qu'il attend de l'assistant IA."

L'un des principaux objectifs de FCAI est de développer une IA qui comprend les humains et qui soit compréhensible. "Jusque là, nous pouvons construire des systèmes d'IA qui ne comprennent les objectifs des utilisateurs que dans des situations très simples, ce qui signifie que la conception d'assistants d'IA vraiment utiles demande beaucoup de travail supplémentaire, " dit Kaski.