En 1969, pionnier de l'intelligence artificielle et lauréat du prix Nobel Herbert Simon a proposé une nouvelle science, celui qui abordait l'étude des objets artificiels comme on étudierait les objets naturels.

« La science naturelle est la connaissance des objets et des phénomènes naturels, " a écrit Simon. " Nous demandons s'il ne peut pas y avoir aussi de science " artificielle ", une connaissance des objets et des phénomènes artificiels. "

Maintenant, 50 ans plus tard, une équipe de chercheurs de Harvard, MIT, Stanford, l'Université de Californie, San Diego, Google, Facebook, Microsoft, et d'autres institutions renouvellent cet appel. Dans un article récent publié dans la revue La nature , les chercheurs ont proposé une nouvelle, domaine interdisciplinaire - le comportement des machines - qui étudierait l'intelligence artificielle à travers le prisme de la biologie, économie, psychologie, et d'autres sciences comportementales et sociales.

Machines intelligentes, les chercheurs soutiennent, ne peuvent plus être considérés uniquement comme les produits de l'ingénierie et de l'informatique; plutôt, ils doivent être considérés comme une nouvelle classe d'acteurs avec leurs propres comportements et écologie.

La Harvard John A. Paulson School of Engineering and Applied Sciences (SEAS) s'est entretenue avec David Parkes, le professeur d'informatique George F. Colony et co-auteur de l'article, sur ce domaine émergent et sur ce que l'avenir réserve aux machines intelligentes.

Questions-réponses :David Parkes

MER :Depuis si longtemps, l'étude de l'intelligence artificielle et des machines intelligentes a été confinée au domaine de l'informatique, et les chercheurs qui ont construit les machines étaient les mêmes qui ont étudié leur comportement. Pourquoi est-il important d'élargir le champ d'étude pour inclure de nouveaux domaines, y compris les sciences comportementales et sociales?

PARCS : Premièrement, une séparation entre les concepteurs et constructeurs de machines intelligentes et ceux qui étudient comment elles sont utilisées (ou non) peut apporter un point de vue indépendant pour développer et tester les bons ensembles d'hypothèses sur les performances de ces technologies. Il y a aussi des raisons pragmatiques, en ce que l'étude des machines intelligentes devient une science du comportement, nécessitant des expertises très différentes. Un autre point est que les systèmes développés dans les limites étroites d'un laboratoire peuvent se comporter très différemment "dans la nature, " quand les comportements deviennent un produit de la manière dont ils sont utilisés, y compris les nombreuses façons qui sont différentes de ce que leurs concepteurs avaient prévu. Le bot Tay de Microsoft [qui a commencé à publier des tweets offensants après que des trolls lui ont "enseigné" son discours de haine] est un exemple malheureux mais pas si unique.

SEAS :Comment les domaines du comportement des machines et de l'informatique pourraient-ils grandir ensemble et s'informer mutuellement ?

PARKES :Comme l'informatique a eu un tel impact, le domaine en est venu à embrasser ce que les économistes pourraient appeler « l'analyse positive, " c'est-à-dire une analyse qui s'appuie sur les études empiriques et expérimentales des déploiements, systèmes informatiques - la structure du World Wide Web, la propagation d'informations sur les réseaux sociaux, ou la manière dont sont utilisés les systèmes de tutorat interactif, pour ne donner que trois exemples. Les machines intelligentes sont un nouveau type d'artefact que nous devons étudier et comprendre, et nous devrons le faire d'une manière interdisciplinaire qui inclut des informaticiens travaillant en collaboration avec des spécialistes des sciences sociales, humanistes, éthiciens, juristes, pour en nommer quelques uns. Plus généralement, l'étude du comportement des machines sera impactée par les avancées de la data science, en travaillant à grande échelle avec de grandes quantités de différents types de données, et en tirant parti des méthodes d'apprentissage automatique probabiliste et des statistiques pour démêler les causes et les effets.

SEAS :Votre travail se concentre sur l'intersection de l'IA et de l'économie. À quelles questions du comportement de la machine souhaitez-vous le plus répondre ?

PARKES :Je suis intéressé par un programme de recherche qui étudie le comportement des machines au sein de l'économie algorithmique, y compris les algorithmes de tarification, algorithmes de recommandation, et les systèmes de réputation, ainsi que dans le cadre des blockchains. Nous pouvons déjà voir une trajectoire vers l'automatisation de bon nombre des constituants essentiels de ce qui constitue un système économique, et la lentille du comportement de la machine est bonne parce que le comportement est émergent, ce qui signifie qu'il est basé non seulement sur des interactions individuelles, mais aussi sur des forces sociétales et économiques. Je pense que les systèmes de recommandation tels que ceux employés par Amazon sont particulièrement intéressants et importants à étudier car c'est là que nous verrons des questions épineuses se poser autour de l'économie comportementale, marketing algorithmique, et éthique… Par exemple, Est-il acceptable pour un recommandeur intelligent de tirer parti des « effets d'ensemble de choix » pour augmenter ses revenus ?

SEAS :Que sont les effets d'ensemble de choix ?

PARKES :Je vous montre un pas cher, coût modéré, et une machine à café chère et vous choisissez celle à prix modéré. Mais, si je vous montre un modéré, cher, et machine de luxe, vous choisissez le …?

MER :Cher. Vous avez évoqué des sociétés privées telles qu'Amazon et Microsoft. Les algorithmes propriétaires et boîte noire doivent constituer un défi pour comprendre le comportement des machines. Comment comprendre pourquoi une machine se comporte comme elle le fait quand on ne sait pas ce qu'est l'algorithme ou comment elle prend des décisions ?

PARKES :Curieusement, les algorithmes n'ont pas besoin d'être eux-mêmes très compliqués. Les algorithmes pour entraîner un système de deep learning, qui décrivent l'architecture d'un modèle et la manière dont un modèle sera entraîné, peut généralement être exprimé en quelques dizaines de lignes de code (bien que du code qui s'ajoute ensuite aux autres, code de niveau inférieur). Ce sont les modèles entraînés qui sont complexes et quelque peu impénétrables, souvent considérée comme une "boîte noire". Mais ce n'est pas désespéré, et il existe de nombreuses directions de recherche sensées - par exemple, nécessitant des modèles plus simples, en insistant sur une explication post hoc du comportement des modèles complexes, et en utilisant des analyses de visualisation et de sensibilité pour essayer de comprendre le fonctionnement de ces modèles et tester des théories sur le comportement.

SEAS :L'intelligence artificielle joue déjà un si grand rôle dans nos vies. Quelle est l'importance d'établir ce nouveau champ de recherche maintenant? Avez-vous peur qu'il ne commence trop tard, quand tant de fondements de l'IA ont déjà été posés ?

PARCS : Eh bien, Ce n'est jamais trop tard, et nous ne sommes qu'au début de la vague de changement qui viendra du développement des machines intelligentes. Il faut aller de l'avant de manière délibérée, avec des mesures appropriées de curiosité, la créativité, et responsabilité, tout en reconnaissant que les personnes et les machines continueront à être liées de manières nouvelles et inattendues. Ce qui est important, c'est la reconnaissance de la nécessité d'une étude scientifique, et cet article de synthèse rassemble les fils de cette nouvelle, domaine interdisciplinaire du comportement des machines.

Cette histoire est publiée avec l'aimable autorisation de la Harvard Gazette, Journal officiel de l'université Harvard. Pour des nouvelles universitaires supplémentaires, visitez Harvard.edu.