Yolande Gil, président de l'Association pour l'avancement de l'intelligence artificielle (AAAI), discute de ce qu'il faudra pour faire avancer l'IA sans faire reculer la sécurité.

Nous sommes en 2031. Aux États-Unis, une épidémie d'un virus hautement contagieux transmis par les moustiques s'est propagée rapidement aux grandes villes du monde. Tout le monde est sur le pont pour empêcher la maladie de se propager, et cela inclut le déploiement de systèmes d'intelligence artificielle (IA), qui parcourent les actualités en ligne et les médias sociaux à la recherche de données et de modèles pertinents.

En travaillant avec ces résultats, et les données recueillies auprès de nombreux hôpitaux à travers le monde, des scientifiques découvrent un lien intéressant avec une maladie neurologique rare et un traitement est mis au point. Sous quelques jours, la maladie est sous contrôle. Il n'est pas difficile d'imaginer ce scénario, mais le fait que les futurs systèmes d'IA soient suffisamment compétents pour faire le travail dépend en grande partie de la façon dont nous abordons le développement de l'IA aujourd'hui.

C'est selon une nouvelle feuille de route de 20 ans sur l'intelligence artificielle co-écrite par Yolanda Gil, professeur de recherche en informatique à l'USC et directeur de recherche à l'USC Viterbi Information Sciences Institute (ISI), avec des experts en informatique d'universités à travers les États-Unis.

Récemment publié par le Computing Community Consortium, financé par la National Science Foundation, la feuille de route vise à identifier les défis et les opportunités dans le paysage de l'IA, et pour éclairer les décisions futures, politiques et investissements dans ce domaine.

En tant que président de l'Association pour l'avancement de l'intelligence artificielle (AAAI), Gil a coprésidé la feuille de route avec Bart Selman, professeur d'informatique à l'Université Cornell.

Nous avons parlé avec Gil de ce que signifie l'IA aujourd'hui, ce qu'il faudra pour construire une IA plus intelligente et compétente à l'avenir, et comment s'assurer que l'IA fonctionne en toute sécurité lorsqu'elle s'approche des humains dans son intelligence.

L'interview a été condensée et éditée pour plus de clarté.

Pourquoi avez-vous entrepris l'effort de feuille de route de l'IA avec le Computing Community Consortium ?

Nous voulions vraiment mettre en évidence ce qu'il faudra pour que les systèmes d'IA deviennent plus intelligents à long terme. Donc, vous pensez aux interfaces conversationnelles comme Siri et Alexa, même aujourd'hui, ils ont encore beaucoup de limitations. Que faudrait-il pour que les systèmes d'IA soient plus conscients de notre monde ? Par exemple, pour eux de comprendre « Qu'est-ce qu'une mère ? et « Pourquoi est-il important de me rappeler l'anniversaire de ma mère ? » C'est le genre de questions que nous posons dans le rapport.

Nous voulions comprendre quelles recherches sont nécessaires pour nos systèmes d'IA :les interfaces conversationnelles, les voitures autonomes, les robots—d'avoir des capacités supplémentaires. Si nous n'investissons pas dans des domaines de recherche à plus long terme, il n'y aura peut-être pas une prochaine génération de systèmes qui comprendra ce qu'est notre monde, qui seront mieux informés de leurs tâches, et ce sera plus compétent.

Que signifie réellement pour vous l'expression intelligence artificielle en 2019 ?

L'IA consiste vraiment à étudier et à créer des capacités que nous associons généralement à des comportements intelligents. Ceux-ci ont tendance à être liés à l'esprit, intelligence et pensée, par opposition à des comportements réactifs à plus petite échelle.

Nous pensons généralement à l'intelligence en termes de capacités qui impliquent la réflexion, raisonnement, apprentissage; en termes de gestion des informations et des tâches complexes qui affectent le monde qui nous entoure. Des choses comme, pouvez-vous apprendre quand vous avez vécu beaucoup d'expériences? Ou des exemples ? Pouvez-vous apprendre en observant quelqu'un accomplir une tâche ? Pouvez-vous apprendre de vos propres erreurs ? Pouvez-vous apprendre en vous expliquant comment quelque chose fonctionne ?

L'apprentissage n'est qu'un aspect de l'IA. Il y a aussi d'autres aspects qui ont à voir avec le raisonnement, planifier et organiser. Et puis d'autres parties de l'IA liées au langage naturel et à la communication, et d'autres liés à la robotique.

Donc, il y a beaucoup de comportements intelligents différents que nous incluons sous l'égide de l'IA. Étant donné que nous avons beaucoup de systèmes d'IA autour de nous, une question clé est la suivante :comment les élevons-nous pour qu'ils disposent de la prochaine génération de capacités ?

Les chercheurs en IA essaient-ils vraiment d'imiter la pensée humaine ? Ou l'intelligence artificielle est-elle quelque chose de complètement différent ?

Bien, de nombreuses recherches examinent le comportement humain comme source d'inspiration pour l'IA, ou comme cible, en essayant de modéliser l'intelligence humaine et le comportement humain. Mais ce n'est qu'un secteur de la communauté.

Il y a d'autres chercheurs, comme moi, qui examinent le comportement humain et l'utilisent comme motivation pour créer ou concevoir des machines qui « pensent, " sans égard au fonctionnement de la mémoire humaine, ou ce que les expériences cognitives nous disent sur la pensée humaine, ou la biologie humaine ou le cerveau. Donc, nous adoptons davantage une approche d'ingénierie.

Et parfois, vous voyez une IA qui touche les deux. Vous aurez donc des systèmes cognitifs véritablement inspirés par l'homme qui abordent les tâches intelligentes de la même manière que les humains le feraient. Par exemple, certains robots essaient de paraître humains, mais beaucoup d'autres robots feront juste quelle tâche et vous savez, peu importe à quoi ils ressemblent. La recherche progresse dans les deux domaines.

Que trouvez-vous particulièrement impressionnant dans la recherche actuelle sur l'IA ?

Voir le succès de ces systèmes dans des applications importantes comme la médecine et d'autres domaines de la science, c'est très excitant pour moi. Les systèmes d'IA sont utilisés en médecine depuis des décennies maintenant, mais ils étaient très complexes et longs à construire, et ils n'auraient des performances acceptables que dans certains domaines. Je pense que nous voyons maintenant des systèmes d'IA pénétrer de nouveaux domaines de la médecine. Par exemple, Les systèmes d'IA sont très efficaces pour identifier les tumeurs ou certains types de cellules sur la base d'images de pathologie.

Selon vous, quels grands défis doivent être surmontés pour faire avancer l'IA ?

Le rapport met en évidence de nombreux défis organisés en trois grands domaines de recherche. L'un des grands défis consiste à intégrer les capacités de renseignement. À l'heure actuelle, par exemple, vous avez des robots qui aspirent, vous avez des systèmes d'IA qui parlent, mais il est très difficile d'intégrer ces capacités distinctes pour travailler ensemble.

La seconde est la communication :comment l'IA se connecte-t-elle aux humains et transmet-elle des informations. Aujourd'hui, nous conversons avec des systèmes d'IA, mais il n'y a aucun enjeu dans la conversation, donc les malentendus sont acceptés, et un résultat productif est souhaitable, mais pas crucial. Mais et si ces choses comptaient vraiment ?

Le troisième est l'apprentissage conscient de soi, ainsi par exemple, que faudrait-il pour qu'une IA pense :"Je ne devrais pas utiliser ce que j'ai appris parce que je n'en ai pas encore vu assez d'exemples" ou "compte tenu des quelques exemples que j'ai vus, Je devrais les analyser de nouvelles façons pour en tirer plus d'informations. » Nous n'avons pas encore de systèmes capables de le faire.

Ces questions présentent un programme de recherche très ambitieux et passionnant pour l'IA au cours des 20 prochaines années.

Qu'est-ce qui doit changer pour que la recherche sur l'IA fasse de plus grands progrès ?

Les conclusions du rapport indiquent que, poursuivre ce programme de recherche, nous devons développer une grande partie de l'infrastructure universitaire actuelle pour l'IA. Nous devons entrer dans une ère où il y a des collaborations académiques plus substantielles sur les problèmes d'IA, et des ressources plus substantielles telles que le matériel, des ressources de données et des boîtes à outils logicielles ouvertes.

Comme inspiration, nous soulignons des efforts d'un milliard de dollars qui ont fait une différence significative dans le monde :le projet du génome humain, qui a vraiment propulsé le domaine de la génomique; ou le projet LIGO, qui a conduit à l'observation expérimentale des ondes gravitationnelles. Ce que nous disons, c'est que si nous ne sommes pas à ce niveau d'investissement, il faudra beaucoup de temps pour atteindre le prochain niveau de capacités d'IA.

Aux Etats-Unis, nous avons de nombreux chercheurs fantastiques et les meilleures universités. Je pense que nous devons continuer à soutenir des projets de recherche individuels comme nous l'avons fait par le passé, mais nous devons ajouter une nouvelle couche significative d'efforts beaucoup plus importants. C'est pourquoi le rapport recommande la création de programmes multidécennaux, des centres de recherche multi-universitaires qui s'attaqueront aux grandes questions et aux grandes organisations consacrées à des problèmes spécifiques.

Qu'est-ce qui vous passionne le plus au cours des 20 prochaines années en IA ?

Je pense que l'application de l'IA pour la recherche et la découverte scientifiques a le potentiel de vraiment changer le monde, et c'est l'objet de ma recherche. Il existe de nombreux défis en termes de représentation des connaissances scientifiques d'une manière lisible par machine, intégrer les systèmes d'IA dans le processus de recherche. Donc, donner aux scientifiques de meilleurs outils est un domaine vraiment passionnant pour moi. Mon rêve est que dans 20 ans, un scientifique viendra au bureau le matin et son système d'IA lui parlera des résultats intéressants sur lesquels il a travaillé pendant la nuit. Nous pourrons faire des découvertes plus rapidement, de la recherche de remèdes contre les maladies à une meilleure gestion des ressources naturelles, comme l'eau.

La route à parcourir s'annonce passionnante, Pour dire le moins, mais comment s'assurer que les gens ne sont pas laissés de côté à mesure que l'IA avance ?

Nous devons veiller à ce qu'il y ait des opportunités équitables pour tout le monde d'accéder à cette technologie. Nous devons pousser l'IA au niveau de la maternelle, donner aux enfants l'occasion de comprendre comment cette technologie peut avoir un impact sur leur vie, jusqu'au collège.

Dans le rapport, nous recommandons des carrières pour les ingénieurs en IA non seulement au niveau du doctorat, mais à tous les niveaux, y compris des baccalauréats et même des diplômes d'études secondaires en IA. Nous avons besoin de techniciens pour réparer les robots, préparer les données pour les systèmes d'IA, et d'utiliser des outils d'IA dans de nouveaux domaines d'application.

Les gens sont-ils justifiés dans leurs préoccupations concernant l'IA ?

Je pense que nous devons être conscients que lorsque l'IA est déployée dans la vie réelle dans des secteurs particuliers, il crée de nouveaux défis pour la sécurité, confiance, et éthique. Ma première préoccupation concerne les humains qui déploient et exploitent les systèmes d'IA, plutôt que le système d'IA lui-même - c'est pourquoi j'aimerais voir plus d'engagement dans les utilisations politiques et éthiques de l'IA.

Aujourd'hui, de nombreux déploiements d'IA ne passent pas par une étape d'ingénierie de la sécurité et de réflexion éthique sur cette utilisation particulière de la technologie. Donc, Je pense que nous devrions investir beaucoup plus là-dedans. Dans le rapport, nous recommandons la création de nouveaux diplômes et plans de carrière explicitement sur l'éthique et la sécurité de l'IA dans l'ingénierie de l'IA.

Il est également important de noter que ces problèmes ne sont pas seulement le problème des chercheurs en IA. La recherche en IA a tant de ramifications et tant de connexions avec chaque discipline. Les chercheurs en IA sont vraiment ravis de s'engager avec d'autres communautés. Nous espérons que le rapport contribuera à favoriser ce dialogue entre les disciplines et les communautés, à l'USC et au-delà.

Selon vous, quel est le plus grand mythe sur l'IA ?

Je pense que les humains attribuent très généreusement l'intelligence à l'IA. Nous interagissons avec un système d'IA, et nous commençons à imaginer qu'il nous comprend vraiment, juste parce qu'il disait "bonjour". Mais en réalité, il n'a vraiment rien compris. Les systèmes d'IA sont souvent perçus comme étant plus performants qu'ils ne le sont en réalité. Donc, lorsque vous utilisez ou interagissez avec un système d'IA, utiliser une réflexion critique sur ce dont il est vraiment capable à ce stade.