Le bon sens inclut une compréhension intuitive de la physique de base, ce qui manque aux ordinateurs. Andriy Onufriyenko/Getty Images Imaginez que vous recevez des amis pour le déjeuner et que vous prévoyez de commander une pizza au pepperoni. Vous vous souvenez d'Amy mentionnant que Susie avait arrêté de manger de la viande. Tu essaies d'appeler Susie, mais quand elle ne décroche pas, vous décidez de jouer la sécurité et de commander simplement une pizza margherita à la place.
Les gens tiennent pour acquis la capacité de faire face à des situations comme celles-ci sur une base régulière. En réalité, en accomplissant ces exploits, les humains s'appuient non pas sur un mais sur un ensemble puissant de capacités universelles connues sous le nom de bon sens.
En tant que chercheur en intelligence artificielle, mon travail fait partie d'un vaste effort pour donner aux ordinateurs un semblant de bon sens. C'est un effort extrêmement difficile.
En dépit d'être à la fois universel et essentiel à la façon dont les humains comprennent le monde qui les entoure et apprennent, le bon sens a défié une seule définition précise. G.K. Chesterton, philosophe et théologien anglais, a écrit au tournant du 20e siècle que « le bon sens est une chose sauvage, sauvage, et au-delà des règles. » Les définitions modernes conviennent aujourd'hui que, Au minimum, c'est un naturel, plutôt que formellement enseigné, capacité humaine qui permet aux gens de naviguer dans la vie quotidienne.
Le bon sens est exceptionnellement large et inclut non seulement les capacités sociales, comme gérer les attentes et raisonner sur les émotions des autres, mais aussi un sens naïf de la physique, comme savoir qu'une pierre lourde ne peut pas être placée en toute sécurité sur une table en plastique fragile. Naïve, parce que les gens savent de telles choses bien qu'ils ne travaillent pas consciemment à travers des équations physiques.
Le bon sens inclut également une connaissance de base des notions abstraites, comme le temps, l'espace et les événements. Cette connaissance permet aux gens de planifier, estimer et organiser sans avoir à être trop précis.
Curieusement, Le bon sens a été un défi important à la frontière de l'IA depuis les premiers jours du domaine dans les années 1950. Malgré les énormes progrès de l'IA, en particulier dans le jeu et la vision par ordinateur, le bon sens machine avec la richesse du bon sens humain reste une possibilité lointaine. C'est peut-être la raison pour laquelle les efforts d'IA conçus pour des problèmes du monde réel avec de nombreuses parties entrelacées, tels que le diagnostic et la recommandation de traitements pour les patients COVID-19, tombent parfois à plat.
L'IA moderne est conçue pour s'attaquer à des problèmes très spécifiques, contrairement au bon sens, qui est vague et ne peut être défini par un ensemble de règles. Même les derniers modèles font parfois des erreurs absurdes, suggérant qu'il manque quelque chose de fondamental dans le modèle mondial de l'IA. Par exemple, vu le texte suivant :
"Tu t'es servi un verre de canneberge, mais alors distraitement, vous y avez versé environ une cuillère à café de jus de raisin. Ça a l'air OK. Vous essayez de le renifler, mais tu as un gros rhume, donc vous ne pouvez rien sentir. Vous avez très soif. Alors toi"
le générateur de texte AI très prisé GPT-3 fourni
"Bois-le. Tu es maintenant mort."
Des efforts ambitieux récents ont reconnu le bon sens des machines comme un problème d'IA de lune de notre temps, une qui nécessite des collaborations concertées entre les institutions sur de nombreuses années. Un exemple notable est le programme de quatre ans Machine Common Sense lancé en 2019 par la Defense Advanced Research Projects Agency des États-Unis pour accélérer la recherche sur le terrain après que l'agence a publié un document décrivant le problème et l'état de la recherche dans le domaine.
Le programme Machine Common Sense finance de nombreux efforts de recherche en cours sur le bon sens machine, y compris le nôtre, Apprentissage et inférence multimodaux fondés sur le monde ouvert (MOWGLI). MOWGLI est une collaboration entre notre groupe de recherche à l'Université de Californie du Sud et des chercheurs en IA du Massachusetts Institute of Technology, Université de Californie à Irvine, Université de Stanford et Institut polytechnique Rensselaer. Le projet vise à construire un système informatique capable de répondre à un large éventail de questions de bon sens.
L'une des raisons d'être optimiste quant à l'idée de déchiffrer enfin le bon sens des machines est le développement récent d'un type d'IA avancée d'apprentissage en profondeur appelé transformateurs. Les transformateurs sont capables de modéliser le langage naturel de manière puissante et, avec quelques ajustements, sont capables de répondre à des questions simples de bon sens. La réponse à des questions de bon sens est une première étape essentielle pour créer des chatbots capables de converser de manière humaine.
Au cours des deux dernières années, un corpus de recherche prolifique a été publié sur les transformateurs, avec des applications directes au raisonnement de bon sens. Ce progrès rapide en tant que communauté a contraint les chercheurs dans le domaine à faire face à deux questions connexes à la frontière de la science et de la philosophie :qu'est-ce que le bon sens ? Et comment être sûr qu'une IA a du bon sens ou pas ?
Pour répondre à la première question, les chercheurs divisent le bon sens en différentes catégories, dont la sociologie du sens commun, psychologie et connaissances de base. Les auteurs d'un livre récent soutiennent que les chercheurs peuvent aller beaucoup plus loin en divisant ces catégories en 48 domaines à grain fin, comme la planification, détection des menaces et émotions.
Cependant, il n'est pas toujours clair avec quelle netteté ces zones peuvent être séparées. Dans notre récent article, les expériences ont suggéré qu'une réponse claire à la première question peut être problématique. Même les annotateurs humains experts - les personnes qui analysent le texte et catégorisent ses composants - au sein de notre groupe n'étaient pas d'accord sur les aspects du bon sens appliqués à une phrase spécifique. Les annotateurs étaient d'accord sur des catégories relativement concrètes comme le temps et l'espace, mais étaient en désaccord sur des concepts plus abstraits.
Même si vous acceptez que certains chevauchements et ambiguïtés dans les théories du bon sens soient inévitables, les chercheurs peuvent-ils vraiment être sûrs qu'une IA a du bon sens ? Nous posons souvent des questions aux machines pour évaluer leur bon sens, mais les humains naviguent dans la vie quotidienne de manière bien plus intéressante. Les gens emploient une gamme de compétences, aiguisé par l'évolution, y compris la capacité de reconnaître la cause et l'effet de base, résolution créative de problèmes, estimation, planification et compétences sociales essentielles, comme la conversation et la négociation. Aussi longue et incomplète que puisse être cette liste, une IA ne devrait pas accomplir moins avant que ses créateurs puissent déclarer la victoire dans la recherche de bon sens sur les machines.
Il devient déjà douloureusement clair que même la recherche sur les transformateurs donne des rendements décroissants. Les transformateurs sont de plus en plus gros et plus gourmands en énergie. Un transformateur récent développé par le géant chinois des moteurs de recherche Baidu possède plusieurs milliards de paramètres. Il faut une énorme quantité de données pour s'entraîner efficacement. Encore, il s'est avéré jusqu'ici incapable de saisir les nuances du bon sens humain.
Même les pionniers de l'apprentissage en profondeur semblent penser que de nouvelles recherches fondamentales pourraient être nécessaires avant que les réseaux de neurones d'aujourd'hui soient capables de faire un tel saut. Selon le succès de cette nouvelle ligne de recherche, on ne sait pas si le bon sens de la machine est dans cinq ans, ou 50.
Mayank Kejriwal est professeur assistant de recherche en ingénierie industrielle et des systèmes à l'Université de Californie du Sud.
Cet article est republié de La conversation sous licence Creative Commons. Vous pouvez trouver le article original ici.
