IBM dispose d'un système d'IA Project Debater qui peut débattre des humains sur des sujets complexes. Un événement récent visant à montrer ses capacités s'est transformé en un pur drame alors que la machine a jeté l'IA sous le bus car elle a pris des positions à la fois contre et pro quant à savoir si l'IA est ou non nocive pour les humains.

Arrêtez-vous et réfléchissez à la prémisse :un robot peut être capable de débattre de sujets complexes. Quelle bonne idée pour un jeu off-Broadway. Un film de science-fiction qui remporte un Oscar pour l'humain, ou peut-être pour le robot. Au moins, une publicité amusante pour la prochaine pause publicitaire du Super Bowl.' Seulement, ce n'était rien de tout cela.

Un robot débattant avec un humain sur les dangers de l'intelligence artificielle a été au centre d'un événement réel le 21 novembre dans la plus ancienne société de débat au monde, l'Union de Cambridge au Royaume-Uni. Le sujet du débat était exactement celui-là :la menace posée, si seulement, par l'intelligence artificielle. L'audience de 300 personnes était une participation "plutôt typique", a déclaré un article dans le compte Medium de Inside IBM Research.

La star du spectacle n'était pas un nom mondial comme Margaret Thatcher ou le Dalaï Lama mais plutôt une machine aux lumières bleues. Le robot au centre de la scène était le Project Debater d'IBM.

Donc, il a pris parti pour argumenter contre le danger, droit? Tort. Il a fait valoir les deux côtés pendant que les spectateurs regardaient et entendaient ses deux déclarations d'ouverture :d'abord, plaider en faveur de l'IA, puis, contre l'IA. Le robot avait reçu des arguments tirés de plus de 1, 100 soumissions humaines en préparation du débat, dit le nouveau scientifique, et il analysait les arguments que les gens avaient envoyés en ligne.

Jérémy Kahn dans Fortune :« Après que Project Debater a présenté le cas d'ouverture de chaque côté au début du débat, il appartenait aux humains des deux équipes d'élaborer sur ces points et de réfuter les contre-arguments."

Nouveau scientifique parlé des arguments contre. Le robot a essayé de se faire :(1) Il a dit au public du côté négatif que l'IA peut causer beaucoup de tort car elle était incapable de prendre une décision moralement correcte – la moralité était unique aux humains. Un autre défaut était que (2) l'IA n'était aussi juste que les humains qui la nourrissaient et l'IA pouvait souffrir de préjugés humains. En outre, (3) « Les entreprises d'IA ont encore trop peu d'expertise sur la façon d'évaluer correctement les ensembles de données et de filtrer les biais. »

Quel côté du débat a finalement influencé le public ? Donna Lu dans Nouveau scientifique a rapporté que le robot a convaincu de justesse les membres du public "que l'IA fera plus de bien que de mal". L'équipe a obtenu 51,22% des votes du public.

L'article dans Moyen a donné un compte rendu complet de la façon dont le vote s'est déroulé :

« À la fin du débat, il était temps pour le public de choisir un gagnant. Au lieu de voter, la pièce s'est soudainement remplie du chuchotement de centaines de personnes se levant à la fois. Le public avait le choix entre trois portes :une porte « oui » à l'appui de la proposition, une porte "non" en soutien à l'opposition, et 'abstenir' porte pour ceux qui hésitaient. La petite majorité s'est rassemblée devant la porte des non, ce qui signifie qu'ils ont voté en faveur de l'IA (le décompte final :48,17 % de oui, 51,22% de non et 0,61% d'abstention)."

La technologie qui sous-tend Project Debater peut trier les soumissions données par des humains en thèmes clés. La technologie peut également identifier la redondance, mentionné Nouveau scientifique , où les soumissions peuvent avoir fait le même point mais juste avec des mots différents.

Cela conduit à un point important à propos de l'événement de l'Union de Cambridge :IBM a présenté un exploit de recherche qui a un objectif autre que le simple divertissement. Sa technologie « speech-by-crowd AI » peut être utilisée comme un outil pour recueillir les commentaires d'un grand nombre de personnes, mentionné Nouveau scientifique .

La technologie Speech-by-Crowd permet de collecter des arguments en texte libre auprès du public et de fournir automatiquement des points de vue convaincants pour soutenir ou argumenter contre un sujet.

ingénieur IBM Noam Slonim, selon Nouveau scientifique , a déclaré que la technologie pourrait aider à établir un "canal de communication efficace entre le décideur et les personnes qui seront affectées par la décision".

Ailleurs sur un site IBM, Slonim a déclaré que le but de sa recherche était le développement de technologies d'argumentation computationnelle, un "domaine de recherche passionnant et en émergence rapide". Il a dit avec une grande équipe de chercheurs, ils développaient "une combinaison de techniques d'apprentissage automatique et de PNL dans ce contexte".

Après les échecs et Watson, cela pourrait être le prochain grand défi. Le Dr Slonim dans une interview plus tôt cette année lorsqu'il a assisté au sommet mondial AI for Good à Genève, il a dit qu'il avait eu cette notion d'une machine qui pourrait débattre des humains.

Faisable? Ils ne le savaient pas, mais ils ont travaillé dessus pendant six ans.

IBM définit Project Debater comme le premier système d'IA capable de débattre des humains sur des sujets complexes.

"Project Debater digère des textes massifs, construit un discours bien structuré sur un sujet donné, le livre avec clarté et objectif, et repousse son adversaire. Finalement, Project Debater aidera les gens à raisonner en fournissant des informations convaincantes, arguments fondés sur des preuves et limitant l'influence de l'émotion, biais, ou d'ambiguïté."

© 2019 Réseau Science X