Les rêves des alchimistes détournaient l'attention des objectifs scientifiques réels. Crédit :Justus Gustav van Bentum/Wikimedia Commons
Les chercheurs et les ingénieurs en intelligence artificielle ont consacré beaucoup d'efforts à essayer de construire des machines qui ressemblent à des humains et fonctionnent en grande partie de manière indépendante. Ces rêves tentants ont détourné bon nombre d'entre eux de l'endroit où les vrais progrès se produisent déjà :dans des systèmes qui améliorent – plutôt que remplacent – les capacités humaines. Pour accélérer le passage à de nouvelles façons de penser, Les concepteurs et développeurs d'IA pourraient tirer des leçons des faux pas des anciens chercheurs.
Par exemple, alchimistes, comme Isaac Newton, poursuivi des objectifs ambitieux tels que la conversion du plomb en or, créer une panacée pour guérir toutes les maladies, et trouver des potions pour l'immortalité. Bien que ces objectifs soient séduisants, les charlatans qui les poursuivaient ont peut-être obtenu un soutien financier princier qui aurait été mieux utilisé pour développer la chimie moderne.
Tout aussi optimiste, les astrologues croyaient pouvoir comprendre la personnalité humaine à partir des dates de naissance et prédire les événements futurs en étudiant la position des étoiles et des planètes. Ces promesses au cours des mille dernières années ont souvent reçu l'approbation royale, ralentissant peut-être le travail de ceux qui adoptaient des méthodes scientifiques qui ont finalement conduit à l'astronomie.
Au fur et à mesure de l'évolution de l'alchimie et de l'astrologie, les participants sont devenus plus délibérés et organisés – ce qu'on pourrait maintenant appeler plus scientifique – à propos de leurs études. Ce changement a finalement conduit à des découvertes importantes en chimie, comme celles de Lavoisier et Priestley au XVIIIe siècle. En astronomie, Kepler et Newton lui-même ont fait des découvertes importantes aux 17e et 18e siècles. Un tournant similaire est à venir pour l'intelligence artificielle. Les innovateurs audacieux mettent de côté les rêves tentants mais irréalisables de conceptions anthropomorphes et d'autonomie excessive. Ils se concentrent sur les systèmes qui restaurent, compter sur, et étendre le contrôle et la responsabilité humains.
Mettre à jour les premiers rêves d'IA
Dans les années 50, les chercheurs en intelligence artificielle ont poursuivi de grands objectifs, telles que l'intelligence informatique au niveau humain et la conscience de la machine. Même au cours des 20 dernières années, certains chercheurs ont travaillé au fantasme de la « singularité » de machines qui sont supérieures aux humains à tous égards. Ces rêves ont réussi à attirer l'attention de journalistes sympathiques et le soutien financier du gouvernement et de l'industrie. Mais pour moi, ces aspirations semblent toujours être des vœux pieux contre-productifs et de la science-fiction de niveau B.
Même le rêve de créer un robot de forme humaine agissant comme une personne dure depuis plus de 50 ans. Asimo, presque grandeur nature, de Honda et le lecteur de nouvelles en ligne Ananova ont beaucoup attiré l'attention des médias. Sophia de Hanson Robotics a même reçu la nationalité saoudienne. Mais ils ont peu d'avenir commercial.
Par contre, conceptions terre-à-terre centrées sur l'utilisateur pour la recherche d'informations, sites de commerce électronique, les médias sociaux et les applications pour smartphones ont été des succès fous. Il y a de bonnes raisons pour qu'Amazon, Pomme, Facebook, Google et Microsoft sont parmi les plus grandes entreprises du monde - elles utilisent toutes des fonctionnalités plus fonctionnelles, si moins glamour, types d'IA.
Les téléphones portables d'aujourd'hui sont dotés de la reconnaissance vocale, reconnaissance faciale et traduction automatique, qui utilisent tous des technologies d'intelligence artificielle. Ces fonctions augmentent le contrôle humain et offrent aux utilisateurs plus d'options, sans la tromperie et la théâtralité d'un robot humanoïde.
Contrôle du rendement
Les efforts qui poursuivent des formes avancées d'autonomie informatique sont également dangereux. Lorsque les développeurs supposent que leurs machines fonctionneront correctement, ils raccourcissent souvent les interfaces qui permettraient aux utilisateurs humains de prendre rapidement le contrôle en cas de problème.
Ces problèmes peuvent être mortels. Dans le crash du Boeing 737 Max de Lion Air en octobre 2018, une défaillance du capteur a amené le pilote automatique nouvellement conçu à diriger l'avion vers le bas. Les pilotes ne pouvaient pas comprendre comment contourner ces commandes automatiques pour garder l'avion en l'air. Des problèmes similaires ont été des facteurs dans les « krachs éclairs des marchés boursiers, " comme l'événement de 2010 au cours duquel 1 000 milliards de dollars ont disparu en 36 minutes. Et des dispositifs médicaux mal conçus ont délivré des doses mortelles de médicaments.
Le rapport du National Transportation Safety Board sur l'accident mortel de Tesla en mai 2016 a appelé à des systèmes automatisés pour conserver des enregistrements détaillés qui permettraient aux enquêteurs d'analyser les défaillances. Ces informations conduiraient à des conceptions plus sûres et plus efficaces.
Vers des solutions centrées sur l'humain
L'automatisation réussie est tout autour :les applications de navigation donnent aux conducteurs le contrôle en affichant les heures des itinéraires alternatifs. Les sites Web de commerce électronique présentent les options des acheteurs, les avis des clients et des prix clairs afin qu'ils puissent trouver et commander les produits dont ils ont besoin. Ascenseurs, machines à laver le linge et bornes d'enregistrement des compagnies aériennes, trop, ont des contrôles significatifs qui permettent aux utilisateurs de faire ce dont ils ont besoin de manière rapide et fiable. Lorsque les appareils photo modernes aident les photographes à prendre des photos correctement mises au point et exposées, les utilisateurs ont un sens de la maîtrise et de l'accomplissement pour composer l'image, même s'ils reçoivent de l'aide pour optimiser les détails techniques.
Sans être humain ni totalement indépendant, ces applications et des milliers d'autres permettent aux utilisateurs d'accomplir leurs tâches avec confiance et parfois même fierté.
Un nouveau rapport d'un groupe professionnel de premier plan de l'industrie de l'ingénierie exhorte les technologues à ignorer les fantasmes tentants. Plutôt, le rapport suggère, les développeurs devraient se concentrer sur les technologies qui soutiennent la performance humaine et sont plus immédiatement utiles.
Dans un monde florissant et amélioré par l'automatisation, dégager, des interfaces pratiques pourraient permettre aux humains de contrôler l'automatisation pour tirer le meilleur parti de l'initiative des gens, créativité et responsabilité. Les machines les plus performantes pourraient être des outils puissants qui permettent aux utilisateurs d'effectuer en toute confiance des tâches toujours plus riches, comme aider les architectes à trouver des moyens innovants de concevoir des bâtiments économes en énergie, et donner aux journalistes des outils pour approfondir les données afin de détecter la fraude et la corruption. D'autres machines pourraient détecter - et non contribuer à - des problèmes tels que des conditions médicales dangereuses et des biais dans les approbations de prêts hypothécaires. Peut-être pourraient-ils même conseiller les personnes responsables sur les moyens d'arranger les choses.
Les humains sont capables de créer des outils qui développent leur créativité, puis d'utiliser ces outils de manière encore plus innovante que leurs concepteurs ne l'avaient prévu. À mon avis, il est temps de laisser plus de gens être plus créatifs la plupart du temps, en s'éloignant de la phase d'alchimie et d'astrologie de la recherche en IA.
Les concepteurs de technologies qui apprécient et amplifient les aspects clés de l'humanité sont les plus susceptibles d'inventer la prochaine génération d'outils puissants. Ces concepteurs passeront de la tentative de remplacer ou de simuler le comportement humain dans les machines à la création d'applications extrêmement réussies que les gens adorent utiliser.
Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.