Le regretté Stephen Hawking était une voix majeure dans le débat sur la façon dont l'humanité peut bénéficier de l'intelligence artificielle. Hawking n'a pas caché ses craintes que les machines pensantes puissent un jour prendre les choses en main. Il est allé jusqu'à prédire que les développements futurs de l'IA "pourraient sonner le glas de la race humaine".

Mais la relation de Hawking avec l'IA était bien plus complexe que cette citation souvent citée. Les profondes inquiétudes qu'il a exprimées concernaient l'IA surhumaine, le point auquel les systèmes d'IA non seulement reproduisent les processus d'intelligence humaine, mais aussi continuer à les étendre, sans notre soutien - une étape qui est au mieux dans des décennies, si jamais ça arrive. Et pourtant, la capacité même de Hawking à communiquer ces peurs, et toutes ses autres idées, dépendait de la technologie de base de l'IA.

La relation conflictuelle de Hawking avec l'IA

Aux centres de propriété intellectuelle et de droit de la santé de l'Université DePaul, mes collègues et moi étudions les effets des technologies émergentes comme celles dont s'inquiétait Stephen Hawking. En son coeur, le concept d'IA implique une technologie informatique conçue pour faire fonctionner les machines avec une prévoyance qui imite, et surpasse finalement, processus de la pensée humaine.

Hawking a mis en garde contre une forme extrême d'IA, dans laquelle les machines pensantes "décolleraient" d'elles-mêmes, se modifier et concevoir et construire de manière indépendante des systèmes toujours plus performants. Humains, lié par la lenteur de l'évolution biologique, serait tragiquement déjoué.

L'IA, une menace pour l'humanité ?

Bien avant d'en arriver à la technologie surhumaine, L'IA peut être utilisée à des fins terribles. Déjà, les chercheurs et les commentateurs craignent que les drones auto-volants puissent être des précurseurs de robots autonomes mortels.

L'IA à un stade précoce d'aujourd'hui soulève plusieurs autres problèmes éthiques et pratiques, trop. Les systèmes d'IA sont largement basés sur des algorithmes opaques qui prennent des décisions que même leurs propres concepteurs peuvent être incapables d'expliquer. Les modèles mathématiques sous-jacents peuvent être biaisés, et des erreurs de calcul peuvent se produire. L'IA peut progressivement déplacer les compétences humaines et augmenter le chômage. Et un accès limité à l'IA pourrait accroître les inégalités mondiales.

L'étude de cent ans sur l'intelligence artificielle, lancé par l'Université de Stanford en 2014, a mis en évidence certaines de ces préoccupations. Mais jusqu'à présent, il n'a identifié aucune preuve que l'IA constituera une "menace imminente" pour l'humanité, comme le craignait Hawking.

Toujours, Les points de vue de Hawking sur l'IA sont un peu moins alarmistes et plus nuancés qu'on ne le croit habituellement. Dans leur cœur, ils décrivent la nécessité de comprendre et de réglementer les technologies émergentes. Il a appelé à plusieurs reprises à davantage de recherches sur les avantages et les dangers de l'IA. Et il croyait que même les systèmes d'IA non surhumains pouvaient aider à éradiquer la guerre, la pauvreté et la maladie.

Hawking parle

Cette apparente contradiction – une peur que l'humanité soit finalement dépassée par l'IA mais un optimisme quant à ses avantages en attendant – peut provenir de sa propre vie :Hawking en était venu à compter sur l'IA pour interagir avec le monde.

Incapable de parler depuis 1985, il a utilisé une série de systèmes de communication différents qui l'ont aidé à parler et à écrire, aboutissant à l'ordinateur désormais légendaire actionné par un muscle de sa joue droite.

La première itération du programme informatique était d'une lenteur exaspérante et sujette aux erreurs. Une IA très basique a changé cela. Un programme open source a rendu sa sélection de mots beaucoup plus rapide. Plus important, il a utilisé l'intelligence artificielle pour analyser les propres mots de Hawking, puis utilisé cette information pour l'aider à exprimer de nouvelles idées. En traitant les livres de Hawking, articles et textes de cours, le système est devenu si bon qu'il n'a même pas eu à taper le terme que les gens associent le plus à lui, "le trou noir." Lorsqu'il a sélectionné « le, ""noir" serait automatiquement suggéré pour le suivre, et "noir" afficherait "trou" sur l'écran.

L'IA améliore la santé des gens

L'expérience de Stephen Hawking avec une forme d'IA aussi basique illustre comment une IA non surhumaine peut en effet améliorer la vie des gens. La prédiction de la parole l'a aidé à faire face à une maladie neurologique dévastatrice. D'autres systèmes basés sur l'IA aident déjà à prévenir, combattre et alléger le fardeau de la maladie.

Par exemple, L'IA peut analyser des capteurs médicaux et d'autres données de santé pour prédire la probabilité qu'un patient développe une infection sanguine grave. Dans les études, elle s'est avérée beaucoup plus précise – et a fourni beaucoup plus d'avertissements à l'avance – que d'autres méthodes.

Un autre groupe de chercheurs a créé un programme d'IA pour passer au crible les dossiers de santé électroniques de 700, 000 malades. Le programme, appelé « Patient profond, " a déterré des liens qui n'avaient pas été évidents pour les médecins, identifier de nouveaux schémas de risque pour certains cancers, diabète et troubles psychiatriques.

L'IA a même alimenté un système de chirurgie robotique qui a surpassé les chirurgiens humains dans une procédure sur des porcs qui est très similaire à un type d'opération sur des patients humains.

L'IA est tellement prometteuse d'améliorer la santé des gens que la collecte de données médicales est devenue la pierre angulaire du développement de logiciels et de la politique de santé publique aux États-Unis. la Maison Blanche d'Obama a lancé un effort de recherche visant à collecter l'ADN d'au moins un million d'Américains. Les données seront mises à disposition des systèmes d'IA pour les analyser lors de l'étude de nouveaux traitements médicaux, améliorer potentiellement à la fois les diagnostics et le rétablissement des patients.

Tous ces avantages de l'IA sont disponibles dès maintenant, et d'autres sont en préparation. Ils suggèrent que les systèmes d'IA surhumains pourraient être extrêmement puissants, mais malgré les avertissements de Hawking et de son collègue visionnaire de la technologie Elon Musk, ce jour pourrait ne jamais arriver. En attendant, comme Hawking le savait, il y a beaucoup à gagner. L'IA lui a donné une voix meilleure et plus efficace que ce que son corps était capable de fournir, avec lequel il a appelé à la fois à la recherche et à la retenue.

Cet article a été initialement publié sur The Conversation. Lire l'article original.