Dans le cadre de l'étude en cours de 100 ans de Stanford sur l'intelligence artificielle, connu sous le nom d'AI100, deux ateliers ont récemment examiné les enjeux des technologies de soins et de la modélisation prédictive pour éclairer le développement futur des technologies de l'IA.

« Nous voyons maintenant un accent particulier sur les sciences humaines et leur interaction avec l'IA, " dit Russ Altman, Professeur d'ingénierie à Stanford et directeur de la faculté de l'AI100. L'AI100 est un projet du Stanford Institute for Human-Centered Artificial Intelligence.

Après la première réunion de l'AI100, le groupe prévoyait de se réunir tous les cinq ans pour discuter de l'état de l'industrie de l'IA. L'idée était que les rapports de ces réunions captureraient l'enthousiasme et les préoccupations concernant les technologies d'IA à ce moment-là, faire des prédictions pour le siècle prochain et servir de ressource pour les décideurs politiques et les parties prenantes de l'industrie qui façonnent l'avenir de l'IA dans la société.

Mais la technologie évolue plus vite que prévu, et les organisateurs de l'AI100 ont estimé qu'il y avait des questions à discuter avant la prochaine session prévue. Les rapports qui ont résulté de ces ateliers brossent un tableau des pièges potentiels de l'externalisation de nos problèmes pour que la technologie les résolve plutôt que de s'attaquer aux causes, ou permettre à une modélisation prédictive obsolète de ne pas être contrôlée. Ensemble, ils fournissent un instantané intermédiaire qui pourrait orienter les discussions lors de la prochaine réunion plénière, dit Altman.

"Les rapports capturent la nature cyclique des opinions et des attitudes du public envers l'IA, " dit Peter Stone, professeur d'informatique à l'Université du Texas à Austin qui a présidé le comité d'étude pour le dernier rapport, et est maintenant président du comité permanent. "Il y a des moments de battage médiatique et d'excitation avec l'IA, et il y a des moments de déception et de désillusion - nous appelons ces hivers de l'IA. "

Cette étude longitudinale vise à résumer tous les hauts et les bas, créant une vision à long terme de l'intelligence artificielle.

Alexa ne se soucie pas de toi

Bien que l'intelligence artificielle soit répandue dans les applications de santé, les participants à l'atelier débattant de la capacité de soins de l'IA ont conclu que les soins en eux-mêmes ne sont pas quelque chose qui peut être encodé dans la technologie. Basé sur cela, ils recommandent que les nouvelles technologies soient intégrées dans les relations de soins interhumaines existantes.

« Les soins ne sont pas un problème à résoudre ; c'est une partie fondamentale de la vie humaine, " a déclaré Fay Niker, professeur de philosophie à l'Université de Stirling, et président de l'atelier Coding Caring. "L'idée d'une solution technique pour quelque chose comme la solitude, par exemple, est déroutant."

Les participants à l'atelier définissent les technologies de soins comme des outils pour compléter les relations humaines de soins comme celles entre un soignant et un bénéficiaire de soins. La technologie peut certainement rappeler de prendre des médicaments ou de suivre des informations sur la santé, mais est limité dans sa capacité à faire preuve d'empathie ou à fournir un soutien émotionnel qui ne peut pas être transformé en marchandise ou réduit en tâches axées sur les résultats.

"Nous craignons qu'une interaction humaine significative ne soit gelée par la technologie, " a déclaré Niker. " L'espoir est que le rapport AI2020, et d'autres travaux dans ce domaine, contribuera à prévenir cette « ère glaciaire » en remettant en cause et donc en changeant la culture et le débat autour de la conception et de la mise en œuvre de technologies bienveillantes dans nos sociétés. »

Réguler les technologies prédictives

Les technologies d'IA peuvent être capables d'apprendre, mais ils ne sont pas à l'abri de devenir obsolètes, incitant les participants au deuxième atelier à introduire le concept de « dates d'expiration » pour régir leur déploiement dans le temps. "Ils s'entraînent sur les données du passé pour prédire l'avenir, " dit Altman. " Les choses changent dans n'importe quel domaine, vous devez donc faire une mise à jour ou une réévaluation."

« Cela signifie que nous devons faire attention aux nouvelles données, " a déclaré David Robinson, un scientifique invité du Cornell's College of Computing and Information Science, et l'un des organisateurs de l'atelier. Sauf indication contraire, l'algorithme supposera aveuglément que le monde n'a pas changé, et fournira des résultats sans intégrer des facteurs nouvellement introduits.

Des décisions importantes peuvent dépendre de ces technologies, y compris l'évaluation des risques dans le système de justice pénale et les dépistages par les services de protection de l'enfance. Mais Robinson a souligné que c'est la combinaison nette des résultats de l'algorithme et de l'interprétation de ceux qui utilisent la technologie qui aboutit à une décision finale. Il devrait y avoir autant d'examen minutieux sur les informations fournies par l'IA que sur les utilisateurs qui interprètent les résultats de l'algorithme.

Les deux ateliers sont arrivés à la conclusion qu'une réglementation est nécessaire pour la technologie de l'IA, selon Altman, ce qui ne devrait pas surprendre ceux qui sont à l'écoute des références de la culture populaire du domaine. Si l'industrie peut s'autoréglementer, ou quelles autres entités devraient surveiller les progrès sur le terrain, est toujours en question.

Les participants et les organisateurs estiment que l'AI100 a un rôle à jouer dans l'avenir des technologies de l'IA. "J'espère que cela aidera vraiment à éduquer les gens et le grand public sur la façon dont ils peuvent et doivent interagir avec l'IA, " dit Stone. Peut-être encore plus important, les résultats des rapports sur l'IA peuvent être référencés par ces décideurs et initiés de l'industrie, façonner la façon dont ces technologies sont développées.