Les médecins prenant des décisions de vie ou de mort concernant les greffes d'organes, Les traitements contre le cancer ou les chirurgies cardiaques ne réfléchissent généralement pas beaucoup à la façon dont l'intelligence artificielle pourrait les aider. Et c'est ainsi que les chercheurs de l'Université Carnegie Mellon disent que les outils d'IA clinique devraient être conçus pour que les médecins n'aient pas besoin d'y penser.

Un chirurgien pourrait ne jamais ressentir le besoin de demander conseil à une IA, encore moins lui permettre de prendre une décision clinique à leur place, dit John Zimmerman, le professeur de la famille Tang d'intelligence artificielle et d'interaction homme-machine à l'Institut d'interaction homme-machine (HCII) de la CMU. Mais une IA pourrait guider les décisions si elle était intégrée aux routines de prise de décision déjà utilisées par l'équipe clinique, fournir des prédictions et des évaluations générées par l'IA dans le cadre de la combinaison globale d'informations.

Zimmerman et ses collègues appellent cette approche « IA sans particularité ».

"L'idée est que l'IA devrait être banale dans le sens où vous n'avez pas à y penser et cela ne vous gêne pas, " a déclaré Zimmerman. " L'électricité est complètement banale jusqu'à ce que vous ne l'ayez pas. "

Qian Yang, un doctorat étudiant au HCII, expliquera comment l'approche Unremarkable AI a guidé la conception d'un outil d'aide à la décision clinique (DST) au CHI 2019, la conférence de l'Association for Computing Machinery sur les facteurs humains dans les systèmes informatiques, du 4 au 9 mai à Glasgow, Écosse.

Yang, avec Zimmerman et Aaron Steinfeld, enseignant-chercheur associé au HCII et à l'Institut de Robotique, travaillent avec des chercheurs biomédicaux de l'Université Cornell et du Language Technologies Institute de la CMU sur un DST pour aider les médecins à évaluer les patients cardiaques pour un traitement avec un dispositif d'assistance ventriculaire (VAD). Cette pompe implantable aide les cœurs malades chez les patients qui ne peuvent pas recevoir de transplantation cardiaque, mais de nombreux receveurs meurent peu de temps après l'implantation. Le DST en cours de développement utilise des méthodes d'apprentissage automatique pour analyser des milliers de cas et calculer une probabilité de savoir si un individu pourrait en bénéficier.

Les DST ont été développés pour aider à diagnostiquer ou à planifier le traitement d'un certain nombre de conditions médicales et d'interventions chirurgicales, mais la plupart ne parviennent pas à faire la transition du laboratoire à la pratique clinique et tombent en désuétude.

"Ils supposent tous que vous savez que vous avez besoin d'aide, " a déclaré Zimmerman. Ils sont souvent confrontés à la résistance des médecins, dont beaucoup ne pensent pas avoir besoin d'aide, ou voir le DST comme une technologie conçue pour les remplacer.

Yang a utilisé les principes de l'IA Unremarkable pour concevoir la manière dont l'équipe clinique interagirait avec le DST pour les VAD. Ces équipes comprennent des cliniciens de niveau intermédiaire, comme les infirmières praticiennes, travailleurs sociaux et coordonnateurs VAD, qui utilisent régulièrement des ordinateurs ; et les chirurgiens et cardiologues, qui apprécient les conseils de leurs collègues plutôt que le support informatique.

Le moment naturel pour intégrer les pronostics du DST est lors des réunions pluridisciplinaires d'évaluation des patients, dit Yang. Bien que les médecins prennent la décision finale quant au moment ou à l'opportunité d'implanter un DAV, toute l'équipe est souvent présente à ces réunions et les ordinateurs sont utilisés.

Sa conception intègre automatiquement les pronostics DST dans les lames préparées pour chaque patient. Dans la plupart des cas, les informations DST ne seront pas significatives, Steinfeld a suggéré, mais pour certains patients, ou à certains points critiques pour chaque patient, l'heure d'été peut fournir des informations qui nécessitent une attention particulière.

Bien que le DST lui-même soit encore en cours de développement, les chercheurs ont testé cette conception d'interaction dans trois hôpitaux qui pratiquent la chirurgie VAD, avec des lames améliorées par DST présentées pour des patients simulés.

"Les niveaux intermédiaires - le personnel de soutien - ont adoré ça, " Yang a dit, parce que cela a amélioré leur contribution et les a aidés à être plus actifs dans la discussion. La réaction des médecins était moins enthousiaste, reflétant le scepticisme à l'égard des DST et la conviction qu'il était impossible d'évaluer totalement l'interaction sans un système pleinement fonctionnel et de vrais patients.

Mais Yang a déclaré que les médecins n'affichaient pas la même attitude défensive et le même sentiment d'être remplacés par la technologie généralement associée aux DST. Ils ont également reconnu que la DST pourrait éclairer leurs décisions.

"Les systèmes antérieurs consistaient à vous dire quoi faire, " a déclaré Zimmerman. "Nous ne remplaçons pas le jugement humain. Nous essayons de donner aux humains des capacités inhumaines."

"Et pour ce faire, nous devons maintenir le processus de prise de décision humain, ", a ajouté Steinfeld.