Équité et sécurité

Les chercheurs ont testé leur approche en essayant d'améliorer l'équité des algorithmes qui prédisent les GPA des étudiants en fonction des résultats des examens, une pratique courante qui peut entraîner des préjugés sexistes. À l'aide d'un ensemble de données expérimentales, ils ont donné à leur algorithme des instructions mathématiques pour éviter de développer une méthode prédictive qui surestimait ou sous-estimait systématiquement les GPA pour un sexe. Avec ces instructions, l'algorithme a identifié une meilleure façon de prédire les MPC des étudiants avec des préjugés sexistes beaucoup moins systématiques que les méthodes existantes. Les méthodes antérieures avaient des difficultés à cet égard, soit parce qu'elles n'avaient pas de filtre d'équité intégré, soit parce que les algorithmes développés pour atteindre l'équité étaient trop limités.

Le groupe a développé un autre algorithme et l'a utilisé pour équilibrer la sécurité et les performances d'une pompe à insuline automatisée. Ces pompes doivent décider de l'importance ou de la faible dose d'insuline à administrer au patient au moment des repas. Idéalement, la pompe délivre juste assez d'insuline pour maintenir la glycémie stable. Trop peu d'insuline permet à la glycémie d'augmenter, entraînant des malaises à court terme tels que des nausées, et un risque élevé de complications à long terme, y compris les maladies cardiovasculaires. Trop et la glycémie s'effondre, une issue potentiellement mortelle.

L'apprentissage automatique peut aider en identifiant des modèles subtils dans les réponses glycémiques d'un individu aux doses, mais les méthodes existantes ne permettent pas aux médecins de spécifier facilement les résultats que les algorithmes de dosage automatisés devraient éviter, comme les accidents d'hypoglycémie. A l'aide d'un simulateur de glycémie, Brunskill et Thomas ont montré comment les pompes pouvaient être formées pour identifier le dosage adapté à cette personne, évitant ainsi les complications d'un surdosage ou d'un sous-dosage. Bien que le groupe ne soit pas prêt à tester cet algorithme sur de vraies personnes, il indique une approche d'IA qui pourrait éventuellement améliorer la qualité de vie des diabétiques.

Dans leurs Science papier, Brunskill et Thomas utilisent le terme « algorithme seldonien » pour définir leur approche, une référence à Hari Seldon, un personnage inventé par l'auteur de science-fiction Isaac Asimov, qui a un jour proclamé trois lois de la robotique commençant par l'injonction selon laquelle "Un robot ne peut pas blesser un être humain ou, par l'inaction, permettre à un être humain de subir un préjudice. »

Tout en reconnaissant que le terrain est encore loin de garantir les trois lois, Thomas a déclaré que ce cadre seldonien permettra aux concepteurs d'apprentissage automatique de créer plus facilement des instructions d'évitement du comportement dans toutes sortes d'algorithmes, d'une manière qui leur permette d'évaluer la probabilité que les systèmes entraînés fonctionnent correctement dans le monde réel.

Brunskill a déclaré que ce cadre proposé s'appuie sur les efforts déployés par de nombreux informaticiens pour trouver un équilibre entre la création d'algorithmes puissants et le développement de méthodes garantissant leur fiabilité.

« Réfléchir à la façon dont nous pouvons créer des algorithmes qui respectent au mieux des valeurs telles que la sécurité et l'équité est essentiel alors que la société s'appuie de plus en plus sur l'IA, " a déclaré Brunskill.