Barbara Grosz a le fantasme qu'à chaque fois qu'un informaticien se connecte pour écrire un algorithme ou construire un système, un message clignotera sur l'écran qui demande, « Avez-vous pensé aux implications éthiques de ce que vous faites ? »

Jusqu'à ce que ce jour arrive, Grosz, le professeur Higgins de sciences naturelles à la Harvard John A. Paulson School of Engineering and Applied Sciences (SEAS), travaille à inculquer à la prochaine génération d'informaticiens un état d'esprit qui prend en compte l'impact sociétal de leur travail, et les capacités de raisonnement éthique et de communication pour le faire.

"L'éthique imprègne la conception de presque tous les systèmes informatiques ou algorithmes qui sortent dans le monde, " a déclaré Grosz. " Nous voulons éduquer nos étudiants à réfléchir non seulement aux systèmes qu'ils pourraient construire, mais s'ils devraient construire ces systèmes et comment ils devraient concevoir ces systèmes. »

À une époque où les départements d'informatique de tout le pays se demandent comment former des diplômés qui comprennent l'éthique ainsi que les algorithmes, Harvard adopte une approche novatrice.

En 2015, Grosz a conçu un nouveau cours intitulé « Systèmes intelligents :défis de conception et d'éthique ». Expert en intelligence artificielle et pionnier du traitement automatique du langage naturel, Grosz s'est tourné vers des collègues du département de philosophie de Harvard pour co-enseigner le cours. Ils ont intercalé dans le contenu technique du cours une série d'énigmes éthiques de la vie réelle et les théories philosophiques pertinentes nécessaires pour les évaluer. Cela a forcé les étudiants à se confronter à des questions qui, contrairement à la plupart des problèmes informatiques, n'ont pas de réponse correcte évidente.

Les élèves ont répondu. Le cours a rapidement attiré un public et dès la deuxième année, 140 personnes étaient en compétition pour 30 places. Il y avait une demande pour plus de cours de ce type, non seulement de la part des étudiants, mais aussi par les collègues de la faculté d'informatique de Grosz.

"La faculté a pensé que c'était intéressant et important, mais ils n'avaient pas d'expertise en éthique pour l'enseigner eux-mêmes, " elle a dit.

En réponse, Grosz et sa collaboratrice Alison Simmons, le professeur de philosophie Samuel H. Wolcott, développé un modèle qui s'appuie sur l'expertise du département de philosophie et l'intègre dans une liste croissante de plus d'une douzaine de cours d'informatique, de la programmation d'introduction à la théorie des cycles supérieurs.

Sous l'initiative, baptisée Embedded EthicS, les étudiants diplômés en philosophie sont jumelés à des professeurs d'informatique. Ensemble, ils examinent le matériel du cours et décident d'un sujet éthiquement riche qui découlera naturellement du contenu. Un étudiant diplômé identifie des lectures et développe une étude de cas, Activités, et des devoirs qui renforceront le matériel. Les professeurs d'informatique et de philosophie enseignent côte à côte lorsque le matériel Embedded EthiCS est apporté en classe.

Grosz et ses collègues philosophes sont au centre d'un mouvement qui, espèrent-ils, s'étendra aux programmes d'informatique à travers le pays. L'approche de « pédagogie distribuée » de Harvard est différente de celle de nombreux programmes universitaires qui traitent de l'éthique en ajoutant un cours autonome qui est, le plus souvent, juste un cours au choix pour les majors en informatique.

"Les cours autonomes peuvent être formidables, mais ils peuvent envoyer le message que l'éthique est quelque chose à laquelle vous pensez après avoir fait votre "vrai" travail informatique, " a déclaré Simmons. "Nous voulons envoyer le message que le raisonnement éthique fait partie de ce que vous faites en tant qu'informaticien."

L'intégration de l'éthique dans le programme aide les étudiants en informatique à voir comment les problèmes éthiques peuvent survenir dans de nombreux contextes, des problèmes allant de la manière dont les réseaux sociaux facilitent la diffusion de fausses informations à la censure en passant par les techniques d'apprentissage automatique qui permettent des déductions statistiques dans l'emploi et dans le système de justice pénale.

Les cours d'intelligence artificielle et d'apprentissage automatique sont des domaines évidents pour les discussions éthiques, mais Embedded EthiCS a également construit des modules pour des appariements moins évidents, comme l'algèbre appliquée.

« Nous voulons vraiment habituer les étudiants à réfléchir :comment un problème éthique peut-il survenir dans tel ou tel contexte ? » dit Simmons.

David Parkes, Professeur d'informatique George F. Colony, enseigne un large éventail de cours de premier cycle sur des sujets en économie algorithmique. « Sans cette initiative, J'aurais eu du mal à formuler les bonnes questions éthiques liées aux règles d'appariement des marchés, ou choisir des objectifs pour les systèmes de recommandation, ", a-t-il déclaré. "Cela a été une expérience révélatrice d'amener les étudiants à réfléchir attentivement aux questions éthiques."

Grosz a reconnu qu'il peut être difficile pour les professeurs d'informatique et leurs étudiants de comprendre des dilemmes éthiques souvent opaques.

"Les informaticiens sont habitués à ce qu'il existe des moyens de prouver que les réponses aux problèmes sont correctes ou que les algorithmes sont efficaces, " a-t-elle déclaré. " Se retrouver dans une situation où des valeurs différentes conduisent à des compromis et à des moyens de soutenir différentes « bonnes conclusions » est un changement d'esprit difficile. Mais faire entrer ces questions normatives dans l'esprit du concepteur de système informatique est crucial pour la société en ce moment."

Jeffrey Behrends, actuellement chercheur en résidence au Edmond J. Safra Center for Ethics de Harvard, a co-enseigné le cours de design et d'éthique avec Grosz. Behrends a déclaré que l'expérience a révélé une plus grande harmonie entre les deux domaines que ce à quoi on pourrait s'attendre.

« Une fois que les étudiants qui ne sont pas familiers avec la philosophie y sont initiés, ils se rendent compte qu'il ne s'agit pas d'une entreprise obscure totalement indépendante des autres façons de penser le monde, " a-t-il dit. " Beaucoup d'étudiants qui sont attirés par l'informatique sont également attirés par certaines des méthodologies de la philosophie, parce que nous mettons l'accent sur une réflexion rigoureuse. Nous mettons l'accent sur une méthodologie de résolution de problèmes qui ne semble pas trop différente de certaines des méthodologies de résolution de problèmes en informatique. »

Le modèle Embedded EthiCS a suscité l'intérêt des universités et des entreprises de tout le pays. Récemment, des experts de plus de 20 institutions se sont réunis à Harvard pour un atelier sur les défis et les meilleures pratiques pour intégrer l'éthique dans les programmes d'informatique. Marie Gray, chercheur principal chez Microsoft Research (et membre du Berkman Klein Center for Internet and Society de Harvard), qui a aidé à organiser le rassemblement, dit qu'en plus de côtelettes techniques impeccables, les employeurs recherchent de plus en plus des personnes qui comprennent la nécessité de créer une technologie accessible et socialement responsable.

"Notre défi dans l'industrie est d'aider les chercheurs et les praticiens à ne pas voir l'éthique comme une case à cocher à la fin, mais plutôt de penser à ces choses dès le début d'un projet, " dit Gray.

Ces préoccupations ont récemment inspiré l'Association for Computing Machinery (ACM), la plus grande société d'informatique scientifique et éducative au monde, de mettre à jour son code d'éthique pour la première fois depuis 1992.

Dans l'espoir de diffuser largement le concept Embedded EthiCS dans le paysage informatique, Grosz et ses collègues ont rédigé un article qui sera publié dans la revue Communication de l'ACM et a lancé un site Web pour servir de référentiel open source de leurs modules de cours les plus réussis.

Ils envisagent un changement de culture qui mènera à une nouvelle génération de praticiens de l'informatique soucieux de l'éthique.

"Dans notre monde onirique, le succès conduira à des décideurs mieux informés et à de nouveaux modèles d'organisation d'entreprise qui intègrent l'éthique à toutes les étapes de la conception et du leadership d'entreprise, " dit Behrends.

L'expérience a également conduit à des conversations intéressantes au-delà du domaine de l'informatique.

« Nous avons fait cela dans le contexte de la technologie, mais ancrer l'éthique de cette manière est important pour chaque discipline scientifique qui diffuse des choses dans le monde, " dit Grosz. " Pour ce faire, nous aurons besoin de former une génération de philosophes qui réfléchiront aux façons dont ils peuvent adopter l'éthique philosophique et la pensée normative, et l'amener à l'ensemble de la science et de la technologie."

Des modules de cours soigneusement conçus

Au cœur du programme Embedded EthiCS sont soigneusement conçus, modules spécifiques au cours, développé en collaboration par des professeurs d'informatique et de philosophie.

Un module créé pour un cours enseigné par le professeur Finale Doshi-Velez demande aux étudiants de se poser des questions sur la façon dont les modèles d'apprentissage automatique peuvent être discriminatoires, et comment cette discrimination peut être réduite. Une conférence d'introduction présente un cadre philosophique de ce qu'est la discrimination, y compris les concepts de traitement et d'impact disparates. Les étudiants apprennent comment éliminer la discrimination dans l'apprentissage automatique nécessite plus que simplement réduire les biais au sens technique. Même définir une bonne tâche socialement peut ne pas suffire à réduire la discrimination, puisque l'apprentissage automatique repose sur des corrélations utiles de manière prédictive et que ces corrélations entraînent parfois une augmentation des inégalités entre les groupes.

Le module met en lumière les ramifications et les limites potentielles de l'utilisation d'une définition d'impact disparate pour identifier la discrimination. Il introduit également des travaux d'informatique technique sur les discriminations, critères d'équité statistique. Un exercice en classe se concentre sur un cas dans lequel un algorithme qui prédit le succès des candidats à des postes de vente chez un grand détaillant fait que moins d'Afro-Américains sont recommandés pour des postes que les candidats blancs.

Un devoir hors classe demande aux étudiants de s'appuyer sur ces bases pour résoudre un problème éthique concret auquel sont confrontés les informaticiens en activité (c'est-à-dire, ingénieurs en logiciel travaillant pour le ministère du Travail). Le devoir donne aux étudiants l'occasion d'appliquer le matériel à un problème du monde réel du genre auquel ils pourraient être confrontés dans leur carrière, et leur demande d'articuler et de défendre leur approche pour résoudre le problème.