Crédit :Pixabay/CC0 Domaine public
Les algorithmes deviennent monnaie courante. Ils peuvent déterminer les perspectives d'emploi, la sécurité financière et plus encore. L'utilisation d'algorithmes peut être controversée - par exemple, robodebt, comme le système de conformité en ligne défectueux du gouvernement australien est devenu connu.
Les algorithmes sont de plus en plus utilisés pour prendre des décisions qui ont un impact durable sur nos vies actuelles et futures.
Certains des impacts les plus importants de la prise de décision algorithmique se situent dans l'éducation. Si vous avez quelque chose à voir avec une école ou une université australienne, à un moment donné, un algorithme prendra une décision qui compte pour vous.
Alors, quel type de décisions pourrait impliquer des algorithmes ? Certaines décisions impliqueront la prochaine question à laquelle les élèves devront répondre lors d'un test, comme la fourniture en ligne de NAPLAN. Certains algorithmes soutiennent la prise de décision humaine dans les universités, comme l'identification des étudiants à risque d'échouer dans une matière. D'autres sortent l'humain de la boucle, comme certaines formes de supervision d'examen en ligne.
Comment fonctionnent les algorithmes ?
Malgré leurs impacts omniprésents sur nos vies, il est souvent difficile de comprendre comment fonctionnent les algorithmes, pourquoi ils ont été conçus et pourquoi ils sont utilisés. Alors que les algorithmes deviennent un élément clé de la prise de décision dans l'éducation (et dans de nombreux autres aspects de notre vie), les gens doivent savoir deux choses :
Dans le cadre d'une recherche visant à explorer ces deux questions, nous avons développé un jeu algorithmique utilisant des méthodologies participatives pour impliquer diverses parties prenantes dans la recherche. Le processus devient une forme d'expérimentation collective pour encourager de nouvelles perspectives et idées sur un problème.
Notre jeu d'algorithmes est basé sur la controverse sur les examens au Royaume-Uni en 2020. Pendant les fermetures de COVID-19, un algorithme a été utilisé pour déterminer les notes des étudiants souhaitant fréquenter l'université. L'algorithme a prédit des notes pour certains élèves qui étaient bien inférieures aux attentes. Face aux protestations, l'algorithme a finalement été abandonné.
Jeu de blâme ridicule :blâmez l'humain et non l'algorithme—« Le Premier ministre Boris Johnson blâme « l'algorithme mutant » pour le fiasco des examens du lycée au Royaume-Uni » https://t.co/6z49scUYHd cc @zeynep @soizicpenicaud @HenriVerdier
— Martin Tisné (@martintisne) 26 août 2020
Notre équipe interdisciplinaire a co-conçu le jeu d'algorithme d'examen britannique au cours d'une série de deux ateliers et de plusieurs réunions cette année. Nos ateliers comprenaient des étudiants, des spécialistes des données, des éthiciens et des spécialistes des sciences sociales. De telles perspectives interdisciplinaires sont essentielles pour comprendre l'éventail des implications sociales, éthiques et techniques des algorithmes dans l'éducation.
Les algorithmes font des compromis, la transparence est donc nécessaire
L'exemple du Royaume-Uni met en évidence les principaux problèmes liés à l'utilisation d'algorithmes dans la société, notamment les problèmes de transparence et de biais dans les données. Ces problèmes sont importants partout, y compris en Australie.
Nous avons conçu le jeu d'algorithmes pour aider les gens à développer les outils pour avoir plus leur mot à dire dans le façonnement du monde que les algorithmes créent. Les "jeux" d'algorithmes invitent les gens à jouer avec et à découvrir les paramètres de fonctionnement d'un algorithme. Les exemples incluent des jeux qui montrent aux gens comment les algorithmes sont utilisés dans la détermination de la peine ou qui peuvent aider à prédire le risque d'incendie dans les bâtiments
Le public est de plus en plus conscient que les algorithmes, en particulier ceux utilisés dans les formes d'intelligence artificielle, doivent être compris comme soulevant des questions d'équité. Mais alors que tout le monde peut avoir une compréhension vernaculaire de ce qui est juste ou injuste, lorsque des algorithmes sont utilisés, de nombreux compromis sont impliqués.
Dans notre jeu d'algorithmes, nous amenons les gens à travers une série de problèmes où la solution à un problème d'équité en introduit simplement un nouveau. Par exemple, l'algorithme britannique n'a pas très bien fonctionné pour prédire les notes des élèves dans les écoles où un plus petit nombre d'élèves suivaient certaines matières. C'était injuste pour ces étudiants.
La solution signifiait que l'algorithme n'était pas utilisé pour ces écoles souvent très privilégiées. Ces élèves ont ensuite reçu des notes prédites par leurs professeurs. Mais ces notes étaient pour la plupart plus élevées que les notes générées par l'algorithme reçues par les élèves des grandes écoles, qui étaient le plus souvent des écoles polyvalentes publiques. Cela signifiait donc que la décision était juste pour les élèves des petites écoles, injuste pour ceux des grandes écoles qui avaient des notes attribuées par l'algorithme.
Ce que nous essayons de montrer dans notre jeu, c'est qu'il n'est pas possible d'avoir un résultat parfait. Et que ni les humains ni les algorithmes ne feront un ensemble de choix équitables pour tout le monde. Cela signifie que nous devons prendre des décisions sur les valeurs importantes lorsque nous utilisons des algorithmes.
Le public doit avoir son mot à dire pour équilibrer le pouvoir de l'EdTech
Alors que notre jeu d'algorithmes se concentre sur l'utilisation d'un algorithme développé par un gouvernement, les algorithmes dans l'éducation sont généralement introduits dans le cadre de la technologie éducative. L'industrie EdTech se développe rapidement en Australie. Les entreprises cherchent à dominer toutes les étapes de l'éducation :inscription, conception de l'apprentissage, expérience d'apprentissage et apprentissage tout au long de la vie.
Parallèlement à ces développements, le COVID-19 a accéléré l'utilisation de la prise de décision algorithmique dans l'éducation et au-delà.
Si ces innovations ouvrent des possibilités incroyables, les algorithmes apportent également avec eux un ensemble de défis auxquels nous devons faire face en tant que société. Des exemples comme l'algorithme d'examen britannique nous exposent au fonctionnement de ces algorithmes et aux types de décisions qui doivent être prises lors de leur conception. Nous sommes alors obligés de répondre à des questions profondes sur les valeurs que nous choisirons de prioriser et sur la feuille de route de la recherche que nous poursuivrons.
Nos choix façonneront notre avenir et celui des générations à venir.
