Les systèmes d'IA pourraient bientôt être en mesure de générer des textes pouvant passer pour du travail humain. Une telle technologie a de nombreux avantages, mais pourrait également entraîner une génération généralisée de faux textes (y compris de fausses nouvelles). Crédit :SHUTTERSTOCK
Les programmes basés sur l'intelligence artificielle (IA) s'améliorent rapidement en écrivant de manière convaincante sur de nombreux sujets, pour pratiquement aucun frais. Il est probable que dans quelques années, ils produiront des essais dignes de la classe C pour les étudiants.
On pourrait essayer de les interdire, mais ce logiciel est très accessible. Ce serait une bataille perdue d'avance.
Écriture longue, en particulier la rédaction d'essais, demeure l'un des meilleurs moyens d'enseigner l'analyse critique. Les enseignants s'appuient sur ce mode d'évaluation pour évaluer la compréhension des élèves d'un sujet.
Ainsi, nous devons trouver des moyens d'aider les étudiants de toutes les disciplines à prospérer aux côtés de l'automatisation avancée et des systèmes intelligents, plutôt que de leur résister. Cela implique de former les étudiants à travailler avec des outils d'IA, plutôt que de les interdire.
Que sont les générateurs de texte alimentés par l'IA ?
En février 2019, GPT-2, un système de génération de texte alimenté par l'IA a été publié par OpenAI. Les personnes intéressées peuvent essayer le système elles-mêmes en suivant ces instructions, ou expérimentez avec Talk to Transformer, un outil en ligne créé à l'aide de GPT-2.
L'idée derrière GPT-2 est similaire à la fonction de texte prédictif sur un smartphone. Un système d'apprentissage automatique a reçu 8 millions de pages Web, et on lui a dit de regarder des blocs de texte pour prédire quel mot viendrait ensuite.
Le système a comparé sa supposition avec le texte réel pour "apprendre". Cela a été répété des milliards de fois, résultant dans le logiciel GPT-2.
Souvent en quelques minutes, GPT-2 peut générer des textes qui semblent avoir été écrits par un humain. Ils sont grammaticalement corrects, thématiquement cohérent, engageant et même instructif.
J'ai donné à GPT-2 cette invite :« Le système mondial de classement des universités a récemment… ». Voici quelques phrases qu'il a générées :« Le système mondial de classement des universités a récemment fait l'objet de débats houleux, beaucoup affirmant que cela devient de moins en moins pertinent. Dans un rapport publié en mai, l'Organisation de coopération et de développement économiques (OCDE) a constaté que le système est devenu de moins en moins pertinent, avec le rétrécissement de l'écart entre les meilleures et les pires universités du monde ces dernières années. L'OCDE a constaté qu'au cours de la dernière décennie, la qualité moyenne de la production de recherche d'une université est tombée à son plus bas niveau depuis la fin des années 1970 ».
Il y a plusieurs signes d'une main non humaine au travail, notamment la répétition de « de plus en plus hors de propos ». Il y a aussi le fait qu'un tel rapport de l'OCDE n'existe pas. Il a été imaginé par la machine.
Cela dit, avec quelques révisions, le texte pourrait probablement passer pour être écrit par un humain.
Il existe un certain nombre de systèmes similaires à GPT-2, y compris le BERT de Google, ERNIE2.0, XLNet et RoBERTa de Facebook. Mais GPT-2 a séduit les bricoleurs sur le Web, salué pour sa puissance et sa facilité d'utilisation dans la génération de nouveaux textes.
Disponible maintenant près de chez vous
GPT-2 se présente sous des formes qui permettent à n'importe qui de l'utiliser facilement, même sans ordinateur puissant. De tels outils sont un problème imminent pour les écoles et les universités.
Dans une expérience, J'ai alimenté le système 188 papiers d'étudiants sur le livre de Keith Basso Wisdom Sits in Places, écrit pour un cours d'anthropologie que j'enseigne. GPT-2 "appris" pendant une trentaine de minutes, après quoi il a généré quelques paragraphes.
L'un commence :« Dans cet essai, Je montrerai comment les conceptions de la sagesse se relient aux noms de lieux dans La sagesse se trouve dans des lieux, en expliquant comment les noms de lieux servent de boussole morale. Je couvrirai également la sphère culturelle des « notions de morale, ' qui s'explique par les histoires derrière les noms de lieux."
Le texte se lit comme un essai. Il est divisé en quatre paragraphes et décrit ce qui semble être des exemples du livre.
J'aurais raté le texte tel quel. L'écriture n'est pas parfaite, et par endroits l'écrivain semble perdre le fil de sa pensée. Cependant, avec une légère révision humaine, un essai digne d'un C serait à portée de main.
Adapter, ne résiste pas
Les gens expérimentent déjà avec GPT-2 pour la poésie, jeux de rôle textuels, et des pièces écrites dans un style shakespearien. De façon inquiétante, il peut également produire des flux sans fin de fausses nouvelles.
Que peuvent faire les institutions contre un tel travail « plagié » qui inonde leurs salles de classe ?
Une réponse serait d'interdire les outils d'IA. Les dirigeants de 40 universités au Royaume-Uni ont adopté cette approche contre les usines d'essai, pousser pour les rendre illégaux. Les moulins à essais sont gérés par des personnes qui facturent des frais aux étudiants en échange de l'achèvement de leur travail.
Mais on ne sait pas comment une telle interdiction pourrait être appliquée une fois que le logiciel d'IA est aussi facile d'accès que Candy Crush. Les établissements pourraient se tourner vers les règles existantes contre l'inconduite universitaire, mais une détection précise devient un problème. À mesure que les textes générés par l'IA s'améliorent, comment prouver (sans les regarder) qu'un élève a écrit ou non un texte lui-même ?
Nous ne pouvons pas, donc nous devrions prendre une page du jeu d'échecs cyborg, où les joueurs adoptent les ordinateurs pour jouer aux échecs pour devenir meilleurs eux-mêmes.
Plutôt que de prétendre que l'IA n'existe pas, il est peut-être temps de former les gens à écrire avec IA.
La plupart des bons écrivains n'écrivent pas isolément; ils parlent et révisent leur travail avec les autres. Aussi, 90% de l'écriture est la révision, ce qui signifie que les idées et les arguments d'un texte changent et se développent au fur et à mesure qu'un écrivain lit et édite son propre travail.
Ainsi, des systèmes tels que GPT-2 pourraient être utilisés comme machine de première ébauche, prendre les notes de recherche brutes d'un étudiant et les transformer en un texte qu'ils peuvent développer et réviser.
Dans ce modèle, les enseignants évalueraient un travail, pas seulement sur la base du produit final, mais sur la capacité d'un élève à utiliser des outils de génération de texte.
De puissants outils d'IA pourraient nous aider à analyser et à communiquer des idées complexes.
Sur quoi devons-nous juger nos étudiants ?
Tout ce qui précède soulève une question que nous devons prendre en compte si nous voulons vivre dans un monde favorable à l'IA :pourquoi apprenons-nous à écrire aux étudiants ?
L'une des principales raisons est que de nombreux emplois reposent sur la capacité d'écrire. Donc, lors de l'enseignement de l'écriture, nous devons réfléchir aux implications sociales et économiques d'un type de texte.
Une grande partie du paysage médiatique d'aujourd'hui, par exemple, fonctionne sur la production et la diffusion continue des articles de blog, tweets, listes, rapports de commercialisation, présentations de diapositives, et e-mails.
Bien que l'écriture informatique ne soit jamais aussi originale, provocant, ou perspicace comme le travail d'un humain qualifié, il deviendra rapidement assez bon pour de tels travaux d'écriture, et les IA n'auront pas besoin d'assurance maladie ni de vacances.
Si nous enseignons aux élèves à écrire des choses qu'un ordinateur peut, puis nous les formons pour les tâches qu'un ordinateur peut faire, pour moins cher.
Les éducateurs doivent penser de manière créative aux compétences que nous donnons à nos élèves. Dans ce contexte, nous pouvons traiter l'IA comme un ennemi, ou nous pouvons l'adopter comme un partenaire qui nous aide à en apprendre davantage, travailler plus intelligemment, et plus vite.
Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.