Quelle a été votre première réaction lorsque vous avez entendu parler de Blake Lemoine, l'ingénieur de Google qui a annoncé le mois dernier que le programme d'IA sur lequel il travaillait avait développé une conscience ?

Si, comme moi, vous êtes instinctivement méfiant, cela aurait pu être quelque chose comme :Est-ce que ce type est sérieux ? Croit-il sincèrement ce qu'il dit ? Ou est-ce un canular élaboré ?

Mettez les réponses à ces questions de côté. Concentrez-vous plutôt sur les questions elles-mêmes. N'est-il pas vrai que même les poser, c'est présupposer quelque chose de crucial à propos de Blake Lemoine :précisément, il est conscient ?

En d'autres termes, nous pouvons tous imaginer que Blake Lemoine est trompeur.

Et nous pouvons le faire parce que nous supposons qu'il y a une différence entre ses convictions intérieures - ce qu'il croit sincèrement - et ses expressions extérieures :ce qu'il affirme croire.

Cette différence n'est-elle pas la marque de la conscience ? Supposerions-nous jamais la même chose à propos d'un ordinateur ?

Conscience :'Le problème difficile'

Ce n'est pas pour rien que les philosophes ont pris l'habitude d'appeler la conscience « le problème difficile ». Il est notoirement difficile à définir.

Mais pour le moment, disons qu'un être conscient est un être capable d'avoir une pensée et de ne pas la divulguer.

Cela signifie que la conscience serait la condition préalable à l'ironie, ou dire une chose tout en signifiant le contraire. Je sais que vous êtes ironique quand je réalise que vos mots ne le font pas correspondent à vos pensées.

Que la plupart d'entre nous aient cette capacité - et que la plupart d'entre nous transmettent régulièrement nos significations non dites de cette manière - est quelque chose qui, je pense, devrait nous surprendre plus souvent qu'il ne le fait.

Il semble presque discrètement humain.

Les animaux peuvent certainement être drôles, mais pas délibérément.

Qu'en est-il des machines ? Peuvent-ils tromper ? Peuvent-ils garder des secrets ? Peuvent-ils être ironiques ?

IA et ironie

C'est une vérité universellement reconnue (parmi les universitaires du moins) que toute question de recherche que vous pourriez inventer avec les lettres "AI" est déjà étudiée quelque part par une armée de scientifiques informatiques aux ressources obscènes - souvent, sinon toujours, financé par l'armée américaine.

C'est certainement le cas avec la question de l'IA et de l'ironie, qui a récemment suscité un intérêt considérable dans la recherche.

Bien sûr, étant donné que l'ironie consiste à dire une chose tout en signifiant le contraire, créer une machine capable de la détecter, et encore moins de la générer, n'est pas une tâche simple.

Mais si nous pouvions créer une telle machine, elle aurait une multitude d'applications pratiques, certaines plus sinistres que d'autres.

À l'ère des critiques en ligne, par exemple, les détaillants sont devenus très friands de ce que l'on appelle la « extraction d'opinions » et l'« analyse des sentiments », qui utilisent l'IA pour cartographier non seulement le contenu, mais aussi l'humeur des commentaires des critiques.

Savoir si votre produit fait l'objet d'éloges ou devient la cible d'une plaisanterie est une information précieuse.

Ou envisagez la modération de contenu sur les réseaux sociaux. Si nous voulons limiter les abus en ligne tout en protégeant la liberté d'expression, ne serait-il pas utile de savoir quand quelqu'un est sérieux et quand il plaisante ?

Ou que se passe-t-il si quelqu'un tweete qu'il vient de rejoindre sa cellule terroriste locale ou qu'il emballe une bombe dans sa valise et se dirige vers l'aéroport ? (Ne tweetez jamais cela, au fait.) Imaginez si nous pouvions déterminer instantanément s'ils sont sérieux ou s'ils sont simplement "ironiques".

En fait, étant donné la proximité de l'ironie avec le mensonge, il n'est pas difficile d'imaginer comment toute la machinerie obscure de surveillance gouvernementale et corporative qui s'est développée autour des nouvelles technologies de communication trouverait la perspective d'un détecteur d'ironie extrêmement intéressante.

Et cela explique en grande partie la littérature croissante sur le sujet.

IA, de Clippy à la reconnaissance faciale

Pour comprendre l'état de la recherche actuelle sur l'IA et l'ironie, il est utile d'en savoir un peu plus sur l'histoire de l'IA de manière plus générale.

Cet historique est généralement divisé en deux périodes.

Jusque dans les années 1990, les chercheurs cherchaient à programmer des ordinateurs avec un ensemble de règles formelles artisanales sur la façon de se comporter dans des situations prédéfinies.

Si vous avez utilisé Microsoft Word dans les années 1990, vous vous souvenez peut-être de l'irritant assistant de bureau Clippy, qui surgissait sans cesse pour offrir des conseils indésirables.

Depuis le début du siècle, ce modèle a été remplacé par l'apprentissage automatique basé sur les données et les réseaux de neurones.

Ici, d'énormes caches d'exemples d'un phénomène donné sont traduites en valeurs numériques, sur lesquelles les ordinateurs peuvent effectuer des opérations mathématiques complexes pour déterminer des modèles qu'aucun humain ne pourrait jamais découvrir.

De plus, l'ordinateur ne se contente pas d'appliquer une règle. Au contraire, il apprend de l'expérience et développe de nouvelles opérations indépendantes de l'intervention humaine.

La différence entre les deux approches est la différence entre Clippy et, disons, la technologie de reconnaissance faciale.

Rechercher le sarcasme

Pour construire un réseau neuronal capable de détecter l'ironie, les chercheurs se concentrent dans un premier temps sur ce que certains considéreraient comme sa forme la plus simple :le sarcasme.

Les chercheurs commencent avec des données extraites des médias sociaux.

Par exemple, ils peuvent collecter tous les tweets étiquetés #sarcasm ou les messages Reddit étiquetés /s, un raccourci que les utilisateurs de Reddit utilisent pour indiquer qu'ils ne sont pas sérieux.

Le but n'est pas d'apprendre à l'ordinateur à reconnaître les deux significations distinctes d'un message sarcastique donné. En effet, le sens n'a aucune pertinence.

Au lieu de cela, l'ordinateur est chargé de rechercher des modèles récurrents, ou ce qu'un chercheur appelle des "empreintes digitales syntaxiques" :des mots, des phrases, des émoticônes, des signes de ponctuation, des erreurs, des contextes, etc.

De plus, l'ensemble de données est renforcé par l'ajout de plusieurs flux d'exemples :d'autres publications dans les mêmes fils de discussion, par exemple, ou du même compte.

Chaque nouvel exemple individuel est ensuite soumis à une batterie de calculs jusqu'à ce que nous arrivions à une seule détermination :sarcastique ou non sarcastique.

Enfin, un bot peut être programmé pour répondre à chaque affiche originale et demander s'ils étaient sarcastiques. Toute réponse peut être ajoutée à la montagne d'expérience croissante de l'ordinateur.

Le taux de réussite des détecteurs de sarcasme les plus récents approche le chiffre étonnant de 90 % - plus élevé, je suppose, que ce que beaucoup d'humains pourraient atteindre.

Donc, en supposant que l'IA continuera à progresser au rythme qui nous a fait passer de Clippy à la technologie de reconnaissance faciale en moins de deux décennies, les androïdes ironiques peuvent-ils être loin ?

Qu'est-ce que l'ironie ?

Mais n'y a-t-il pas une différence qualitative entre trier les "empreintes syntaxiques" de l'ironie et la comprendre réellement ?

Certains suggéreraient que non. Si l'on peut apprendre à un ordinateur à se comporter exactement comme un humain, il importe peu qu'un riche monde interne de sens se cache sous son comportement.

Mais l'ironie est sans doute un cas unique :elle repose sur la distinction entre les comportements externes et les croyances internes.

Ici, il peut être utile de rappeler que, si les informaticiens ne se sont intéressés que récemment à l'ironie, les philosophes et les critiques littéraires y réfléchissent depuis très longtemps.

Et peut-être que l'exploration de cette tradition jetterait une lumière ancienne, pour ainsi dire, sur un nouveau problème.

Parmi les nombreux noms que l'on pourrait invoquer dans ce contexte, deux sont indispensables :le philosophe romantique allemand Friedrich Schlegel; et le théoricien littéraire post-structuraliste Paul de Man.

Pour Schlegel, l'ironie n'implique pas simplement un faux sens extérieur et un vrai sens intérieur. Plutôt, ironie du sort, deux sens opposés sont présentés comme également vrais. Et l'indétermination qui en résulte a des implications dévastatrices pour la logique, notamment la loi de non-contradiction, qui stipule qu'un énoncé ne peut pas être simultanément vrai et faux.

De Man suit Schlegel sur ce point et, en un sens, universalise sa perspicacité. Il note que tout effort pour définir un concept d'ironie est lié à être infecté par les phénomènes qu'il prétend expliquer.

En effet, de Man croit que tout langage est infecté par l'ironie et implique ce qu'il appelle une « parabase permanente ». Parce que les humains ont le pouvoir de dissimuler leurs pensées les uns aux autres, il sera toujours possible – en permanence possible – qu'ils ne pensent pas ce qu'ils disent.

L'ironie, en d'autres termes, n'est pas un type de langage parmi d'autres. Il structure - ou mieux, hante - chaque utilisation du langage et chaque interaction.

Et en ce sens, elle dépasse l'ordre de la preuve et du calcul. La question est de savoir s'il en va de même pour les êtres humains en général.