Susan Schneider, professeur agrégé de philosophie et de sciences cognitives et directeur de l'IA, Groupe Mind and Society (AIMS) à UConn, a acquis une réputation nationale et internationale pour ses écrits sur les implications philosophiques de l'intelligence artificielle (IA). Elle écrit sur la nature du soi et de l'esprit, IA, sciences cognitives, et l'astrobiologie dans des publications telles que New York Times , Scientifique américain , et The Financial Times et son travail a été largement discuté dans les médias, tel que Science , Grande réflexion , Nautile , Découvrir et Smithsonian . Elle a été nommée chaire NASA-Baruch Blumberg pour la Bibliothèque du Congrès et la NASA et détient également la chaire Distinguished Scholar à la Bibliothèque du Congrès. Dans son nouveau livre, Vous artificiel :l'IA et l'avenir de votre esprit (Princeton University Press, 2019), elle examine les implications des progrès de la technologie de l'intelligence artificielle pour l'avenir de l'esprit humain.

Q :Quel est l'objectif de votre dernier livre ?

R :Ce livre traite de l'avenir de l'esprit. Il explore la nature du soi et de la conscience dans un avenir pas si lointain, en utilisant les travaux d'aujourd'hui en matière d'intelligence artificielle et de technologies d'amélioration du cerveau. La conscience est la qualité ressentie à expérimenter - ce que l'on ressent d'être vous. Lorsque vous sentez l'arôme de votre café du matin, entendre le son d'un concerto de Bach, ou ressentir de la douleur, vous vivez une expérience consciente. En effet, chaque instant de ta vie éveillée, et même quand tu rêves, c'est comme quelque chose de l'intérieur d'être vous. Ce livre pose la question suivante :en supposant que nous construisions des intelligences artificielles hautement sophistiquées à un moment donné dans le futur, seraient-ils des êtres conscients ? Plus loin, comment détecterions-nous la conscience dans les machines ? Ces questions sont abordées dans la première moitié du livre. La seconde moitié du livre est sur la nature de soi. J'illustre que l'IA ne va pas seulement changer le monde qui nous entoure. Ça va aller dans la tête, changer l'esprit humain lui-même, mais je suis préoccupé par les utilisations potentielles de composants d'IA invasifs à l'intérieur de nos têtes. J'insiste sur le fait que nous devons comprendre les questions philosophiques profondes sur le soi, la conscience, et l'esprit avant de commencer à jouer avec le feu et à remplacer des parties de notre cerveau par des composants artificiels. Quand il s'agit de soi et de l'esprit, nous sommes confrontés à des questions philosophiques épineuses qui n'ont pas de solution facile.

Q : Vous parlez d'une telle expérimentation d'implants neuraux pour des choses comme la maladie d'Alzheimer, mais revenez à la question :s'il y a une intelligence artificielle quand prend-elle conscience d'elle-même ?

R :Il existe toutes sortes de technologies médicales impressionnantes en cours, et je suis très favorable à l'utilisation de puces cérébrales invasives pour aider les personnes souffrant de perte de mémoire radicale ou de syndrome d'enfermement, dans laquelle les individus perdent entièrement leur capacité de se déplacer. Je pense que les innovations pour aider ces personnes sont importantes et passionnantes. Ce qui m'inquiète, bien que, est l'idée que les humains devraient s'engager dans une amélioration généralisée et invasive de leur cerveau basée sur l'IA. Par exemple, Elon Musk a récemment déclaré que nous devrons éventuellement suivre le rythme de l'IA super-intelligente – une forme hypothétique d'IA qui nous surpasse grandement – ​​et nous devons le faire en améliorant notre cerveau. Il pense également que cela nous aidera à faire face au chômage technologique qui, selon de nombreux économistes, se produira parce que l'IA nous dépassera sur le marché du travail. Musk et d'autres parlent de "fusionner avec l'IA et moi" en augmentant progressivement l'intelligence avec la technologie de l'IA jusqu'à ce que, à la fin de la journée, nous sommes essentiellement des IA nous-mêmes. Musk a récemment fondé une entreprise pour ce faire, et Facebook et Kernal y travaillent également. Mais je soutiens dans le livre et dans les éditoriaux du New York Times et du Financial Times que l'idée que nous pourrions vraiment fusionner avec l'intelligence artificielle de la manière que défendent de nombreux gourous de la technologie et transhumanistes n'est en fait pas philosophiquement fondée. Nous devons réfléchir plus attentivement

Q :Vous utilisez des exemples d'IA issus de la science-fiction, dont un avec le personnage de Star Trek:Next Generation Lt. Commander Data, qui est attaqué sur une planète et il télécharge les souvenirs de son cerveau sur un ordinateur de l'Enterprise. Vous demandez :sera-t-il toujours le même Data qu'il était avant d'être détruit ? Survivra-t-il vraiment ?

R :Je pense que les gens supposent que les IA auront la capacité d'être immortelles parce qu'elles peuvent simplement continuer à télécharger et à télécharger des copies d'elles-mêmes chaque fois qu'elles sont dans le pétrin. Par cela, ils veulent dire que l'androïde est pratiquement immortel, vivre jusqu'à la fin de l'univers. Cela les rend presque divins. Je suis sceptique. Dans le livre, j'utilise l'exemple de Data pour illustrer que si Data découvrait qu'il était sur une planète qui était sur le point d'être détruite, il ne pouvait pas télécharger et vraiment survivre. Je pense que l'idée que vous pourriez transférer vos pensées dans un format différent et rester vous-même, survivre à une mort imminente, est conceptuellement défectueux. Il est défectueux à la fois dans le cas des humains et dans celui des androïdes. Croyez-le ou non, il y a des partisans du téléchargement du cerveau humain pour survivre à la mort dans des endroits comme l'Oxford Future of Humanity Institute. Je suis sceptique.

Q :L'un des points que vous soulevez dans le livre est que nous avons fait beaucoup de progrès sur le plan technologique mais que nous n'avons encore rien entendu d'une culture extraterrestre. Vous suggérez que nous devrions nous préparer au contact extraterrestre en incluant la participation de sociologues, d'anthropologues et de philosophes.

En tant que président de la NASA à la NASA et à la Bibliothèque du Congrès, J'aime penser au paradoxe de Fermi, quelle est la question :étant donné la grande taille de l'univers, où est toute la vie intelligente ? Où est tout le monde? De nos jours, la question peut être formulée en termes de toutes les recherches intrigantes sur les exoplanètes qui identifient les planètes habitables dans l'univers, mais ces exoplanètes sont-elles réellement habitées (pas seulement habitables), et s'ils sont habités, la vie survit-elle dans la majorité technologique ? Ou sommes-nous seuls ? Pourquoi n'avons-nous rien entendu ? Dans la mesure où nous trouvons même la vie là-bas, je suppose que nous allons d'abord trouver la vie microbienne. Il existe des dizaines de réponses glorieusement amusantes au paradoxe de Fermi.

Q :Dans le travail que vous faites avec le Congrès, quel genre de questions vous pose-t-on et à quoi devrions-nous penser pour aller de l'avant avec toute cette technologie ?

Au cours des dernières années, les fausses vidéos profondes ont suscité beaucoup d'inquiétude. Personne n'aime ça; votre carrière pourrait être ruinée par une fausse vidéo profonde qui vous fait dire quelque chose de vraiment pourri que vous n'avez jamais dit. La discrimination algorithmique est un gros problème, le fait que les algorithmes basés sur des technologies de deep learning seront pilotés par les données, donc si les données elles-mêmes ont un biais implicite, des préjugés cachés, cela peut en fait conduire à un mauvais résultat qui discrimine certains groupes. Il y a beaucoup de membres du Congrès qui s'en inquiètent. C'est pourquoi nous avons vraiment besoin d'une réglementation sur l'IA. La réglementation de l'IA pourrait faire un travail énorme. Et donc j'espère que nous avancerons sur toutes ces questions.