S'il y a une ligne qui résiste à l'épreuve du temps dans le classique de 1993 de Steven Spielberg www.imdb.com/title/tt0107290/> parc jurassique , c'est probablement l'exclamation de Jeff Goldblum, "Vos scientifiques étaient tellement préoccupés de savoir s'ils pouvaient ou non, ils ne se sont pas arrêtés pour réfléchir s'ils le devaient."

le personnage de Goldblum, Dr Ian Malcolm, mettait en garde contre l'orgueil de bricoler naïvement avec l'ADN de dinosaure dans le but de ramener ces créatures éteintes à la vie. Vingt-cinq ans plus tard, ses mots prennent une nouvelle pertinence alors qu'un nombre croissant de scientifiques et d'entreprises se demandent comment franchir la ligne entre « pourrait » et « devrait » dans des domaines allant de l'édition de gènes et de la « désextinction » du monde réel à l'augmentation humaine, intelligence artificielle et bien d'autres.

Malgré les craintes croissantes que de puissantes technologies émergentes puissent entraîner des conséquences inattendues et de grande envergure, les innovateurs ont du mal à développer de nouveaux produits bénéfiques tout en étant socialement responsables. Une partie de la réponse pourrait résider dans le fait de regarder plus de films de science-fiction comme parc jurassique .

Leçons hollywoodiennes sur les risques sociétaux

Je m'intéresse depuis longtemps à la façon dont les innovateurs et autres peuvent mieux comprendre le paysage de plus en plus complexe entourant les risques sociaux et les avantages associés aux technologies émergentes. Des inquiétudes croissantes concernant les impacts de la technologie sur l'emploi, intimité, la sécurité et même la capacité des gens à vivre leur vie sans ingérence indue soulignent la nécessité d'une nouvelle réflexion sur la façon d'innover de manière responsable.

Les nouvelles idées nécessitent de la créativité et de l'imagination, et une volonté de voir le monde différemment. Et c'est là que les films de science-fiction peuvent aider.

Les films de science-fiction sont, bien sûr, notoirement peu fiable lorsqu'il s'agit de décrire avec précision la science et la technologie. Mais parce que leurs intrigues sont souvent motivées par les relations entrelacées entre les gens et la technologie, ils peuvent être remarquablement perspicaces en révélant les facteurs sociaux qui affectent l'innovation réussie et responsable.

Cela se voit clairement dans parc jurassique . Le film fournit un point de départ étonnamment bon pour réfléchir aux avantages et aux inconvénients du génie génétique moderne et à l'intérêt croissant pour le retour d'espèces éteintes d'entre les morts. Mais cela ouvre également des conversations sur la nature des systèmes complexes qui impliquent à la fois des personnes et des technologies, et les dangers potentiels de l'innovation « sans autorisation » motivée par le pouvoir, richesse et un manque de responsabilité.

Des idées similaires émergent d'un certain nombre d'autres films, dont le film de Spielberg en 2002 www.imdb.com/title/tt0181689/> Rapport minoritaire – qui présageait une capacité croissante de prédiction du crime basée sur l'IA et les problèmes éthiques qu'elle soulève – ainsi que le film de 2014 www.imdb.com/title/tt0470752/> Ex Machina .

Comme avec parc jurassique , Ex Machina s'articule autour d'un entrepreneur riche et irresponsable qui a une confiance absolue en ses propres capacités. Dans ce cas, la technologie en question est l'intelligence artificielle.

Le film raconte l'histoire d'un génie égoïste qui crée une machine intelligente remarquable - mais il n'a pas la conscience de reconnaître ses limites et les risques de ce qu'il fait. Il fournit également un aperçu effrayant des dangers potentiels de la création de machines qui nous connaissent mieux que nous-mêmes, tout en n'étant pas lié par des normes ou des valeurs humaines.

Le résultat est un rappel qui donne à réfléchir sur comment, sans humilité et une bonne dose d'humanité, nos innovations peuvent revenir nous mordre.

Les technologies en parc jurassique , Rapport minoritaire et Ex Machina se situent au-delà de ce qui est actuellement possible. Pourtant, ces films sont souvent assez proches des tendances émergentes pour révéler les dangers de l'irresponsabilité, ou simplement naïf, innovation. C'est là que ces films et d'autres films de science-fiction peuvent aider les innovateurs à mieux comprendre les défis sociaux auxquels ils sont confrontés et comment les surmonter.

Problèmes réels résolus à l'écran

Dans un récent éditorial du New York Times , la journaliste Kara Swisher a demandé :« Qui apprendra à la Silicon Valley à être éthique ? » Poussé par une litanie croissante de décisions socialement discutables parmi les entreprises technologiques, Swisher suggère que beaucoup d'entre eux doivent grandir et devenir sérieux en matière d'éthique. Mais l'éthique seule suffit rarement. Il est facile pour les bonnes intentions d'être submergées par les pressions fiscales et embourbées dans les réalités sociales.

Les entreprises technologiques doivent de plus en plus trouver un moyen de rompre avec le statu quo si elles veulent devenir plus responsables. Des affaires très médiatisées impliquant des entreprises comme Facebook et Uber ainsi que Elon Musk de Tesla ont mis en évidence les dangers sociaux et commerciaux d'opérer sans comprendre pleinement les conséquences des actions orientées vers les personnes.

De nombreuses autres entreprises luttent pour créer des technologies socialement bénéfiques et découvrent que, sans les connaissances et les outils nécessaires, ils risquent de s'égarer dans le noir.

Par exemple, plus tôt cette année, des chercheurs de Google et de DeepMind ont publié les détails d'un système basé sur l'intelligence artificielle qui peut lire sur les lèvres bien mieux que les gens. Selon les auteurs de l'article, la technologie a un énorme potentiel pour améliorer la vie des personnes qui ont du mal à parler à haute voix. Pourtant, il ne faut pas grand-chose pour imaginer comment cette même technologie pourrait menacer la vie privée et la sécurité de millions de personnes, en particulier lorsqu'elle est associée à des caméras de surveillance à longue portée.

Développer des technologies comme celle-ci de manière socialement responsable nécessite plus que de bonnes intentions ou simplement la mise en place d'un comité d'éthique. Les gens ont besoin d'une compréhension approfondie de la dynamique souvent complexe entre la technologie et la société. Et tandis que, comme le suggère Mitchell Baker de Mozilla, les scientifiques et les technologues engagés dans les sciences humaines peuvent être utiles, ce n'est pas assez.

Les films sont un moyen facile d'entrer dans une discipline sérieuse

La « nouvelle formulation » de compétences complémentaires, selon Baker, dont les innovateurs ont désespérément besoin existe déjà dans une communauté interdisciplinaire florissante axée sur l'innovation socialement responsable. Mon établissement d'origine, l'École pour l'avenir de l'innovation dans la société de l'Arizona State University, n'est qu'une partie de cela.

Les experts de cette communauté mondiale explorent activement les moyens de traduire les bonnes idées en pratiques responsables. Et cela inclut le besoin d'avoir un aperçu créatif du paysage social autour de l'innovation technologique, et l'imagination pour développer de nouvelles façons de s'y retrouver.

C'est ici que les films de science-fiction deviennent un outil puissant pour guider les innovateurs, les leaders technologiques et les entreprises dans lesquelles ils travaillent. Leurs scénarios fictifs peuvent révéler des pièges et des opportunités potentiels qui peuvent aider à orienter les décisions du monde réel vers des résultats socialement bénéfiques et responsables, tout en évitant les risques inutiles.

Et les films de science-fiction rassemblent les gens. De par leur nature même, ces films sont des niveleurs sociaux et éducatifs. Regardez qui regarde et discute du dernier blockbuster de science-fiction, et vous trouverez souvent un échantillon représentatif de la société. Le genre peut aider à jeter des ponts entre des personnes qui savent comment fonctionnent la science et la technologie, et ceux qui savent ce qui est nécessaire pour s'assurer qu'ils travaillent pour le bien de la société.

C'est le thème sous-jacent de mon nouveau livre mango.bz/books/films-from-the- … andrew-maynard-458-b> Films du futur :la technologie et la moralité des films de science-fiction . Il s'adresse à tous ceux qui sont curieux des tendances émergentes en matière d'innovation technologique et de la façon dont elles pourraient potentiellement affecter la société. Mais il est également écrit pour les innovateurs qui veulent faire ce qu'il faut et qui ne savent tout simplement pas par où commencer.

Bien sûr, les films de science-fiction ne suffisent pas à eux seuls à assurer une innovation socialement responsable. Mais ils peuvent aider à révéler certains défis sociétaux profonds auxquels sont confrontés les innovateurs technologiques et les moyens possibles de les surmonter. Et quoi de mieux pour apprendre à innover de manière responsable que d'inviter des amis, ouvrir le pop-corn et mettre un film ?

Il vaut certainement mieux être aveuglé par les risques que, avec le recul, aurait pu être évité.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.