La tristement célèbre devise de Google « Ne soyez pas méchant » expose les valeurs fondamentales de ses fondateurs dans les termes les plus simples (que vous pensiez ou non qu'ils ont tenu leur promesse, c'est une autre conversation). Mais est-ce que l'éthique technologique est aussi simple que de simplement énoncer vos valeurs, ou nécessite-t-il une introspection plus poussée tout au long du processus de développement ?

Le déploiement imminent du réseau 5G a été décrit comme le héraut de la quatrième révolution industrielle, apportant une connectivité sans précédent entre les appareils qui transformera notre façon de vivre. Mais à mesure que de plus en plus d'appareils dans nos maisons se connectent et rejoignent l'Internet des objets (IoT) en pleine croissance, les développeurs doivent commencer à se poser plus de questions sur les implications éthiques de leurs créations.

C'est devenu une histoire familière ces derniers temps. Un appareil "intelligent" populaire s'avère être d'une insécurité embarrassante ou facilement piratable, conduisant à une fuite de données hautement sensibles. Les développeurs IoT apprennent rapidement que la sécurité ne peut pas être négligée, et les questions de confidentialité concernant la protection de l'identité des utilisateurs sont tout aussi importantes. Lorsque nous achetons des produits comme Alexa d'Amazon qui sont intimement impliqués dans notre vie quotidienne - voir et entendre tout ce que nous faisons - nous devons savoir que les données personnelles qu'ils collectent à notre sujet ne sont pas utilisées à mauvais escient.

Le projet VIRTeu, coordonné par Irina Shklovski de l'Université informatique de Copenhague, crée des outils et des activités qui aident les développeurs IoT à intégrer l'éthique dans leurs propres conversations. Leur dernier exploit, Ours &Cie, est une expérience immersive qui plonge les participants dans l'univers d'une start-up fictive de l'IoT. Inspiré par la vraie vie CloudPets, une entreprise d'ours en peluche "intelligente" dont le produit a enregistré et stocké des millions de conversations facilement piratées entre parents et enfants en ligne - Bear &Co invite les participants à devenir un "employé" de l'entreprise et à voir comment des décisions apparemment anodines peuvent entraîner des difficultés éthiques.

Les participants sont d'abord invités à énoncer leurs valeurs :ce qu'ils apporteront à l'entreprise et ce à quoi ils tiennent le plus. Puis, leurs valeurs sont testées à travers différents scénarios et problèmes. Après qu'ils aient fini, leurs décisions sont comparées à leur ensemble initial de valeurs fondamentales, ce qui montre souvent un décalage entre les deux.

"Bear &Co est conçu pour amener les gens à réfléchir plus profondément aux décisions qui doivent être prises lors du développement d'un produit IoT, " déclare la coordinatrice du projet Irina Shklovski. " En surface, il est facile de considérer ces décisions comme purement techniques, mais il y a souvent ces répercussions sous-jacentes qui peuvent entrer en conflit avec les valeurs des développeurs.

"Nous avons organisé des événements où nous avons demandé aux fondateurs de start-ups de réfléchir à un monde dans lequel leur produit est dans chaque foyer. La grande majorité du temps, ils se retrouvent avec un avenir follement dystopique parce qu'ils n'ont jamais envisagé ce qui se passerait à cette échelle. Il n'y a pas de réponses faciles à ces problèmes, mais il est important que les gens y pensent correctement, même si cela peut être assez inconfortable pour eux."

Bear &Co a été créé par le partenaire de VIRTeu CIID Research en collaboration avec Irina Shklovski de l'IT University of Copenhagen et Javier Ruiz du Open Rights Group. L'équipe de conception de CIID Research est Annelie Berner, Monika Seyfried, Calle Nordenskjöld et Peter Kuhberg (conception indsigt). CIID Research est un groupe de recherche tourné vers l'avenir qui travaille aux intersections de la conception d'interaction, de l'art, science et technologie, au sein de l'Institut de design d'interaction de Copenhague.