La question de savoir si la technologie est bonne ou mauvaise dépend de la façon dont elle est développée et utilisée. Cela n'est nulle part plus d'actualité que dans les technologies utilisant l'intelligence artificielle.

Lorsqu'il est développé et utilisé de manière appropriée, l'intelligence artificielle (IA) a le potentiel de transformer notre façon de vivre, travail, communiquer et voyager.

De nouvelles technologies médicales basées sur l'IA sont en cours de développement pour améliorer les soins aux patients. Il existe des indications convaincantes que les véhicules autonomes amélioreront la sécurité et réduiront le péage routier. L'apprentissage automatique et l'automatisation rationalisent les flux de travail et nous permettent de travailler plus intelligemment.

Autour du monde, La technologie basée sur l'IA est de plus en plus adoptée par les individus, Gouvernements, organisations et institutions. Mais avec le vaste potentiel d'amélioration de notre qualité de vie, constitue un risque pour nos droits humains et nos libertés fondamentales.

Surveillance appropriée, l'orientation et la compréhension de la manière dont l'IA est utilisée et développée en Australie doivent être prioritaires.

L'IA devenue sauvage peut évoquer des images des films The Terminator et Ex Machina, mais c'est beaucoup plus simple, problèmes fondamentaux qui doivent être traités à l'heure actuelle, tel que:

• comment les données sont utilisées pour développer l'IA
• si un système d'IA est utilisé équitablement
• dans quelles situations doit-on continuer à s'appuyer sur la prise de décision humaine ?

Nous avons un plan d'éthique de l'IA

C'est pourquoi, en partenariat avec le gouvernement et l'industrie, nous avons développé un cadre éthique pour l'IA en Australie. L'objectif est de catalyser la discussion sur la manière dont l'IA devrait être utilisée et développée en Australie.

Le cadre éthique examine diverses études de cas du monde entier pour discuter de la façon dont l'IA a été utilisée dans le passé et des impacts qu'elle a eus. Les études de cas nous aident à comprendre où les choses ont mal tourné et comment éviter de répéter les erreurs du passé.

Nous avons également examiné ce qui était fait dans le monde pour répondre aux préoccupations éthiques concernant le développement et l'utilisation de l'IA.

Sur la base des principaux problèmes et impacts de l'IA, huit principes ont été identifiés pour soutenir l'utilisation et le développement éthiques de l'IA en Australie.

1. Génère des bénéfices nets : Le système d'IA doit générer des avantages pour les personnes qui sont supérieurs aux coûts.
2. Ne fais pas de mal: Les systèmes d'IA civile ne doivent pas être conçus pour nuire ou tromper les gens et doivent être mis en œuvre de manière à minimiser les résultats négatifs.
3. Conformité réglementaire et légale : Le système d'IA doit être conforme à toutes les normes internationales, local australien, obligations des États/territoires et du gouvernement fédéral, règlements et lois.
4. La protection de la vie privée: Tout système, y compris les systèmes d'IA, doit s'assurer que les données privées des personnes sont protégées et gardées confidentielles et empêcher les violations de données qui pourraient nuire à la réputation, psychologique, financier, professionnel ou d'autres types de préjudice.
5. Justice: Le développement ou l'utilisation du système d'IA ne doit pas entraîner de discrimination injuste à l'encontre des individus, communautés ou groupes. Cela nécessite une attention particulière pour s'assurer que les « données d'apprentissage » sont exemptes de biais ou de caractéristiques qui pourraient entraîner un comportement injuste de l'algorithme.
6. Transparence et explicabilité : Les gens doivent être informés de l'utilisation d'un algorithme qui les affecte et ils doivent être informés des informations que l'algorithme utilise pour prendre des décisions.
7. Contestabilité : Lorsqu'un algorithme a un impact sur une personne, il doit y avoir un processus efficace pour permettre à cette personne de contester l'utilisation ou la sortie de l'algorithme.
8. Responsabilité: Les personnes et les organisations responsables de la création et de la mise en œuvre des algorithmes d'IA devraient être identifiables et responsables des impacts de cet algorithme, même si les impacts ne sont pas intentionnels.

En plus des principes de base, divers éléments de la boîte à outils sont identifiés dans le cadre qui pourraient être utilisés pour aider à soutenir ces principes. Il s'agit notamment d'analyses d'impact, surveillance continue et consultation publique.

Un plan, qu'en est-il de l'action ?

Mais les principes et les objectifs éthiques ne peuvent aller plus loin. À un moment donné, nous devrons nous mettre au travail pour décider comment nous allons les mettre en œuvre et les atteindre.

Il existe diverses complexités à prendre en compte lors des discussions sur l'utilisation et le développement éthiques de l'IA. La vaste portée de la technologie a le potentiel d'avoir un impact sur toutes les facettes de nos vies.

Les applications d'IA sont déjà utilisées dans tous les foyers, les entreprises et les gouvernements, la plupart des Australiens sont déjà touchés par eux.

Il est urgent d'examiner les effets de l'IA sur les groupes vulnérables et minoritaires, en veillant à protéger ces personnes et ces communautés contre les préjugés, discrimination et exploitation. (Rappelez-vous Tay, le chatbot raciste ?)

Il y a aussi le fait que l'IA utilisée en Australie sera souvent développée dans d'autres pays, Alors, comment pouvons-nous nous assurer qu'il respecte les normes et les attentes australiennes ?

Votre mot à dire

Le cadre explore ces questions et constitue certaines des premières étapes de l'Australie sur le chemin du développement et de l'utilisation positifs de l'IA. Mais les vrais progrès nécessitent la contribution des parties prenantes de l'ensemble du gouvernement, Entreprise, le monde universitaire et la société en général.

Lire la suite :Faites attention à la façon dont vous traitez l'IA d'aujourd'hui :elle pourrait se venger à l'avenir

C'est pourquoi le document de discussion sur le cadre éthique est maintenant ouvert aux commentaires du public. Vous avez jusqu'au 31 mai 2019, d'avoir votre mot à dire sur l'avenir numérique de l'Australie.

Avec une approche proactive du développement éthique de l'IA, L'Australie peut faire plus que simplement atténuer les risques. Si nous pouvons construire une IA pour une vie plus juste, nous pouvons garantir un avantage concurrentiel ainsi que protéger les droits des Australiens.

Emma Schleiger, Chercheur, CSIRO et Stefan Hajkowicz, Scientifique principal principal, Stratégie et prospective, Données61

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.