La société est plus que jamais attentive à la question des biais dans les systèmes d'intelligence artificielle, et en particulier ceux utilisés pour reconnaître et analyser des images de visages. Chez IBM, nous prenons les mesures suivantes pour nous assurer que la technologie de reconnaissance faciale est conçue et formée de manière responsable :

(1) L'un des plus gros problèmes à l'origine de biais dans le domaine de l'analyse faciale est le manque de données diversifiées sur lesquelles entraîner les systèmes. Donc, cet automne, nous mettrons à la disposition du public ce qui suit en tant qu'outil pour l'industrie technologique et la communauté de la recherche :

1. Un ensemble de données de formation sur les attributs faciaux et l'identité de plus d'un million d'images pour améliorer la formation du système d'analyse faciale construit par les scientifiques d'IBM Research. Il est annoté d'attributs et d'identité, tirer parti des balises géographiques des images Flickr pour équilibrer les données de plusieurs pays et des outils d'apprentissage actifs pour réduire les biais de sélection des échantillons. Actuellement, le plus grand ensemble de données d'attributs faciaux disponible est 200, 000 images donc ce nouveau jeu de données avec un million d'images sera une amélioration monumentale. En outre, les ensembles de données disponibles aujourd'hui n'incluent que des attributs (couleur des cheveux, Poils, etc) ou l'identité (identifiant que 5 images sont de la même personne) - mais pas les deux. Ce nouvel ensemble de données change cela pour créer une capacité unique pour faire correspondre les attributs à un individu.
2. Un jeu de données qui comprend 36, 000 images faciales – également réparties dans toutes les ethnies, genres, et les âges pour fournir un ensemble de données plus diversifié que les gens peuvent utiliser dans l'évaluation de leurs technologies. Cela aidera spécifiquement les concepteurs d'algorithmes à identifier et à traiter les biais dans leurs systèmes d'analyse faciale. La première étape pour lutter contre le biais est de savoir qu'il existe un biais, et c'est ce que cet ensemble de données permettra.

(2) Plus tôt cette année, nous avons considérablement augmenté la précision de notre service Watson Visual Recognition pour l'analyse faciale, qui a démontré une diminution de près de dix fois du taux d'erreur pour l'analyse faciale. Et, nous continuons d'apporter des améliorations continues. Un atelier technique est organisé (par IBM Research en collaboration avec l'Université du Maryland) pour identifier et réduire les biais dans l'analyse faciale le 14 septembre. 2018 en conjonction avec ECCV 2018. Les résultats du concours utilisant l'ensemble de données d'images faciales d'IBM seront annoncés lors de l'atelier. Par ailleurs, nos chercheurs continuent de travailler avec un large éventail de parties prenantes, les utilisateurs et les experts pour comprendre d'autres biais et vulnérabilités pouvant affecter la prise de décision de l'IA, afin que nous puissions continuer à améliorer nos systèmes."

L'IA détient un pouvoir important pour améliorer notre façon de vivre et de travailler, mais seulement si les systèmes d'IA sont développés et formés de manière responsable, et produire des résultats auxquels nous avons confiance. S'assurer que le système est formé sur des données équilibrées, et se débarrasser des préjugés est essentiel pour obtenir une telle confiance.

À mesure que l'adoption de l'IA augmente, la question de la prévention des biais d'entrer dans les systèmes d'IA devient de plus en plus importante. Nous pensons qu'aucune technologie, quelle que soit sa précision, ne peut ou ne doit remplacer le jugement humain, intuition et savoir-faire. La puissance des innovations avancées, comme l'IA, réside dans leur capacité à augmenter, ne pas remplacer, prise de décision humaine. Il est donc essentiel que toute organisation utilisant l'IA, y compris les capacités de reconnaissance visuelle ou d'analyse vidéo, forme les équipes qui travaillent avec elle à comprendre les biais, y compris les préjugés implicites et inconscients, surveiller pour cela, et savoir y faire face.

En tant qu'entreprise leader dans la promotion de la diversité et de l'inclusion dans le monde de l'entreprise, toute forme de discrimination est contraire aux valeurs d'IBM. Nous sommes profondément engagés à garantir que les technologies d'IA sont développées sans parti pris.

Depuis plus d'un siècle, IBM a introduit de manière responsable des technologies révolutionnaires dans le monde. Nous nous engageons à fournir des services d'IA construits de manière responsable, sont impartiaux et explicables. Notre entreprise a été guidée par un ensemble de principes de confiance et de transparence, ce qui inclut notre ferme conviction que les entreprises qui font progresser l'IA ont la responsabilité de s'attaquer de front au problème des préjugés. Et nous travaillons continuellement pour évaluer et mettre à jour nos services, les faire progresser d'une manière digne de confiance et inclusive.