Alors que les technologies basées sur les données transforment le monde et que l'intelligence artificielle soulève des questions sur les préjugés, la confidentialité et la transparence, Suresh Venkatasubramanian offre son expertise pour aider à créer des garde-fous afin de garantir que les technologies sont développées et déployées de manière responsable.

"Nous devons protéger le peuple américain et nous assurer que la technologie est utilisée de manière à renforcer nos valeurs les plus élevées", a déclaré Venkatasubramanian, professeur d'informatique et de science des données à l'université Brown.

Dans la foulée d'un mandat de 15 mois récemment conclu en tant que conseiller auprès du Bureau de la politique scientifique et technologique de la Maison Blanche, Venkatasubramanian est retourné à Washington, D.C., le mardi 4 octobre, pour le dévoilement de « Un plan directeur pour un projet de loi sur l'IA of Rights :Making Automated Systems Work for the American People", lors d'une cérémonie à la Maison Blanche.

Venkatasubramanian a déclaré que le plan représente l'aboutissement de 14 mois de recherche et de collaboration menées par le Bureau de la politique scientifique et technologique avec des partenaires du gouvernement fédéral, des universités, de la société civile, du secteur privé et des communautés à travers le pays. Cette collaboration a éclairé l'élaboration des toutes premières orientations nationales axées sur l'utilisation et le déploiement de technologies automatisées susceptibles d'avoir un impact sur les droits, les opportunités et l'accès aux services des personnes.

"En tant que nation, nous l'avons déjà fait avec la vie privée des consommateurs et la Déclaration des droits du patient, par exemple", a déclaré Venkatasubramanian. "Les droits civils et les libertés civiles sont une institution sacrée dans notre pays… Tous les grands pays et blocs de pays du monde réfléchissent à ce qu'il faut pour gouverner les systèmes automatisés et tenir compte des préjugés, mais les États-Unis ne l'ont pas fait, c'est donc quelque chose qui était long à venir."

Venkatasubramanian est un chercheur et un éducateur immergé dans le développement et l'impact de la technologie et de l'intelligence artificielle. L'opportunité de conseiller à l'échelle nationale aligné non seulement sur son expertise, mais aussi sur ses préoccupations concernant l'utilisation éthique de la technologie et les préjugés intégrés dans la conception de certains outils d'IA, qui peuvent insuffler des préjugés passés et perpétuer la discrimination.

À l'occasion de l'annonce de la Déclaration des droits de l'IA, Venkatasubramanian, qui est directeur adjoint de la Brown's Data Science Initiative, a partagé des idées et des perspectives sur son passage à la Maison Blanche, son approche humaniste de l'informatique et ce qu'il a hâte d'accomplir à Brown dans les années à venir.

Q :Pourquoi les "garde-fous" autour du développement et de l'utilisation de l'IA sont-ils une question d'importance nationale ?

Nous reconnaissons que l'automatisation et la technologie basée sur les données présentent de nombreux avantages potentiels, toutes ces promesses de ce qui pourrait être. Mais nous constatons également que les promesses ont souvent tendance à ne pas se concrétiser. Par exemple, nous pouvons essayer de construire un système d'IA pour nous assurer que nous ne pouvons pas discriminer dans le système de justice pénale, mais les systèmes qui aspirent les données des arrestations précédentes sont irrévocablement entachés par l'histoire de l'injustice raciale dans le système de justice pénale. Et ensuite mis en œuvre à grande échelle, cette souillure se propage. Toutes les données qui sont introduites dans un système ne feront qu'amplifier les biais dans les données, à moins qu'il n'y ait des garde-fous rigoureux et soigneusement conçus.

Ces systèmes technologiques ont un impact sur nos droits civils et nos libertés civiles dans tous les domaines :le crédit, la possibilité d'obtenir une hypothèque et de posséder un terrain, la protection de l'enfance, l'accès aux prestations, d'être embauché pour des emplois – toutes les possibilités d'avancement. Là où nous mettons ces systèmes en place, nous devons nous assurer qu'ils sont conformes aux valeurs que nous pensons qu'ils devraient avoir et qu'ils sont construits de manière transparente et responsable envers le public. Ce n'est pas quelque chose que nous pouvons claquer après coup.

Q :En tant qu'informaticien, pourquoi êtes-vous préoccupé par l'impact de la technologie sur la société ?

J'étudie ces questions depuis près d'une décennie, en réfléchissant à ce qui s'en vient et à quoi ressemblera le monde lorsque les algorithmes seront omniprésents. Il y a dix ans, je pensais que nous étions susceptibles d'avoir une préoccupation :si nous pouvions faire confiance à ces systèmes pour fonctionner comme ils sont censés le faire, et comment nous savons que ces systèmes sont responsables devant le public et nos représentants.

Que cela vous plaise ou non, la technologie est là, et elle affecte déjà tout ce qui vous façonne. Vous adaptez, à votre insu, votre façon de vivre et de fonctionner pour vous rendre plus lisible à la technologie. Vous vous rendez lisible par machine, plutôt que de rendre les machines lisibles par l'homme. Si nous ne prêtons pas attention à cela, la technologie déterminera notre façon de vivre en tant que société plutôt que la société qui fabrique une technologie qui nous aide à nous épanouir et à être nous-mêmes. Je n'aime pas effrayer les gens, mais c'est vrai et c'est important.

Q :L'IA est-elle une bonne ou une mauvaise chose ?

Ni l'un ni l'autre, vraiment. Ce n'est pas la technologie qui est bonne ou mauvaise, l'IA ou non. C'est l'impact — les préjudices — dont nous devrions nous préoccuper. Une feuille de calcul Excel qui produit un score qui confine quelqu'un à la détention avant son procès est aussi mauvaise qu'un système d'IA sophistiqué qui fait la même chose. Et un algorithme d'apprentissage en profondeur qui peut aider à améliorer les rendements des cultures est incroyable et merveilleux. C'est pourquoi la Charte des droits de l'IA se concentre sur l'impact (sur les droits des personnes, les opportunités et l'accès aux services) plutôt que sur la technologie elle-même, qui change et évolue rapidement.

Q :À quoi servira le Plan directeur pour une déclaration des droits de l'IA ?

Pensez aux médicaments sur ordonnance, par exemple. Vous n'avez pas à vous inquiéter que le médicament que vous prenez n'ait pas été testé, car la FDA ne le laissera pas arriver sur le marché tant qu'il n'aura pas été soumis à des tests rigoureux. De même, nous sommes convaincus que nos voitures fonctionneront et que des rappels réguliers ont lieu chaque fois que la National Highway Traffic Safety Administration découvre un problème ; et nous sommes convaincus que nos avions fonctionnent et que chaque nouveau type de jet passe par des tests rigoureux avant d'être piloté. Nous avons de nombreux exemples à tirer de cas où nous ne laissons pas les nouvelles technologies être utilisées sur des personnes sans les avoir vérifiées au préalable. Nous pouvons considérer cela comme un guide pour ce que nous pensons être important, et la technologie affecte tout le monde.

Cette déclaration des droits de l'IA est un plan qui va au-delà des principes. Il fournit des conseils pratiques aux développeurs, à la société civile, aux défenseurs, aux entreprises, aux gouvernements locaux et aux gouvernements des États. Il existe différents leviers pour le faire avancer :la réglementation, les pratiques de l'industrie, des conseils sur ce que les gouvernements vont ou ne vont pas construire. Il n'y a pas de solution miracle ici, mais tous les leviers sont à portée de main. Il faudra toute la société pour faire avancer ce travail.

Q :Quel impact votre expérience en tant que conseiller de la Maison Blanche a-t-elle eu sur vous ?

Cela changeait la vie. Mon cerveau fonctionne maintenant d'une manière que je ne peux pas – et que je ne veux pas – défaire. Je pense constamment aux passerelles entre la recherche et l'innovation, la société et la politique. En tant que pays et en tant que chercheurs, nous sommes encore en train d'accepter cela. Pendant longtemps, nous avons considéré la technologie comme une chose que nous utilisons pour rendre la vie meilleure. Mais nous ne sommes pas aussi familiers avec la technologie qu'une chose qui change notre monde. Essayer d'élaborer une politique pour tout un pays - et à certains égards, pour le monde entier, car les États-Unis sont un leader - est un défi car il y a tellement d'intérêts concurrents qu'il faut équilibrer.

Lorsque j'étais au gouvernement, j'ai été impressionné par la complexité et la subtilité de ces problèmes dans différents domaines - ce qui est logique lorsque l'on pense aux outils de diagnostic de la santé ne fonctionne pas vraiment si vous pensez aux outils utilisés dans la salle d'audience. J'apprécie davantage le nombre de personnes dévouées au sein du gouvernement qui veulent faire une différence et qui ont besoin d'aide et de bande passante pour le faire.

Une chose que j'ai réalisée au cours des années que j'ai passées à travailler dans des espaces politiques, c'est qu'il est essentiel d'aider les décideurs à comprendre que la technologie n'est pas une boîte noire - elle est malléable et évolutive, et elle aide à façonner les politiques d'une manière que nous pourrions ne pas attendre. Les choix de conception technologique sont des choix politiques, à bien des égards. Comprendre comment la technologie et la politique s'influencent mutuellement nécessite beaucoup d'éducation, tant pour les technologues que pour les décideurs. + Explorer plus loin

La Maison Blanche dévoile la « Déclaration des droits » de l'intelligence artificielle