L'administration Biden a dévoilé mardi un ensemble d'objectifs ambitieux visant à éviter les dommages causés par la montée en puissance des systèmes d'intelligence artificielle, y compris des directives sur la manière de protéger les données personnelles des personnes et de limiter la surveillance.

Le Blueprint for an AI Bill of Rights ne définit notamment pas de mesures d'application spécifiques, mais se veut plutôt un appel à l'action de la Maison Blanche pour que le gouvernement américain protège les droits numériques et civils dans un monde alimenté par l'IA, ont déclaré des responsables. P>

"C'est l'administration Biden-Harris qui dit vraiment que nous devons travailler ensemble, non seulement au sein du gouvernement, mais dans tous les secteurs, pour vraiment mettre l'équité au centre et les droits civils au centre des façons dont nous fabriquons et utilisons et gouverner les technologies », a déclaré Alondra Nelson, directrice adjointe pour la science et la société au Bureau de la politique scientifique et technologique de la Maison Blanche. "Nous pouvons et devons nous attendre à mieux et exiger mieux de nos technologies."

Le bureau a déclaré que le livre blanc représentait une avancée majeure dans le programme de l'administration visant à responsabiliser les entreprises technologiques, et a souligné les engagements de diverses agences fédérales à peser les nouvelles règles et à étudier les impacts spécifiques des technologies d'IA. Le document a émergé après une consultation d'un an avec plus de deux douzaines de départements différents, et intègre également les commentaires de groupes de la société civile, de technologues, de chercheurs de l'industrie et d'entreprises technologiques telles que Palantir et Microsoft.

Il met en avant cinq principes fondamentaux qui, selon la Maison Blanche, devraient être intégrés aux systèmes d'IA pour limiter les impacts des biais algorithmiques, donner aux utilisateurs le contrôle de leurs données et garantir que les systèmes automatisés sont utilisés de manière sûre et transparente.

Les principes non contraignants citent des recherches universitaires, des études d'agences et des reportages qui ont documenté les dommages réels causés par des outils alimentés par l'IA, y compris des outils de reconnaissance faciale qui ont contribué à des arrestations injustifiées et un système automatisé qui discrimine les demandeurs de prêt qui ont assisté à un événement historiquement noir. Collège ou université.

Le livre blanc a également déclaré que les parents et les travailleurs sociaux pourraient bénéficier de savoir si les agences de protection de l'enfance utilisaient des algorithmes pour aider à décider quand les familles devraient faire l'objet d'une enquête pour maltraitance.

Earlier this year, after the publication of an AP review of an algorithmic tool used in a Pennsylvania child welfare system, OSTP staffers reached out to sources quoted in the article to learn more, according to multiple people who participated in the call. AP's investigation found that the Allegheny County tool in its first years of operation showed a pattern of flagging a disproportionate number of Black children for a "mandatory" neglect investigation, when compared with white children.

In May, sources said Carnegie Mellon University researchers and staffers from the American Civil Liberties Union spoke with OSTP officials about child welfare agencies' use of algorithms. Nelson said protecting children from technology harms remains an area of concern.

"If a tool or an automated system is disproportionately harming a vulnerable community, there should be, one would hope, that there would be levers and opportunities to address that through some of the specific applications and prescriptive suggestions," said Nelson, who also serves as deputy assistant to President Joe Biden.

OSTP did not provide additional comment about the May meeting.

Still, because many AI-powered tools are developed, adopted or funded at the state and local level, the federal government has limited oversight regarding their use. The white paper makes no specific mention of how the Biden administration could influence specific policies at state or local levels, but a senior administration official said the administration was exploring how to align federal grants with AI guidance.

The white paper does not have power over tech companies that develop the tools nor does it include any new legislative proposals. Nelson said agencies would continue to use existing rules to prevent automated systems from unfairly disadvantaging people.

The white paper also did not specifically address AI-powered technologies funded through the Department of Justice, whose civil rights division separately has been examining algorithmic harms, bias and discrimination, Nelson said.

Tucked between the calls for greater oversight, the white paper also said when appropriately implemented, AI systems have the power to bring about lasting benefits to society, such as helping farmers grow food more efficiently or identifying diseases.

"Fueled by the power of American innovation, these tools hold the potential to redefine every part of our society and make life better for everyone. This important progress must not come at the price of civil rights or democratic values," the document said. + Explorer plus loin

White House proposes tech 'bill of rights' to limit AI harms

© 2022 L'Associated Press. Tous les droits sont réservés. Ce matériel ne peut être publié, diffusé, réécrit ou redistribué sans autorisation.