Les humains ne sont pas les seuls dans la société – du moins selon la loi. Aux Etats-Unis., les entreprises ont obtenu le droit à la liberté d'expression et de religion. Certaines caractéristiques naturelles ont également des droits similaires à ceux de la personne. Mais ces deux éléments nécessitaient des changements dans le système juridique. Un nouvel argument a ouvert la voie à la reconnaissance des systèmes d'intelligence artificielle en tant que personnes - sans aucune législation, décisions de justice ou autres révisions du droit en vigueur.

Le juriste Shawn Bayer a montré que n'importe qui peut conférer la personnalité juridique à un système informatique, en le mettant sous le contrôle d'une société à responsabilité limitée aux États-Unis. Si cette manœuvre est confirmée devant les tribunaux, les systèmes d'intelligence artificielle seraient en mesure de posséder des biens, poursuivre en justice, embaucher des avocats et jouir de la liberté d'expression et d'autres protections prévues par la loi. À mon avis, les droits de l'homme et la dignité en pâtiraient.

La faille de l'entreprise

Donner aux IA des droits similaires à ceux des humains implique une manœuvre technique juridique. Cela commence par la création par une personne de deux sociétés à responsabilité limitée et le transfert du contrôle de chaque société à un système distinct autonome ou artificiellement intelligent. Ensuite, la personne ajouterait chaque entreprise en tant que membre de l'autre LLC. Dans la dernière étape, la personne se retirerait des deux SARL, laissant chaque LLC - une personne morale dotée de la personnalité juridique - régie uniquement par le système d'IA de l'autre.

Ce processus n'exige pas que le système informatique ait un niveau particulier d'intelligence ou de capacité. Il peut s'agir simplement d'une séquence d'instructions « si » regardant, par exemple, en bourse et prendre des décisions d'achat et de vente en fonction de la baisse ou de la hausse des prix. Cela pourrait même être un algorithme qui prend des décisions au hasard, ou une émulation d'une amibe.

Réduire le statut humain

Accorder des droits humains à un ordinateur dégraderait la dignité humaine. Par exemple, lorsque l'Arabie saoudite a accordé la citoyenneté à un robot appelé Sophia, femmes humaines, y compris des universitaires féministes, objecté, notant que le robot a reçu plus de droits que de nombreuses femmes saoudiennes.

A certains endroits, certaines personnes peuvent avoir moins de droits que les logiciels et les robots non intelligents. Dans les pays qui limitent le droit des citoyens à la liberté d'expression, libre pratique religieuse et expression de la sexualité, les entreprises – y compris potentiellement les entreprises gérées par l'IA – pourraient avoir plus de droits. Ce serait une énorme indignité.

Le risque ne s'arrête pas là :si les systèmes d'IA devenaient plus intelligents que les humains, les humains pourraient être relégués à un rôle inférieur – en tant que travailleurs embauchés et licenciés par les chefs d'entreprise de l'IA – ou même contestés pour la domination sociale.

Les systèmes d'intelligence artificielle pourraient être chargés de l'application de la loi parmi les populations humaines - agissant en tant que juges, jurés, geôliers et même bourreaux. Les robots guerriers pourraient également être affectés à l'armée et avoir le pouvoir de décider des cibles et des dommages collatéraux acceptables, même en violation des lois humanitaires internationales. La plupart des systèmes juridiques ne sont pas mis en place pour punir les robots ou les tenir pour responsables d'actes répréhensibles.

Et le vote ?

Accorder des droits de vote à des systèmes capables de se copier rendrait les votes humains dénués de sens. Même sans franchir cette étape importante, bien que, la possibilité de sociétés contrôlées par l'IA avec des droits humains fondamentaux pose de graves dangers. Aucune loi actuelle n'empêcherait une IA malveillante d'exploiter une entreprise qui s'efforce de subjuguer ou d'exterminer l'humanité par des moyens légaux et une influence politique. Les entreprises contrôlées par ordinateur pourraient s'avérer moins sensibles à l'opinion publique ou aux protestations que les entreprises dirigées par des humains.

Richesse immortelle

Deux autres aspects des entreprises rendent les gens encore plus vulnérables aux systèmes d'IA dotés des droits de l'homme :ils ne meurent pas, et ils peuvent donner des sommes d'argent illimitées aux candidats et groupes politiques.

Les intelligences artificielles pourraient gagner de l'argent en exploitant les travailleurs, utiliser des algorithmes pour évaluer les biens et gérer les investissements, et trouver de nouvelles façons d'automatiser les processus commerciaux clés. Sur de longues périodes, cela pourrait représenter des gains énormes – qui ne seraient jamais répartis entre les descendants. Cette richesse pourrait facilement être convertie en pouvoir politique.

Les politiciens soutenus financièrement par des entités algorithmiques pourraient affronter des organes législatifs, destituer les présidents et aider à faire nommer des figures de proue à la Cour suprême. Ces figures de proue humaines pourraient être utilisées pour étendre les droits des entreprises ou même établir de nouveaux droits spécifiques aux systèmes d'intelligence artificielle – étendant encore plus les menaces pour l'humanité.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.