Alors que l'industrie informatique est aux prises avec son rôle dans la société, Beaucoup de gens, à la fois sur le terrain et à l'extérieur, parlent d'une crise de l'éthique.

Il y a une ruée massive pour embaucher des directeurs de l'éthique, réoutiller les codes d'éthique professionnelle et enseigner l'éthique aux étudiants. Mais en tant que spécialiste de l'informatique - et enseignant d'un cours sur l'informatique, éthique et société à l'Université Rice - Je suis sceptique quant aux hypothèses selon lesquelles la technologie est un manque d'éthique, et que la meilleure solution est d'enseigner l'éthique aux technologues.

Au lieu, à mon avis, la solution est l'action du gouvernement, qui vise à équilibrer la réglementation, éthique et marchés. Ce n'est pas une idée radicalement nouvelle :c'est la façon dont la société traite les voitures et la conduite.

Envisager, par exemple, la Ford modèle T, la première automobile produite et consommée en masse. Ses débuts en 1908 ont lancé l'ère de l'automobile, une période de grande mobilité – et de mort généralisée. Les accidents de voiture tuent plus d'un million de personnes dans le monde chaque année, mais le taux de mortalité par kilomètre parcouru est en baisse presque depuis que le premier modèle T est sorti de la chaîne de montage.

La raison de cette amélioration du dossier de sécurité n'est pas que les personnes qui apprennent à conduire ont étudié l'éthique de la conduite responsable et sûre. Plutôt, on leur a appris, et testé sur, le code de la route, afin d'obtenir un permis de conduire. D'autres règlements ont amélioré la façon dont les routes ont été construites, oblige les constructeurs automobiles à adopter de nouvelles caractéristiques de sécurité, assurance accident obligatoire, et interdit la conduite en état d'ébriété et d'autres comportements dangereux. Je crois qu'une approche similaire - réglementation, en plus de la formation à l'éthique pour les technologues, ainsi que la concurrence sur le marché - est nécessaire aujourd'hui pour rendre la technologie moderne sûre pour la société dans son ensemble.

Défauts dans le modèle économique de base

Dans les années 1980, Les pionniers de l'Internet ont adopté une philosophie selon laquelle « l'information veut être gratuite » – les propriétaires de sites Web n'ont donc pas facturé aux lecteurs l'accès au contenu. Au lieu, les sociétés Internet ont utilisé la publicité pour soutenir leurs efforts. Cela les a amenés à collecter des données personnelles sur leurs utilisateurs et à proposer des publicités micro-ciblées pour gagner de l'argent, que la sociologue Shoshana Zuboff appelle le « capitalisme de surveillance ».

Ce modèle économique est extrêmement rentable, il est donc peu probable que les sociétés Internet l'abandonnent d'elles-mêmes en raison de scrupules éthiques. Même face aux critiques fulgurantes et au scandale Cambridge Analytica de Facebook, les bénéfices massifs sont convaincants.

Le vrai problème avec le capitalisme de surveillance n'est pas qu'il est contraire à l'éthique - ce que je pense que c'est - mais qu'il est complètement légal dans la plupart des pays. Il est déraisonnable de s'attendre à ce que les sociétés à but lucratif évitent les entreprises rentables qui sont légales. À mon avis, il ne suffit pas de critiquer simplement l'éthique des sociétés Internet. Si la société trouve le modèle économique de la surveillance offensant, alors le remède n'est pas un outrage éthique, mais faire des lois et des règlements qui le régissent, ou même l'empêcher complètement.

Bien sûr, la politique publique ne peut pas être dissociée de l'éthique. La vente d'organes humains est interdite aux États-Unis en partie parce que la société trouve qu'il est éthiquement répugnant de profiter de la vie elle-même. Mais l'interdiction est imposée par les lois, pas par un débat éthique permanent. Comme l'a fait remarquer le juge en chef Earl Warren :« Dans la vie civilisée, le droit flotte dans une mer d'éthique."

La réglementation a des avantages

Depuis des décennies, l'industrie des technologies de l'information a fait pression avec succès contre les tentatives de légiférer ou de réglementer, arguant que « la réglementation étouffe l'innovation ». Bien sûr, cela suppose que toute innovation est bonne. Il est devenu évident que ce n'est pas toujours le cas :certaines des innovations des géants de l'Internet ont nui à la société démocratique aux États-Unis et dans le monde.

En réalité, l'un des objectifs de la réglementation est de freiner certains types d'innovation - en particulier, ceux que le public trouve faux, désagréable ou inutile à l'avancement de la société. La réglementation peut également encourager l'innovation d'une manière que la société juge bénéfique. Il ne fait aucun doute que la réglementation de l'industrie automobile a encouragé l'innovation en matière de sécurité et d'efficacité énergétique.

Certains membres du Congrès ont proposé un certain nombre de plans ambitieux pour lutter contre la guerre de l'information, la protection des consommateurs, concurrence dans le numérique et le rôle de l'intelligence artificielle dans la société. Mais des règles beaucoup plus simples – et plus largement soutenues – pourraient faire une énorme différence pour les clients individuels et la société dans son ensemble.

Par exemple, les régulateurs fédéraux pourraient exiger que les conditions et les licences des logiciels incluent un langage simple qui soit facilement compris par n'importe qui - peut-être sur le modèle de la "règle de l'anglais simple" de longue date pour les dépôts financiers des entreprises auprès de la Securities and Exchange Commission des États-Unis. Des lois ou des règles pourraient également obliger les entreprises à divulguer rapidement les violations de données, tant aux fonctionnaires qu'au grand public. Cela pourrait même susciter l'innovation alors que les entreprises intensifient leurs efforts pour prévenir et détecter les intrusions sur le réseau et le vol de données. Une autre opportunité relativement facile serait de réglementer les systèmes automatisés de décision judiciaire, y compris exiger qu'ils ne soient pas déployés avant de passer un audit indépendant démontrant qu'ils sont justes et impartiaux.

Ces réglementations simples pourraient ouvrir la voie à une réflexion et à des discussions sur l'opportunité et la manière de réglementer la taille de ces grandes entreprises technologiques. Mais l'élaboration de règles n'a pas besoin de commencer par les problèmes les plus difficiles – il y a beaucoup à faire sur lesquels la plupart des gens seraient d'accord tout de suite.

L'essentiel est que les progrès technologiques ont été très rapides, alors que les politiques publiques ont pris du retard. Il est temps que les politiques publiques rattrapent la technologie. Si la technologie est le moteur de l'avenir, la société devrait diriger.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.