Apple Inc. et Goldman Sachs Group Inc., deux des entreprises les plus reconnues de la technologie et de la finance, sont pris dans un débat croissant sur la question de savoir si les prêteurs font involontairement une discrimination lorsqu'ils utilisent des modèles complexes pour déterminer comment les Américains empruntent de l'argent.

Samedi, Bloomberg a rapporté qu'un régulateur de Wall Street avait ouvert une enquête sur les pratiques de Goldman en matière de cartes de crédit après qu'un tweet viral d'un entrepreneur en technologie ait allégué que les algorithmes de la carte Apple étaient discriminatoires à l'égard de sa femme.

Maintenant, un autre utilisateur de premier plan de la carte Apple, le cofondateur d'Apple, Steve Wozniak, appelle le gouvernement à s'impliquer, citant la dépendance excessive des entreprises à l'égard d'une technologie mystérieuse.

"Ce genre d'injustices me dérange et va à l'encontre du principe de vérité. Nous n'avons pas de transparence sur la façon dont ces entreprises mettent en place ces choses et fonctionnent, " Wozniak a déclaré dans une interview dimanche. "Notre gouvernement n'est pas assez fort sur les questions de réglementation. Les consommateurs ne peuvent être représentés que par le gouvernement parce que les grandes entreprises ne représentent qu'eux-mêmes."

Wozniak a déclaré qu'il pouvait emprunter 10 fois plus que sa femme sur leurs cartes Apple, même s'ils partagent des comptes bancaires et d'autres cartes de crédit, et que les autres prêteurs les traitent sur un pied d'égalité.

"Les algos ont évidemment des défauts, " Wozniak a dit. " Un grand nombre de personnes diraient, "Nous aimons notre technologie mais nous n'avons plus le contrôle." Je pense que c'est le cas."

Tweets viraux

Les prêteurs ont fait la promotion des modèles car ils sont censés uniformiser les règles du jeu entre les différents emprunteurs en supprimant les erreurs humaines et en se concentrant uniquement sur les données.

"Nos décisions de crédit sont basées sur la solvabilité d'un client et non sur des facteurs comme le sexe, course, âge, orientation sexuelle ou toute autre base interdite par la loi, " a déclaré le porte-parole de Goldman Andrew Williams après que le département des services financiers de New York a ouvert une enquête sur les pratiques de la banque en matière de cartes.

L'enquête a été lancée en réponse à une série de publications sur Twitter de David Heinemeier Hansson qui ont critiqué la carte Apple pour lui avoir accordé 20 fois la limite de crédit de sa femme. Les tweets, dont beaucoup contiennent des blasphèmes, a immédiatement gagné du terrain en ligne et une réponse sur Twitter de Wozniak.

Hansson n'a divulgué aucune information spécifique liée au revenu du couple, mais a déclaré qu'ils avaient déposé des déclarations de revenus conjointes et que sa femme avait une meilleure cote de crédit que lui. Wozniak a déclaré que sa femme et lui produisaient également des déclarations conjointes et partageaient des comptes de carte de crédit et de banque.

"Le département mènera une enquête pour déterminer si la loi de New York a été violée et s'assurer que tous les consommateurs sont traités sur un pied d'égalité, quel que soit leur sexe, " a déclaré un porte-parole de Linda Lacewell, le surintendant du NY DFS. "Tout algorithme qui entraîne intentionnellement ou non un traitement discriminatoire des femmes ou de toute autre catégorie de personnes protégées viole la loi de New York."

C'est la deuxième action de ce type ces dernières semaines de la part du régulateur, qui a ouvert une enquête contre le géant de la santé UnitedHealth Group Inc. après qu'une étude ait révélé qu'un algorithme favorisait les patients blancs par rapport aux patients noirs.

« Les nouvelles technologies ne peuvent pas laisser certains consommateurs de côté ou ancrer la discrimination, " Lacewell a déclaré dimanche dans un communiqué. Elle a également sollicité des plaintes de consommateurs lésés sur Twitter.

Les prêteurs traditionnels utilisent de plus en plus les machines pour décider qui obtient combien de crédit dans le cadre d'une stratégie visant à réduire les coûts et à stimuler les demandes de prêt. Pendant ce temps, les entreprises technologiques s'installent sur le terrain de l'industrie des services financiers, avec des entreprises comme Amazon, Pomme, Facebook et Google menacent les secteurs d'activité lucratifs des banques en proposant des prêts et des options de paiement.

Contrôle du Congrès

Les algorithmes ont attiré l'attention du Congrès. En juin, le House Financial Services Committee a entendu parler d'exemples de prise de décision algorithmique où les chercheurs ont trouvé des cas de biais ciblant des groupes spécifiques même lorsqu'il n'y avait aucune intention de discriminer.

Certains législateurs exigent déjà une réponse fédérale. la sénatrice Elizabeth Warren, un démocrate du Massachusetts et candidat pour défier le président Donald Trump aux élections de 2020, a déclaré aux régulateurs fédéraux en juin que le gouvernement "devra prendre des mesures pour s'assurer que les lois anti-discrimination suivent l'innovation".

Pour Goldman, ses ambitions croissantes pour Main Street entraînent une surveillance accrue et un nouvel ensemble de défis auxquels elle n'a pas été confrontée auparavant. L'Apple Card est une joint-venture entre Apple et la banque basée à New York, qui est responsable de toutes les décisions de crédit sur la carte. Il a été déployé plus tôt cette année - le géant de la technologie le commercialise comme "créé par Apple, pas une banque" - et les dirigeants des deux entreprises l'ont salué comme le lancement le plus réussi de tous les temps.

Hansson a déclaré que Goldman ne prend pas au sérieux les préjugés involontaires.

"Dès que cela est devenu un problème de relations publiques, ils ont immédiatement augmenté sa limite de crédit sans demander de documents supplémentaires, ", a-t-il déclaré à propos de sa femme dans une interview samedi. "Ma conviction n'est pas qu'il y avait une personne infâme qui voulait discriminer. Mais cela n'a pas d'importance. Comment savez-vous qu'il n'y a pas de problème avec l'algorithme d'apprentissage automatique alors que personne ne peut expliquer comment cette décision a été prise ? »

©2019 Bloomberg News
Distribué par Tribune Content Agency, LLC.