C'est un nouveau jour pas très loin dans le futur. Tu te réveilles; votre montre-bracelet a enregistré combien de temps vous avez dormi, et surveillé votre rythme cardiaque et votre respiration. Vous vous rendez au travail en voiture ; les capteurs de voiture suivent votre vitesse et votre freinage. Tu prends ton petit-déjeuner en chemin, payer par voie électronique ; la transaction et la teneur en calories de votre repas sont enregistrées.

Ensuite, vous avez un accident de voiture. Vous téléphonez à votre compagnie d'assurance. Votre appel est répondu immédiatement. La voix à l'autre bout du fil connaît votre nom et vous parle amicalement de votre chat et des performances de votre équipe de football préférée le week-end.

Vous parlez à un chatbot. La raison pour laquelle elle « en sait » tant sur vous est que la compagnie d'assurance utilise l'intelligence artificielle pour extraire des informations vous concernant des réseaux sociaux. Il en sait beaucoup plus d'ailleurs, parce que vous avez accepté de le laisser surveiller vos appareils personnels en échange de primes d'assurance moins chères.

Ce n'est pas de la science-fiction. Plus des trois quarts des dirigeants d'assurance pensent que l'intelligence artificielle va révolutionner le secteur d'ici quelques années. D'ici 2030, selon les futurologues de McKinsey, l'intelligence artificielle signifie que vos primes d'assurance automobile et vie pourraient changer selon que vous décidiez d'emprunter un itinéraire ou un autre.

Il vous sera vendu sous la promesse d'un service plus personnalisé, un traitement plus rapide des réclamations et des primes moins élevées - et il tiendra ses promesses, pour la plupart.

Mais il existe également des risques éthiques – la confidentialité des données et la discrimination parmi eux. Une compagnie d'assurance peut utiliser vos données pour déterminer combien vous seriez prêt à payer pour la couverture. Il pourrait vendre les informations à un tiers. L'IA pourrait décider que vous présentez un plus grand risque en raison de votre âge, sexe, revenu ou origine ethnique.

L'internet des objets

Bien que l'industrie de l'assurance en général ait la réputation peu enviable de prendre l'argent des gens puis de refuser de payer, c'est un secteur hautement concurrentiel. Les moins agiles ne survivront probablement pas face à des concurrents utilisant l'IA pour rester rentables tout en baissant leurs primes.

Pour offrir des primes moins élevées, un assureur a besoin de savoir qu'un individu est, En réalité, un moindre risque. La technologie habilitante est l'Internet des objets, le nom collectif des milliards de capteurs connectés à Internet intégrés dans toutes sortes d'objets que nous utilisons tous les jours. Ils sont dans les téléphones, montres, voitures, trackers de fitness, aides à domicile et bien d'autres choses. Collectivement, ils forment un « écosystème » de capteurs.

Les données collectées au fil du temps permettent à l'assureur d'établir un profil de risque personnalisé en fonction du comportement réel d'une personne, une pratique connue sous le nom tarification de la politique comportementale .

Devenir "intelligent"

Pour baisser votre assurance habitation et inventaire, la compagnie d'assurance se connectera au hub d'IA qui gère votre « maison intelligente » via son écosystème de capteurs.

S'il y a une série de cambriolages dans le quartier, le hub domestique saura, car il est connecté au réseau de l'assureur. Les serrures et les alarmes peuvent être amorcées et la police appelée au premier signe de problème. Pour gérer le risque d'incendie, des capteurs surveilleront la chaleur, l'humidité et détecter la fumée. Si le poêle reste allumé, le concentrateur domestique l'éteindra avant que cela ne devienne un problème.

Pour calculer des primes d'assurance automobile moins élevées, votre compagnie d'assurance voudra peut-être surveiller votre façon de conduire et d'entretenir votre voiture.

Les primes d'assurance maladie peuvent nécessiter de donner à l'assureur l'accès à vos dossiers médicaux et le port d'un tracker de fitness.

Un nouveau secteur industriel va émerger. Les entreprises spécialisées qui déploient des capteurs IoT et collectent les données s'associeront avec des assureurs pour former un nouvel écosystème commercial. L'ensemble de l'industrie passera d'une assurance purement réactive à une assurance proactive, couverture minimisant les risques.

Tout cela semble assez positif. Mais il existe également des risques plus larges dans la poursuite étroite de la minimisation du risque d'assurance.

Discrimination

Un danger très clair est le problème du profilage – être considéré comme un risque d'assurance supérieur ou inférieur parce que vous appartenez à un groupe démographique particulier.

L'IA peut désormais différencier le risque en centaines de facteurs. Les algorithmes analysent ces facteurs pour identifier des groupes de risques auparavant non reconnus. Ils peuvent également déduire des clusters par eux-mêmes.

Mais ces conclusions peuvent involontairement être discriminatoires. Il existe déjà de nombreux exemples où les algorithmes d'IA ont amplifié par inadvertance des stéréotypes.

Le cas de la police prédictive à Durham, Angleterre, illustre le problème. La police y a développé un algorithme pour mieux prédire le risque posé par les personnes accusées d'une infraction si elles étaient libérées sous caution. Ce qu'il a fait, c'est discriminer les personnes les plus pauvres en fonction de leur lieu de résidence.

Tarification opportuniste

Il y a aussi la perspective d'une discrimination plus individualisée.

Le problème de la discrimination génétique est déjà bien connu – le risque qu'un assureur santé ou vie augmente les primes ou même refuse la couverture pour certaines conditions en fonction de ce que votre ADN révèle sur votre prédisposition génétique à certaines conditions.

L'IA ouvre un tout nouveau domaine de discrimination personnalisée, en fonction de ce qu'il peut tirer de vos comportements et préférences.

Pour une chose, la pléthore de données potentiellement disponibles pour l'IA peut en dire long à un assureur sur vos habitudes de dépenses. Où achètes-tu? Qu'est-ce que tu achètes? Quand dépensez-vous ? Cherchez-vous de bonnes affaires ou payez-vous le plein prix?

Savoir tout cela aidera une compagnie d'assurance à estimer si elle peut s'en tirer en vous facturant le prix le plus élevé.

Certains dans l'industrie soutiennent que c'est ainsi que fonctionnent les marchés, mais lorsqu'elle est facilitée par un accès sans précédent aux informations personnelles, cela devient une pratique très discutable.

Perte d'intimité

Un assureur peut également être tenté d'utiliser les données à des fins autres que l'évaluation du risque. Compte tenu de sa valeur, les données peuvent être vendues à des tiers à diverses fins pour compenser le coût de leur collecte. Annonceurs, commerçants, les lobbyistes et les partis politiques ont tous une soif insatiable de données démographiques détaillées.

Contrairement à ce que les gens pourraient penser, ces données sont ne pas la propriété de la personne à laquelle il se rapporte. Il appartient à celui qui l'a payé. Consumers must be legally protected against their data being used for other purposes without their informed consent.

Managing risk

With any powerful new technology there are benefits and risks. The benefits should be made clear and the risks managed down to an acceptable level. There is of course irony in having to manage the risk of managing risk.

Insurance companies have a job to do to ensure customers can trust there is far more upside than downside in AI. They will need to adopt transparently fair, if not benevolent, practices that contribute to the greater good. It has to be about more than profit.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.