La startup Diveplane veut rendre l'IA éthique :le PDG explique ce que cela signifie

Crédit :Pixabay/CC0 Domaine public

Dans le monde d'aujourd'hui, l'intelligence artificielle est utilisée pour prendre de grandes décisions. Les collèges en dépendent pour admettre des étudiants. Les commissions des libérations conditionnelles l'utilisent pour approuver ou refuser la libération des détenus.

Une startup du Research Triangle de Caroline du Nord s'efforce de rendre les systèmes d'IA plus éthiques, et l'entreprise a obtenu un financement important pour ce faire. Lundi, Diveplane a annoncé qu'elle avait levé 25 millions de dollars en financement de série A, une somme importante pour les investissements de premier tour. L'entreprise de Raleigh est fière de créer une intelligence artificielle éthique, l'utilisation responsable des machines en identifiant et en corrigeant les biais involontaires.

Diveplane a été cofondé en 2018 par Michael Capps, ancien président d'Epic Games, basé à Cary, en Caroline du Nord. Au cours des quatre dernières années, Diveplane a attiré un certain nombre de clients et d'investisseurs notables, dont plusieurs stars du football américain.

Désormais soutenu par des millions supplémentaires provenant de sociétés de capital-risque et de défense, Diveplane cherche à se développer, dans le but ultime de remodeler les systèmes d'IA qui en sont venus à dicter une grande partie de la vie quotidienne.

Alors, qu'est-ce qui rend l'approche de Diveplane en matière d'IA unique ? Et quelle taille espère-t-il atteindre ? Le 15 septembre, Capps s'est entretenu avec The News &Observer pour en discuter. Voici cinq grands plats à emporter :

IA explicable contre boîte noire

Diveplane fournit ce que l'on appelle l'intelligence artificielle explicable, des systèmes qui permettent aux humains de mieux comprendre comment les résultats des machines sont apparus. Avec cette clarté, Capps a déclaré que les organisations peuvent mieux identifier les failles susceptibles de produire des résultats biaisés.

"Pour que cela (pour arriver), il faut une touche humaine", a déclaré Capps. "Cette évaluation de pouvoir revenir en arrière et dire :'Ce n'est pas comme ça que nous voulions embaucher des gens dans notre entreprise. Cette IA a fait quelque chose de mal. Allons réparer ça.'"

L'IA explicable contraste avec le type d'IA le plus couramment utilisé aujourd'hui, les systèmes de réseaux neuronaux, modélisés à partir des fonctions biologiques du cerveau humain. La plupart des systèmes de réseaux de neurones, a déclaré Capps, sont connus sous le nom de "boîte noire d'IA", ce qui signifie que personne - ni les organisations utilisant la technologie ni les personnes concernées par celle-ci - ne peut voir exactement comment ils fonctionnent.

"Cela pourrait bien fonctionner, mais ce ne sera peut-être pas le cas", a-t-il déclaré. "Et le fait que nous ne le sachions pas, mais qu'il soit utilisé pour prendre une décision aussi critique me semble inapproprié. Plus qu'inapproprié, cela me fait chier."

Extension

Diveplane compte Duke Health et l'équipe de course automobile Roush Fenway Keselowski Racing parmi ses clients de Caroline du Nord. Capps a déclaré que Diveplane avait pour objectif d'utiliser son récent financement pour attirer davantage de clients dans les domaines de la défense, de l'assurance et de la finance.

"C'est une vraie, vraie affaire", a-t-il dit. "Maintenant, découvrons comment commencer à le mettre à l'échelle."

Capps espère que Diveplane pourra un jour aider à remplacer les technologies de la boîte noire, et il a déclaré que les investisseurs ont commencé à voir que l'IA explicable a un marché. Alors que les consommateurs sont de plus en plus conscients de l'éthique de l'IA, il a déclaré que les entreprises et les organisations se sentaient obligées de garantir la transparence de leurs systèmes.

Signe de cette prise de conscience croissante, Capps siège au conseil de direction de la Data and Trust Alliance, un groupe de dirigeants de grandes entreprises comme Walmart, Starbucks, Nike et CVS qui se sont engagés à promouvoir des systèmes d'intelligence artificielle et d'apprentissage automatique plus responsables.

Nouveau bureau, double personnel

Avec son dernier financement, Diveplane cherche à doubler ses effectifs d'environ 20 à 40 employés. Capps a indiqué qu'il espère que ce n'est que la première de nombreuses extensions d'emplois.

Son entreprise ouvre également un nouveau bureau dans le développement de Smoky Hollow au centre-ville de Raleigh. Malgré le nouveau siège social, Capps a déclaré que de nombreux employés de Diveplane pourraient être basés en dehors de la ville ou de l'État.

"Je voulais créer une entreprise technologique basée à Raleigh avec les talents ici, mais le monde a tellement changé avec le travail à distance", a-t-il déclaré. "Donc, c'est idiot pour nous de ne pas jeter un très large filet. De plus, les gens qui se soucient de ce que nous faisons, de la façon dont nous le faisons, ils sont partout. Nous recherchons de vrais croyants dans la mission."

Investisseurs avec un coup de pied

Certains des premiers investisseurs de Diveplane étaient des athlètes de haut niveau comme les joueuses de football américaines Becky Sauerbrunn, Megan Rapinoe et l'ancienne UNC Mia Hamm. La basketteuse à la retraite Sue Bird (la fiancée de Rapinoe) et l'ancien joueur de baseball Nomar Garciaparra (le mari de Hamm) ont également investi.

Capps s'est d'abord connecté avec de nombreux joueurs grâce à leur implication dans une startup d'impression 3D appelée Carbon. Capps et Hamm étaient des conseillers, tandis que d'autres investissaient. Carbon s'est avéré être un succès, et Rapinoe, Hamm et d'autres étaient prêts à investir lorsque Capps a mentionné son idée d'une nouvelle entreprise d'IA éthique.

Leçons d'Epic

De 2004 à 2013, Capps a été président d'Epic Games, le créateur basé à Cary de titres de jeux vidéo comme Fortnite, Rocket League et Gears of War. Alors que Capps n'était pas avec l'entreprise pour son plus grand succès - Fortnite - il a dit qu'il y avait une ambition chez Epic qui, selon lui, s'est traduite en Diveplane.

"Ici, c'est une entreprise totalement différente (d'Epic), mais je pense que nous avons cette attente fondamentale d'excellence", a-t-il déclaré. "Il n'a jamais été question (chez Epic) que cela n'allait pas être énorme, et je pense que cela s'applique tout à fait à cela." + Explorer plus loin