Ces jours, les derniers développements de la recherche en intelligence artificielle (IA) reçoivent toujours beaucoup d'attention, mais un chercheur en IA du U.S. Naval Research Laboratory pense qu'une technique d'IA pourrait en faire un peu trop.

Ranjeev Mittu dirige la Direction de la gestion de l'information et des architectures décisionnelles du NRL et travaille dans le domaine de l'IA depuis plus de deux décennies.

"Je pense que les gens se sont concentrés sur un domaine de l'apprentissage automatique - l'apprentissage en profondeur (alias les réseaux profonds) - et moins sur la variété d'autres techniques d'intelligence artificielle, " a déclaré Mittu. " La plus grande limitation des réseaux profonds est qu'une compréhension complète de la façon dont ces réseaux parviennent à une solution est encore loin de la réalité. "

L'apprentissage en profondeur est une technique d'apprentissage automatique qui peut être utilisée pour reconnaître des modèles, comme l'identification d'une collection de pixels comme l'image d'un chien. La technique consiste à superposer des neurones ensemble, avec chaque couche consacrée à l'apprentissage d'un niveau d'abstraction différent.

Dans l'exemple d'image de chien, les couches inférieures du réseau neuronal apprennent des détails primitifs comme les valeurs de pixels. L'ensemble de couches suivant tente d'apprendre les arêtes; les couches supérieures apprennent une combinaison de bords comme un nez. Avec suffisamment de couches, ces réseaux sont capables de reconnaître des images avec des performances presque humaines.

Mais les systèmes peuvent être trompés facilement en changeant simplement un petit nombre de pixels, selon Mittu.

« Vous pouvez avoir des « attaques » contradictoires où une fois que vous avez créé un modèle pour reconnaître les chiens en lui montrant des millions de photos de chiens, " dit-il. "... apporter des modifications à un petit nombre de pixels, le réseau peut le classer à tort comme un lapin, par exemple."

Le plus gros défaut de cette technique d'apprentissage automatique, selon Mittu, c'est qu'il y a un grand degré d'art dans la construction de ce genre de réseaux, ce qui signifie qu'il existe très peu de méthodes scientifiques pour aider à comprendre quand elles échoueront.

La solution?

"Il existe de nombreuses techniques d'IA dont l'apprentissage automatique est un sous-ensemble, " a-t-il déclaré. " Bien que l'apprentissage en profondeur ait connu un grand succès, elle est aussi actuellement limitée car il y a peu de visibilité sur sa logique de décision. Jusqu'à ce que nous atteignions vraiment un point où cette technique deviendrait pleinement "explicable, " il ne peut pas informer les humains ou d'autres automatismes de la façon dont il est arrivé à une solution, ou pourquoi il a échoué. Nous devons réaliser que les réseaux profonds ne sont qu'un outil dans la boîte à outils de l'IA."

Et, les humains doivent rester dans la boucle.

"Imaginez que vous ayez un système automatisé de détection des menaces sur le pont de votre navire, et il ramasse un petit objet à l'horizon, " dit-il. " La classification du réseau profond peut indiquer qu'il s'agit d'un vaisseau d'attaque rapide qui vous attaque, mais vous savez qu'un très petit ensemble de pixels incertains peut induire l'algorithme en erreur. Le crois-tu?

"Un humain devra l'examiner plus avant. Il peut toujours y avoir besoin d'un humain dans la boucle pour les situations à haut risque. Il pourrait y avoir un degré élevé d'incertitude et le défi consiste à augmenter la précision de la classification tout en maintenant le taux de fausses alarmes bas — il est parfois très difficile de trouver l'équilibre parfait."

Le problème de l'apprentissage automatique

En matière d'apprentissage automatique, le facteur clé, tout simplement, sont des données.

Considérez l'un des projets précédents de Mittu :une analyse des mouvements de navires de commerce dans le monde. L'objectif du projet était d'utiliser l'apprentissage automatique pour discerner les modèles de trafic maritime afin d'identifier les navires impliqués dans des activités illicites. Cela s'est avéré un problème difficile à modéliser et à comprendre en utilisant l'apprentissage automatique, dit Mittu.

"Nous ne pouvons pas avoir de modèle global car les comportements seront différents pour les classes de navires, les propriétaires, etc. », a-t-il expliqué. « C'est même différent selon les saisons, en raison de l'état de la mer et des conditions météorologiques."

Mais le plus gros problème, Mittu a trouvé, était la possibilité d'utiliser par erreur des données de mauvaise qualité.

« Les navires transmettent leur position et d'autres informations, tout comme les avions. Mais ce qu'ils transmettent peut être usurpé, " dit Mittu. " Vous ne savez pas si c'est une bonne ou une mauvaise information. C'est comme changer ces petits nombres de pixels sur l'image du chien qui fait échouer le système."

Les données manquantes sont un autre problème. Imaginez un cas dans lequel vous devez déplacer régulièrement un grand nombre de personnes et de matériel pour soutenir des opérations militaires, et vous comptez sur des données incomplètes pour prédire comment vous pourriez agir plus efficacement.

"La difficulté vient quand on commence à former des algorithmes de machine learning sur des données de mauvaise qualité, " a déclaré Mittu. " L'apprentissage automatique devient peu fiable à un moment donné, et les opérateurs ne feront pas confiance aux résultats des algorithmes."

Travail actuel en IA

Aujourd'hui, l'équipe de Mittu continue de rechercher des innovations en matière d'IA dans plusieurs domaines du domaine. Ils préconisent une approche interdisciplinaire de l'utilisation de systèmes d'IA pour résoudre des problèmes complexes.

« Il existe de nombreuses façons d'améliorer les capacités prédictives, mais probablement le meilleur de sa catégorie adoptera une approche holistique et emploiera plusieurs techniques d'IA et intégrera stratégiquement le décideur humain, " il a dit.

« Agréger diverses techniques (similaires au ‘boosting’), qui peuvent « pondérer » les algorithmes différemment, pourrait fournir une meilleure réponse, ou un apprentissage combiné à un raisonnement, etc. En utilisant des combinaisons de techniques d'IA, le système résultant peut être plus robuste en cas de mauvaise qualité des données."

Un domaine qui enthousiasme Mittu est celui des systèmes de recommandation. Selon lui, la plupart des gens connaissent déjà ces systèmes, qui sont utilisés dans les moteurs de recherche et les applications de divertissement telles que Netflix. Il est enthousiasmé par les applications militaires potentielles.

« Pensez à un système de commandement et de contrôle militaire, où les utilisateurs ont besoin de bonnes informations pour prendre de bonnes décisions, " il a dit. " En regardant ce que l'utilisateur fait dans le système dans un certain contexte, Pouvons-nous anticiper ce que l'utilisateur pourrait faire ensuite et déduire les données dont il pourrait avoir besoin."

Alors que le domaine de l'IA offre un potentiel presque illimité de solutions innovantes aux problèmes d'aujourd'hui, Mittu a dit, les chercheurs ont évidemment de nombreuses années de travail devant eux.

"Nous devons déterminer les bonnes techniques, leurs limites, et les données nécessaires pour obtenir des réponses fiables afin que les utilisateurs fassent confiance au système résultant, ", a-t-il déclaré. "Le domaine de l'IA a un long chemin à parcourir pour adopter une approche holistique en intégrant stratégiquement le décideur afin d'améliorer les performances du système humain et machine."