Que les systèmes d'intelligence artificielle volent les emplois des humains ou créent de nouvelles opportunités de travail, les gens devront travailler avec eux.

Dans mes recherches, j'utilise des capteurs et des ordinateurs pour surveiller comment le cerveau lui-même traite la prise de décision. Avec un autre spécialiste de l'interface cerveau-ordinateur, Riccardo Poli, J'ai examiné un exemple de collaboration homme-machine possible - des situations où la police et le personnel de sécurité sont invités à surveiller une personne en particulier, ou des personnes, dans un environnement surpeuplé, comme un aéroport.

Cela semble être une demande simple, mais c'est en fait très difficile à faire. Un agent de sécurité doit surveiller plusieurs caméras de surveillance pendant plusieurs heures chaque jour, à la recherche de suspects. Les tâches répétitives comme celles-ci sont sujettes aux erreurs humaines.

Certaines personnes suggèrent que ces tâches devraient être automatisées, comme les machines ne s'ennuient pas, fatigué ou distrait avec le temps. Cependant, les algorithmes de vision par ordinateur chargés de reconnaître les visages pourraient également faire des erreurs. Comme mes recherches l'ont révélé, ensemble, les machines et les humains pourraient faire beaucoup mieux.

Deux types d'intelligence artificielle

Nous avons développé deux systèmes d'IA qui pourraient aider à identifier les visages cibles dans les scènes bondées. Le premier est un algorithme de reconnaissance faciale. Il analyse les images d'une caméra de sécurité, identifie quelles parties des images sont des visages et compare ces visages avec une image de la personne recherchée. Lorsqu'il identifie une correspondance, cet algorithme indique également à quel point il est sûr de cette décision.

Le deuxième système est une interface cerveau-ordinateur qui utilise des capteurs sur le cuir chevelu d'une personne, à la recherche d'une activité neuronale liée à la confiance dans les décisions.

Nous avons mené une expérience avec 10 participants humains, montrant à chacun d'eux 288 images d'environnements intérieurs bondés. Chaque image n'a été montrée que pendant 300 millisecondes - à peu près aussi longtemps qu'il faut un œil pour cligner des yeux - après quoi la personne a été invitée à décider si elle avait ou non vu le visage d'une personne en particulier. En moyenne, ils ont réussi à distinguer correctement les images avec et sans la cible dans 72 % des images.

Lorsque notre système d'IA entièrement autonome effectuait les mêmes tâches, il a correctement classé 84 pour cent des images.

Collaboration homme-IA

Tous les humains et l'algorithme autonome voyaient les mêmes images, nous avons donc cherché à améliorer la prise de décision en combinant les actions de plusieurs d'entre eux à la fois.

Pour fusionner plusieurs décisions en une seule, nous avons pondéré les réponses individuelles par la confiance de décision - la confiance auto-estimée de l'algorithme, et les mesures des lectures cérébrales des humains, transformé avec un algorithme d'apprentissage automatique. Nous avons découvert qu'un groupe moyen composé uniquement d'humains, quelle que soit la taille du groupe, a fait mieux que l'humain moyen seul - mais était moins précis que l'algorithme seul.

Cependant, les groupes qui comprenaient au moins cinq personnes et l'algorithme étaient statistiquement significativement meilleurs que les humains ou la machine seuls.

Tenir les gens au courant

Jumeler des personnes avec des ordinateurs est de plus en plus facile. Des logiciels précis de vision par ordinateur et de traitement d'images sont courants dans les aéroports et dans d'autres situations. Les coûts baissent pour les systèmes grand public qui lisent l'activité cérébrale, et ils fournissent des données fiables.

Travailler ensemble peut également aider à répondre aux préoccupations concernant l'éthique et les biais des décisions algorithmiques, ainsi que des questions juridiques sur la responsabilité.

Dans notre étude, les humains étaient moins précis que l'IA. Cependant, les interfaces cerveau-ordinateur ont observé que les gens étaient plus confiants dans leurs choix que l'IA. La combinaison de ces facteurs a offert un mélange utile de précision et de confiance, dans lequel les humains ont généralement plus influencé la décision du groupe que le système automatisé. Quand il n'y a pas d'accord entre les humains et l'IA, il est éthiquement plus simple de laisser les humains décider.

Notre étude a trouvé un moyen par lequel les machines et les algorithmes ne doivent pas – et en fait ne devraient pas – remplacer les humains. Plutôt, ils peuvent travailler avec les gens pour trouver le meilleur de tous les résultats possibles.

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article original.