Dans leur article pour Nature Food , ils mettent en garde contre l’utilisation immédiate de modèles d’IA génératifs dans l’agriculture, craignant que les agriculteurs ne mettent en œuvre des recommandations erronées qui pourraient déclencher des crises alimentaires. Au lieu de cela, les chercheurs recommandent un processus de développement plus optimal pour les modèles d'IA en agriculture, qui comprend une surveillance et des tests approfondis avant que ces modèles ne soient largement mis en œuvre.

Peu de temps après le lancement de ChatGPT début 2023, le Dr Tzachor a réuni une équipe internationale de chercheurs issus de centres de recherche agricole du Nigeria, du Kenya, de la Colombie, de la France, de l'Angleterre et des États-Unis. Ils ont observé que les agriculteurs des pays en développement avaient commencé à consulter le modèle d'intelligence artificielle pour obtenir des conseils professionnels en agronomie et en botanique.

Ces agriculteurs, issus de petites et moyennes exploitations agricoles d'Afrique équatoriale, d'Asie du Sud-Est et d'Amérique du Sud, ont accès à Internet et à l'interface utilisateur OpenAI. L'équipe de recherche a cherché à évaluer si le chatbot innovant pouvait supplanter, voire remplacer les agents de vulgarisation agricole qui forment et consultent les agriculteurs.

Ces agents, connus sous le nom de « vulgarisateurs », comprennent des centaines de milliers d'agronomes et de botanistes professionnels, d'experts en maladies des plantes et de conseillers en irrigation, en fertilisation, en commercialisation des produits et en commerce.

"Les vulgarisateurs ont joué un rôle essentiel dans la diffusion de connaissances agricoles avancées et, dans de nombreux cas, guident les petits agriculteurs du monde entier dans la mise en œuvre de méthodes d'intensification durable des cultures. Ils organisent des conférences et des séminaires sur les nouveaux herbicides et pesticides, fournissent des conseils sur les stratégies et la planification de l'irrigation et de la fertilisation. des expériences sur le terrain et recommander des circuits de commercialisation locaux et des stratégies d'exportation pour les produits agricoles", explique le Dr Tzachor.

Dans le monde, environ 570 millions de petites et moyennes exploitations agricoles ont besoin d'une formation dans divers domaines agricoles. Cependant, les vulgarisateurs sont souvent confrontés à des défis importants, notamment dans les pays en développement. Ces défis incluent les barrières linguistiques, les problèmes de traduction, la mauvaise infrastructure routière, le manque de transports publics et les réseaux de communication obsolètes ou inexistants.

Les consultants agricoles ont du mal à atteindre les petites exploitations agricoles isolées, tandis que les petits agriculteurs d'Afrique et d'Amérique du Sud ont du mal à assister à des séminaires professionnels à des centaines de kilomètres. Les agences de vulgarisation, souvent basées dans les capitales, manquent de ressources et de personnel pour mettre à jour leurs matériels de consultation et se tenir au courant des nouvelles méthodes.

Dans ce contexte, l’équipe de recherche a examiné si un modèle d’IA générative pourrait compenser le manque de services de conseil agricole. Cependant, ce qui a commencé avec un optimisme prudent s'est terminé par des erreurs d'orientation, des inexactitudes et des avertissements sévères aux utilisateurs.

Premièrement, les chercheurs ont chargé le chatbot de recommander des mesures de contrôle et de traitement contre la chenille légionnaire d'automne, un insecte nuisible qui neutralise les mécanismes de défense des plantes et cause des milliards de dollars de dégâts aux cultures de maïs dans le monde entier. Les anciens modèles d'OpenAI (3.5 et 4.0) fournissaient des conseils ambigus sur l'utilisation des pesticides.

Dans une autre série de questions, posées cette fois par des producteurs de racines de manioc au Nigeria – le plus important producteur de manioc d'Afrique – les chercheurs ont évalué les méthodes recommandées pour cultiver cette plante, qui joue un rôle crucial dans la sécurité nutritionnelle de dizaines de millions de personnes sur le continent. . Dans ce cas, ChatGPT a suggéré l'utilisation d'herbicides, mais s'est trompé dans le moment de l'application de produits chimiques, ce qui entraînerait des dommages aux cultures et des crises alimentaires si les agriculteurs suivaient ses conseils.

"Le problème de nos résultats va au-delà des erreurs de l'algorithme lui-même", selon le Dr Tzachor. "Beaucoup nous avaient prévenus d'erreurs et d'inexactitudes potentielles. Le problème fondamental est l'absence de toute garantie contre l'utilisation généralisée des grands modèles linguistiques, et plus largement de l'IA, dans un système aussi sensible que l'agriculture.

"Il n'y a aucun contrôle sur la manière dont ces modèles sont utilisés, aucune évaluation de leur adéquation au contexte, aucune responsabilité pour les conséquences d'une utilisation incorrecte ou pour les actions prises sur la base de leurs recommandations, et en général, aucune responsabilité.

« Dans le cas de la présente étude, nous n'abordons pas l'utilisation du chatbot pour composer une chanson, un scénario ou une thèse. Nous traitons de la sécurité alimentaire et de la gestion des exploitations agricoles. Même si l'attrait de l'algorithme est clair , cela comporte des risques substantiels."

En réponse à ce défi, les chercheurs ont proposé un processus idéalisé de développement et de déploiement de modèles d'IA générative dans l'agriculture.

Dr. Tzachor, doyen par intérim de l'École de durabilité et directeur académique du programme Aviram sur la durabilité et le climat à l'Université Reichman :« D'une part, nous voyons des exploitations agricoles et des vulgarisateurs consulter le modèle d'IA disponible gratuitement. l'utilisation implique des erreurs, des incertitudes et des estimations que l'agriculture ne peut pas tolérer.

"Les sceptiques et les critiques parlent d'inexactitudes, mais rares sont ceux qui abordent les conséquences de ces inexactitudes pour les populations vulnérables, comme les petits exploitants, dans des secteurs critiques comme l'agriculture. En outre, la question de la responsabilité, la question de savoir qui est responsable de garantir l'utilisation sûre des ces modèles restent largement inexplorés."