Le CGAAER a produit un rapport en novembre 2024 qui formule des recommandations pour accompagner l’intégration de l’IA au ministère. L’Alliance du Trèfle avait contribué à ce rapport sur l’impact de l’IA au sein du MASA et de ses opérateurs.

Ce rapport a été présenté au CSA Ministériel du 18 mars 2025. (Lire la présentation du Rapport CGAAER n° 24053 Analyse des impacts de l’intelligence artificielle sur les grands métiers du Ministère de l’agriculture et de la souveraineté alimentaire et de ses opérateurs).

Retrouvez ci-dessous, la contribution de l’Alliance du Trèfle (lire le texte au format pdf) :

1 – Risques de l’Intelligence Artificielle (IA) et souveraineté du Ministère

Origine et souveraineté des données

L’intelligence artificielle repose sur des banques de données (pour son entraînement puis son fonctionnement) souvent non souveraines, ce qui soulève des enjeux cruciaux pour les politiques publiques. La provenance de l’ingénierie de l’IA et de ses données influence le fonctionnement de l’IA ce qui peut introduire des biais culturels. Par exemple : le chatbot chinois conçu pour refléter la pensée politique du leader chinois.

Il est donc essentiel de vérifier l’origine des IA et des données utilisées pour garantir leur souveraineté.

Confidentialité des données

La prudence est primordiale pour éviter d’injecter des données sensibles dans des systèmes d’IA, ce qui pourrait entraîner des détournements ou des failles de sécurité. Des vulnérabilités ont déjà été observées dans des IA reconnues, comme OpenAI, où des codes malveillants peuvent être intégrés dans les entrées. Il est crucial de séparer les données alimentant l’IA des informations ministérielles et de définir des règles claires concernant la confidentialité.

Qualité et biais de l’IA

La qualité des réponses fournies par l’IA dépend de la qualité des données d’entraînement. Les biais peuvent survenir si les données sont non représentatives ou obsolètes, entraînant des « hallucinations ». Il est donc essentiel de ne pas faire confiance aveuglément à l’IA et de mettre en place des vérifications régulières pour assurer la fiabilité des systèmes.

Risques environnementaux

L’IA est énergivore, tant pour sa création que pour son utilisation, notamment en ce qui concerne la consommation d’énergie et d’eau pour le refroidissement des data centers. La réflexion sur l’impact écologique de l’IA doit être intégrée dans les décisions ministérielles.

Évolution des compétences et impact sur le travail

L’intégration de l’IA modifie les compétences requises et peut entraîner une perte d’autonomie pour les agents. Il est crucial de maintenir une part humaine dans les processus pour préserver la créativité et l’initiative des travailleurs.

Dans une journée, les agents alternent entre taches exigeant une grande concentration, et d’autres plus « routinières ». Si l’IA réalise ces dernières, que deviennent les moments de respiration indispensables au cerveau, l’agent sera soumis à des journées continues de forte concentration avec des risques d’épuisement non négligeables.

Les changements organisationnels et culturels induits par l’IA nécessitent une adaptation continue, un accompagnement des agents et une réflexion sur la part raisonnable d’IA.

Risques sociaux et éthiques

L’explosion des capacités de l’IA, notamment en reconnaissance d’image, repose sur les travailleurs du « clic » à l’étranger dont les conditions sont proches de l’exploitation.

L’évolution rapide de l’IA pourrait transformer ou supprimer certains métiers, y compris dans les tâches cognitives de haut niveau. Il est donc essentiel de réfléchir à l’impact social de l’IA et à la transformation profonde du travail qu’elle induira.

2 – Principes d’une IA responsable

Pour une utilisation éthique de l’IA, six principes doivent être respectés :

1. Équité : éviter les discriminations dans les données.

2. Transparence : assurer la clarté sur les algorithmes et les données utilisées.

3. Fiabilité : tester rigoureusement les systèmes d’IA.

4. Responsabilité : utiliser l’IA de manière responsable.

5. Confidentialité : protéger les données personnelles.

6. Inclusivité : rendre l’IA accessible à tous.

3 – Dialogue Social et Régulation

Il est crucial d’établir des chartes internes pour une IA éthique et responsable.

Vu les enjeux, un comité éthique, associant les organisations syndicales représentatives, est souhaitable pour analyser les orientations et les projets. Un dialogue social continu est nécessaire pour s’assurer que l’IA serve bien les missions, les administrés et les agents du MASAF.

Un registre des projets d’IA doit être mis en place pour évaluer leurs impacts et leur pertinence.

En conclusion, l’intégration de l’IA dans les politiques publiques nécessite une approche réfléchie, tenant compte des enjeux de souveraineté, de confidentialité, de qualité, d’impact environnemental et social, tout en respectant des principes éthiques clairs.

4 – Accompagnement au changement

Le changement de culture et l’évolution permanente et exponentielle des environnements de travail générés par l’IA peuvent être source d’anxiété pour les agents (crainte de perte de son emploi, inquiétude de surveillance ou évaluation automatisée, sentiment de ne pas maîtriser les nouvelles compétences requises, déshumanisation des relations…).

L’accompagnement au changement est central pour une bonne acceptabilité : information et transparence sur les choix et leurs impacts sur les postes et missions, formation et accompagnement pour l’ensemble du collectif.

L’IA ne doit pas reposer sur un ou des responsables « IA » mais intégrer tout le collectif.

L’appropriation ne passera qu’avec l’écoute des utilisateurs pour s’inspirer des utilisations d’IA déjà existantes (20% des travailleurs utilisent déjà l’IA et 68% d’entre eux le cachent) et prendre en compte les retours des utilisateurs pour une amélioration de l’usage de l’IA pour qu’elle serve aux ministères et à ses agents et non qu’ils y soient soumis.

5 – Intérêts de l’IA pour nos métiers au MASAF et chez ses opérateurs

Type de création de valeur par l’IA

• Gain de temps et de productivité.
• Capacité d’appréhension d’un très grand nombre de paramètres (très utile pour nos métiers liés au vivant).
• Nouvelles modalités d’innovation (avec le deep learning notamment).
• Adaptabilité de plus en plus forte.

Précautions :

• Raisonner en termes de création de valeur sociale et durable.
• Veiller à ce que l’IA soit au service des agents et non l’inverse : plus de gain de temps que de pertes !
• La mesure des impacts des systèmes IA sur les compétences exige d’analyser les tâches de travail et non les métiers dans leur globalité.

Pour les services généraux du Ministères

L’IA offre une multitude d’usages possibles, pour lesquels il convient de comparer systématiquement ses avantages au regard des risques exposés plus haut pour nos métiers.

Exemple : l’IA réalise actuellement très bien les accueils téléphoniques et réponses aux demandes mais comment un agriculteur réagira s’il est ainsi conseillé par une IA ?

Ressources humaines :

• Recrutement
• Réponse aux questions RH (exploitation du CGFP, des circulaires, notes, règlements intérieurs…)
• Fiches de postes
• Publication des arrêtés et notifications
• Réponses aux usagers
• Formation des agents

Communication :

• Textes, images, vidéos, campagnes de communication…

Juridique :

• Recherche de textes, jurisprudence sur un dossier
• Pré-rédaction de mémoires…

Social :

• Utilisation de l’IA pour compenser des handicaps
• Traductions IA en langue des signes, aides aux malvoyants…et bien d’autres possibilités

Autres :

• Réponse aux parlementaires
• deep learning et de capacité pour l’IA d’apprendre seule et d’innover.

Pour l’adaptation au changement climatique et transformation écologique :

• Par sa capacité à intégrer et croiser de très grandes quantités de données, l’IA pourrait nous aider à trouver des stratégies et des solutions pour améliorer et accélérer la transformation écologique de l’Etat et l’adaptation de nos métiers au changement climatique

Pour la forêt et le DSF :

• Repérage par télédétection puis interprétation des dépérissement et problèmes sanitaires des arbres
• Capacité accrue de pré détection de problème. Ex : Essai ONF par drone de pré-détection (Epinal) sur les scolytes
• Défrichement : permet de détecter des zones non défrichées
• L’IA devrait pouvoir nous aider à mieux définir les peuplements adaptés au vu des sols, de la topographie, des enjeux, du climat actuel et des prédictions de changements climatiques…

Pour l’agriculture :

• Gestion raisonnée des pesticides et de l’eau
• Analyse du feuillage permet d’adapter l’apport en eau et traitement au strict nécessaire
• Avec le Deep learning, l’IA commence à intégrer aussi des prévisions de climat, d’état d’hygrométrie des sols, de risques de maladies…pour affiner encore les usages
• Adaptation des cultures
• L’IA peut nous aider à définir les types de cultures adaptés au vu des sols et des prédictions de changements climatiques
• Dossier de subvention, contrôles
• Remplissage et contrôle de dossiers de subvention
• Simplification administrative :
• Faciliter la mise en place du « Dites-le nous une fois »
• Formulaire réécrit en langage moins administratif
• Repérage et suppression de redondance ou d’incohérence dans les textes

Pour l’enseignement agricole

• Pour utiliser l’IA en appui pour leurs formations

Pour la Santé publique vétérinaire :

• Voir le document du SNISPV en pièce jointe