Ouvrir l’IA aux métiers sans perdre la main.

Trois usages concrets

1. 01Recenser les usages d’IA et réduire l’IA fantôme

   Niveau AI Act · Risque minimal

   1. 01Détecter les usagesJournaux, licences, déclarations
   ↓→
   2. 02Classer par risqueDonnées, finalité, fournisseur
   ↓→
   3. ContrôleValidation par le comité IA
   ↓→
   4. 03Décider du statutAutoriser, remplacer ou interdire
   ↓→
   5. 04Publier le catalogueAvec l’alternative validée

   Le problème

   Des collaborateurs collent des contrats ou des fichiers clients dans des outils grand public, faute d’alternative validée. La DSI découvre ces usages par hasard, souvent après coup.

   Ce que fait l’IA

   L’IA aide à recenser les usages à partir des journaux du proxy, des achats de licences et des déclarations des équipes, et propose un classement par niveau de risque dans un catalogue. Elle ne bloque rien et ne sanctionne personne : la DSI et les métiers décident ce qui est autorisé, remplacé ou interdit.

   Données nécessaires

   Les journaux du proxy ou du courtier d’accès au cloud, les achats de licences et un questionnaire aux équipes.

   Qui valide

   Le comité IA, avec la DSI, le DPO et les métiers, valide chaque entrée du catalogue et l’alternative proposée.

   Risque minimal (UE · AI Act) ; mais si l’analyse vise les personnes plutôt que les outils, elle devient un contrôle de l’activité des salariés, à présenter avant au CSE et aux salariés (France · Code du travail).

   • LLM
   • Hébergement IA
   • Garde-fous

2. 02Limiter les droits des agents d’IA

   Niveau AI Act · Risque minimal

   1. 01Créer une identitéUn compte dédié par agent
   ↓→
   2. 02Limiter les droitsLecture par défaut, écriture justifiée
   ↓→
   3. 03Lister les outilsServeurs MCP et API autorisés
   ↓→
   4. ContrôleValidation par un humain habilité
   ↓→
   5. 04Valider l’irréversibleEnvoi, paiement, suppression

   Le problème

   Un agent connecté à la messagerie, au CRM ou à l’ERP agit avec les droits qu’on lui donne, souvent ceux d’un administrateur pour aller vite. Une consigne malveillante cachée dans un document peut alors le retourner contre vous.

   Ce que fait l’IA

   Chaque agent reçoit une identité propre, des droits limités à sa tâche, une liste d’outils autorisés et une validation humaine avant toute action irréversible. Ces garde-fous sont appliqués par l’infrastructure, pas par la consigne : l’agent n’exécute rien d’irréversible seul.

   Données nécessaires

   Le référentiel des identités, la matrice des droits par application et la liste des outils exposés aux agents.

   Qui valide

   Le propriétaire métier de l’agent approuve ses droits ; un humain valide chaque envoi, paiement ou suppression.

   Le niveau dépend de l’usage, pas de la technique : le même agent, chargé de trier des candidatures ou d’évaluer la solvabilité de particuliers, serait à haut risque (UE · AI Act, annexe III).

   • Agent d’IA
   • MCP
   • Garde-fous
   • Contrôle humain

3. 03Journaliser chaque action d’IA pour pouvoir la prouver

   Niveau AI Act · Risque minimal

   1. 01Tracer chaque appelRequête, outil, réponse, version
   ↓→
   2. 02Relier à l’identitéAgent, utilisateur, propriétaire métier
   ↓→
   3. 03Conserver et protégerDurée écrite, accès restreints
   ↓→
   4. ContrôleValidation par le RSSI
   ↓→
   5. 04Analyser un incidentRecherche assistée, conclusion humaine

   Le problème

   Après un incident ou une réclamation, personne ne sait dire quel agent a fait quoi, avec quelle version du modèle et sur quelles données. Les journaux existent parfois, mais chez le fournisseur et pour une durée qu’il fixe seul.

   Ce que fait l’IA

   Chaque requête, chaque outil appelé et chaque validation humaine sont enregistrés dans un journal que vous contrôlez, relié à l’identité de l’agent et à la version du modèle. L’IA aide ensuite à rechercher et résumer ces traces ; elle ne les modifie pas, ne les supprime pas et ne conclut pas l’analyse.

   Données nécessaires

   Les journaux de la passerelle d’IA, des agents et des applications, avec une politique de conservation écrite.

   Qui valide

   Le RSSI fixe la conservation et les accès ; l’analyse d’un incident est conduite et signée par un humain.

   Journaliser n’est pas un usage à risque mais une preuve : pour un système à haut risque, le déployeur devra conserver ses journaux au moins six mois (UE · AI Act, art. 26), et ces journaux, riches en données personnelles, doivent être sécurisés (UE · RGPD, art. 32).

   • Journalisation
   • Évaluation
   • Hébergement IA