Gouvernance & conformité
AI Act : depuis août 2026, la transparence n’est plus un sujet pour plus tard.
Les nouvelles obligations de transparence sont applicables et doivent être traduites en règles simples dans les usages réels.
Gouvernance & conformité
Dans six mois, saurez-vous expliquer pourquoi l’IA a pris cette direction ?
À mesure que l’IA participe aux décisions et au code, la capacité à reconstruire le contexte devient une exigence opérationnelle.
Aujourd’hui, une décision paraît évidente.
Dans six mois, personne ne se souvient exactement pourquoi elle a été prise.
Ça existait bien avant l’IA.
Mais les agents ajoutent une nouvelle couche.
Ils cherchent.
Ils proposent.
Ils rédigent.
Ils modifient.
Ils peuvent même prendre une partie des décisions intermédiaires.
Et parfois, le raisonnement disparaît avec la session.
Le temps efface très vite le contexte
Dans son étude publiée le 3 septembre 2026, Atlassian indique que seuls 15 % des ingénieurs et 25 % des dirigeants interrogés se disent très confiants dans leur capacité à reconstruire six mois plus tard le raisonnement derrière une décision assistée par IA.
Je trouve ce chiffre très parlant.
Le problème ne se voit pas le jour où tout fonctionne.
Il arrive le jour où il faut comprendre.
Pourquoi cette règle ?
Pourquoi ce choix ?
Pourquoi cette exception ?
Quelle source ?
Quel humain a validé ?
La boîte noire coûte cher au mauvais moment
Imaginez un outil qui classe automatiquement les demandes.
Pendant six mois, ça marche.
Puis une série de dossiers est mal orientée.
Vous voulez enquêter.
Le système vous dit seulement :
« décision prise par l’agent ».
Pas suffisant.
Il faut savoir ce qu’il a vu.
Quelle version des instructions.
Quel modèle.
Quelle règle.
Quelle donnée.
Quelle sortie.
Quelle validation éventuelle.
L’OWASP Agent Control Standard pousse justement vers cette inspectabilité et cette traçabilité.
Une course sans télémétrie devient une histoire de souvenirs
Après un problème mécanique, une équipe ne demande pas uniquement au pilote :
« tu as senti quoi ? »
Elle regarde les données.
Les événements.
Les températures.
Les commandes.
La chronologie.
Le ressenti compte.
La trace permet de vérifier.
Pour un agent, il faut construire la même capacité.
Tout logger n’est pas la solution
Attention toutefois.
Enregistrer des millions de lignes inutilisables ne crée pas de traçabilité.
Ça crée un entrepôt.
Il faut savoir ce qu’on veut pouvoir reconstruire.
Je garderais au minimum :
l’objectif de la tâche ;
les références ou données strictement nécessaires pour reconstruire la décision ;
les outils appelés ;
les actions exécutées ;
les validations humaines ;
les erreurs ou exceptions ;
la version des instructions ;
le résultat final.
Selon le risque, on ajoute davantage.
Mais un journal d’audit peut lui-même devenir un traitement sensible. Il peut contenir des noms, des contenus de messages, des données clients ou même des secrets techniques. Il faut donc éviter de logger le contenu brut lorsque des identifiants, références ou empreintes suffisent, protéger l’accès aux journaux et définir leur durée de conservation. La traçabilité ne doit pas devenir une surveillance permanente par accident.
La décision importante mérite une fiche
Pour certaines actions, un simple log technique ne suffit pas.
Je préfère un petit enregistrement lisible.
Décision : accepter telle modification.
Contexte : demande client X.
Proposition IA : option B.
Sources : documents Y et Z.
Validation : personne A.
Date : 9 septembre.
Six mois plus tard, n’importe qui comprend.
La traçabilité protège aussi les bons outils
Quand une erreur arrive, un système opaque est vite accusé dans son ensemble.
« L’IA a fait n’importe quoi. »
Avec une trace, on peut découvrir autre chose.
Mauvaise donnée.
Instruction ambiguë.
Permission trop large.
Validation absente.
Cas jamais prévu.
On peut corriger le vrai problème.
Choisir le niveau selon le risque
Je ne vais pas construire un dossier d’audit de dix pages pour un agent qui renomme des fichiers.
En revanche, si l’agent touche à une dépense, un contrat, un client ou une décision importante, je veux davantage de traces.
La discipline doit être proportionnée.
Comme en course.
On ne met pas cinquante capteurs sur un vélo pour aller chercher le pain.
Sur un prototype qui roule toute la nuit, on veut savoir ce qui se passe.
Le futur du travail agentique aura besoin d’une mémoire des décisions
Les agents vont probablement faire de plus en plus.
La vraie confiance ne viendra pas uniquement du fait qu’ils se trompent rarement.
Elle viendra aussi du fait qu’on peut comprendre ce qu’ils ont fait quand quelque chose devient étrange.
La vitesse donne de la performance.
La trace donne la possibilité de rester maître de la course.
Sources vérifiées
À lire aussi
Gouvernance & conformité
Former à l’IA ne veut plus dire faire une démonstration de ChatGPT pendant deux heures.
L’AI Act maintient une obligation de développer la maîtrise de l’IA, mais la formation utile doit être proportionnée aux rôles et aux risques.
Agents IA
Un agent isolé dans un onglet travaille vite. Une équipe, elle, travaille ailleurs.
L’IA devient plus utile quand elle partage le contexte des outils, conversations et décisions du travail réel.