Retour aux articles

Le POC d'un agent IA, c'est facile. Une API, un jeu de données propre, une démo qui impressionne le comité de direction. Trois mois plus tard, le projet est mort. Pas parce que le modèle a échoué. Parce que personne n'a construit ce qui vient après.

Gartner a mis un chiffre sur ce phénomène en juillet 2024 : environ 30 % des projets d'IA générative seront abandonnés après la phase de POC d'ici fin 2025. Rita Sallam, VP Distinguished Analyst chez Gartner, l'explique sans détour : les entreprises abandonnent faute de ROI clair, de coûts qui grimpent et de risques mal maîtrisés.

Ce n'est pas une fatalité technique. C'est un problème de méthode.

Le POC n'est pas un projet, c'est une promesse

Un POC d'agent IA répond à une question simple : « est-ce que ça marche ? » Un projet en production répond à une question beaucoup plus dure : « est-ce que ça marche tous les jours, pour tout le monde, sans qu'on ait besoin de surveiller ? »

Entre les deux, il y a un gouffre. Les données réelles sont sales. Les utilisateurs ne suivent pas le script de la démo. Les coûts de tokens explosent quand le volume passe de 50 requêtes par jour à 5 000. Et la conformité arrive avec ses questions que personne n'avait anticipées.

McKinsey, dans son rapport annuel The State of AI, documente ce décalage : l'adoption de l'IA générative progresse, mais la majorité des entreprises n'ont pas encore scalé au-delà des pilotes. L'ambition est là. L'exécution, beaucoup moins.

Pourquoi les POC meurent : trois causes qui reviennent

Les échecs ne sont pas aléatoires. Ils suivent des schémas répétitifs.

• Le POC théâtre. Le projet existe pour rassurer le board, pas pour résoudre un problème. Budget innovation, pas budget run. Personne n'a défini ce qui se passe si ça marche.
• La donnée n'est pas prête. Un agent qui répond mal parce que la master data est incohérente, ce n'est pas un problème d'IA. C'est un problème de gouvernance des données.
• Personne ne mesure rien. Sans KPI définis avant le lancement — taux de résolution, coût par tâche, time-to-resolution —, impossible de savoir si l'agent apporte de la valeur ou coûte de l'argent.

IBM Institute for Business Value documente cet écart entre ambition IA et exécution en production. Le constat est constant : les entreprises qui réussissent ne sont pas celles qui ont les meilleurs modèles. Ce sont celles qui ont cadré le problème avant de coder.

Ce que font les 3 projets sur 10 qui passent à l'échelle

Les entreprises qui franchissent le cap partagent trois caractéristiques. Aucune n'est technologique au sens strict.

Elles intègrent l'agent dans un processus existant, pas à côté. SAP positionne Joule comme un copilote embarqué dans ses processus métier, pas comme un outil isolé. Christian Klein, CEO de SAP, défend cette approche : l'IA embarquée dans l'ERP plutôt que le POC déconnecté. La logique est solide. Un agent qui vit dans le flux de travail est utilisé. Un agent qui vit dans un onglet séparé est oublié.

Elles gouvernent avant de déployer. Le NIST AI Risk Management Framework, publié en janvier 2023, est devenu une référence pour les équipes qui veulent passer en production sans mauvaise surprise. En Europe, l'AI Act (Règlement UE 2024/1689) impose des obligations de documentation, d'évaluation et de gouvernance pour les systèmes à haut risque. La CNIL a publié ses propres recommandations sur la base légale, la minimisation des données et les tests.

Ce n'est pas de la bureaucratie. C'est ce qui permet de dormir la nuit quand l'agent prend une décision qui engage l'entreprise.

Elles mesurent le ROI avec des KPI définis à l'avance. Forrester insiste sur ce point : sans ROI mesurable et gouvernance claire, le passage du POC à la production est un pari. Microsoft, avec Copilot Studio, pousse explicitement le discours du pilote vers la production — gouvernance, sécurité, centre d'excellence. Thomas Kurian, CEO de Google Cloud, insiste sur l'évaluation et le grounding des agents comme conditions de fiabilité.

AgentOps : le métier qui manque à votre organigramme

Un agent en production, ça se surveille. Ça se réévalue. Ça se corrige. C'est ce qu'on appelle l'AgentOps — l'équivalent du DevOps pour les agents IA.

Concrètement : observabilité des décisions, évaluation continue de la qualité des réponses, détection des dérives, gestion des coûts de tokens, supervision humaine sur les cas sensibles. Sans ça, un agent qui fonctionnait bien en janvier peut devenir inutilisable en juin, sans que personne ne s'en aperçoive.

Les tendances sont claires : bascule du POC vers des plateformes d'agents gouvernées, montée des centres d'excellence IA, émergence de rôles comme AI Product Owner. Le marché se consolide. Moins de POC, plus de déploiements ciblés avec des KPI.

Le vrai coût d'un agent en production

Un POC coûte quelques semaines d'ingénierie. Un agent en production coûte :

• Des tokens à l'échelle (le coût par requête n'est pas le coût par requête à 10 000 requêtes par jour).
• De la latence à gérer (un agent lent est un agent abandonné).
• De la supervision humaine sur les cas limites.
• De la conformité (documentation, évaluation, traçabilité).
• De la maintenance continue (les modèles évoluent, les données changent, les besoins aussi).

Ce coût n'est pas un argument contre les agents IA. C'est un argument pour les traiter comme des projets d'infrastructure, pas comme des expérimentations.

Ce qu'il faut retenir avant de lancer votre prochain agent

La question n'est pas « est-ce que la technologie fonctionne ? ». Elle est : « est-ce que je suis prêt à opérer cet agent pendant trois ans ? »

Si la réponse est non, le POC restera un POC. Si la réponse est oui, alors il faut construire dès le départ : les KPI, la gouvernance, l'intégration dans le processus, et l'équipe qui saura le faire tourner.

Les 30 % qui échouent n'ont pas échoué sur la technologie. Ils ont échoué sur tout le reste.

Retour aux articles