Échangeons
FREN

Le blogReprendre la main · Épisode 4/5

Publié le

Construire son premier agent IA souverain : le guide de celui qui passe à l'acte

De la feuille blanche à l'agent en production, en sept étapes, avec les briques, les budgets et les pièges.

Série « Reprendre la main », Épisode 4/5 · 1. L'IA souveraine en France · 2. L'AI Act expliqué · 3. RGPD et IA · 5. Passer à l'échelle

Le moment où tout le monde décroche

Il y a un moment précis où les projets IA meurent. Ce n'est pas au comité de direction, là, tout le monde est enthousiaste. Ce n'est pas à la démo, là, tout le monde applaudit. C'est juste après, quand quelqu'un demande : « Bon. Et concrètement, on commence par quoi ? »

Silence.

Les trois premiers épisodes de cette série vous ont donné le où (la souveraineté), le droit (l'AI Act) et le devoir (le RGPD). Celui-ci vous donne le comment. À la fin de cet article, vous saurez exactement quoi installer, dans quel ordre, pour quel budget, et les pièges à éviter.

Une précision de vocabulaire d'abord, parce qu'elle change l'architecture. Un chatbot répond à une question. Un agent, lui, agit : il enchaîne des étapes, appelle des outils (recherche, base de données, API métier), lit vos documents, et boucle jusqu'au résultat. C'est cette boucle, modèle + outils + mémoire, qu'on va construire. En souverain.

L'idée-force : un agent, c'est cinq briques : et la souveraineté se joue sur chacune d'elles

Oubliez la magie. Un agent IA, c'est un assemblage de cinq briques, toujours les mêmes :

  1. Le modèle : le cerveau qui raisonne.
  2. Le moteur d'inférence : le serveur qui fait tourner le cerveau.
  3. La connaissance : vos documents, injectés via le RAG (Retrieval-Augmented Generation : l'agent va chercher les passages pertinents dans votre documentation avant de répondre, au lieu d'inventer).
  4. L'orchestration : la boucle qui enchaîne raisonnement, appels d'outils et actions.
  5. L'interface : ce que voient vos utilisateurs.

Voici le point que cet épisode veut graver : votre agent est aussi souverain que sa brique la moins souveraine. Un modèle français appelé via une infrastructure américaine, ou un RAG qui envoie vos documents internes à une API hors UE pour les vectoriser : la chaîne est rompue. La souveraineté n'est pas une brique, c'est une propriété de l'assemblage.

Bonne nouvelle : en 2026, chaque brique existe en version souveraine, mature, et souvent open source. Allons-y.

Les sept étapes

Étape 1 : Choisir un cas d'usage simple (1 semaine)

La tentation : commencer par le cas le plus impressionnant. L'expérience : commencer par le cas le plus encadrable.

Le bon premier agent coche trois cases : interne (vos collaborateurs, pas vos clients, un humain reste dans la boucle), documenté (il s'appuie sur un corpus que vous possédez : procédures, contrats types, documentation produit), mesurable (on peut compter le temps gagné). Les classiques qui marchent : assistant de support interne sur la base documentaire, pré-rédaction de réponses aux appels d'offres, synthèse de dossiers.

Réflexe des épisodes 2 et 3 : qualifiez le niveau de risque AI Act (un assistant documentaire interne = risque minimal ; un agent qui touche aux RH = haut risque, gardez-le pour plus tard) et vérifiez si des données personnelles entrent dans le corpus (si oui : base légale, information, et probablement AIPD).

Étape 2 : Préparer le corpus (1-2 semaines)

C'est l'étape que tout le monde bâcle et qui détermine 80 % de la qualité finale. Rassemblez les documents, supprimez les versions obsolètes (un agent qui cite la procédure de 2019 détruit la confiance en une démo), purgez les données personnelles inutiles (minimisation, épisode 3), et structurez : des documents propres, datés, titrés.

Règle d'or : garbage in, garbage out, mais avec un agent, c'est garbage in, garbage out confiant et bien formulé. C'est pire.

Étape 3 : Choisir le modèle (1 jour)

Pour un premier agent, inutile de viser le plus gros. La grille simple :

  • Mistral Small 4 (119B, MoE, 6,5B actifs, Apache 2.0) : le choix par défaut si vous disposez d’un GPU haut de gamme : multimodal, 256k de contexte, rapide grâce au MoE (mixture of experts : seule une fraction des paramètres s'active à chaque token) malgré sa taille. Pour un premier agent plus léger (un GPU grand public, de l’edge), un Ministral 3 (14B) fait très bien l’affaire. Suffisant pour 90 % des agents documentaires.
  • Mistral Medium 3.5 (~128B) : quand l'agent doit enchaîner des raisonnements complexes et des appels d'outils nombreux : il est spécifiquement conçu pour les architectures agentiques (sorties structurées, robustesse sur instructions longues).
  • Ministral 3 (8B/14B) : pour les sous-tâches (classification, routage, extraction) en appui du modèle principal.

La licence Apache 2.0 vous garantit le droit d'auto-héberger, modifier et exploiter commercialement, sans clause piège.

Étape 4 : Choisir l'infrastructure (1 semaine)

Reprenez la logique de l'épisode 1, appliquée à votre agent :

  • Départ rapide, données peu sensibles → API souveraine (Mistral, ou Scaleway Managed Inference / OVHcloud AI Endpoints, qui servent les modèles open source depuis des GPU en France, à ~0,09-0,15 €/M tokens en entrée). Zéro infra à gérer, souveraineté juridique assurée.
  • Données sensibles ou volumes élevés → GPU loué en France (Scaleway H100 ~2-3 €/h, OVHcloud) avec le modèle servi par vLLM, le moteur de production : grâce à son batching continu, il sert bien plus de requêtes en parallèle sur un même GPU, là où Ollama n'en traite qu'un nombre limité à la fois par défaut avant de mettre les suivantes en file d'attente.
  • Exigence SecNumCloud (santé, secteur public, défense) → Outscale ou l'offre qualifiée d'OVHcloud.

Et pour le prototypage sur votre machine : Ollama, une commande et ça tourne. C'est le bac à sable idéal avant d'engager le moindre euro de cloud.

Astuce d'architecture qui vaut de l'or : toutes ces options exposent une API compatible OpenAI. Codez votre agent contre ce standard, et vous pourrez changer de brique d'inférence, locale, cloud souverain, API, en modifiant une ligne (base_url). C'est votre assurance anti-dépendance.

Étape 5 : Monter le RAG et l'orchestration (2-3 semaines)

Le cœur du réacteur. La stack souveraine type :

  • Vectorisation et recherche : un modèle d'embeddings open source + une base vectorielle auto-hébergée (Qdrant, pgvector sur votre PostgreSQL...). Point de vigilance absolu : l'embedding aussi doit tourner chez vous : c'est lui qui lit l'intégralité de vos documents.
  • Orchestration : un framework qui gère la boucle agentique : LangChain, CrewAI ou équivalent. Commencez simple : un agent, deux ou trois outils (recherche documentaire, éventuellement une requête vers un système métier en lecture seule).
  • Interface : Open WebUI auto-hébergé fait un excellent front de départ : authentification, historique, branchement direct sur votre endpoint.

Résistez à la tentation du méga-agent qui fait tout. Un agent, un périmètre, des outils en lecture seule pour commencer. Vous élargirez ses droits quand il aura prouvé sa fiabilité.

Étape 6 : Poser les garde-fous (1 semaine, en parallèle)

C'est ici que les épisodes 2 et 3 redeviennent du concret :

  • Journalisation : loggez chaque requête, chaque réponse, chaque appel d'outil. C'est une exigence de traçabilité (AI Act) et votre meilleur outil de débogage.
  • Transparence : l'interface dit clairement que c'est une IA, et l'agent cite ses sources (le RAG le permet nativement : exigez-le dans le prompt système).
  • Supervision humaine : pour tout ce qui sort du périmètre interne, l'agent propose, l'humain dispose.
  • Filtres : bloquez en amont l'envoi de données sensibles vers l'agent si le corpus ne doit pas en contenir.
  • Le prompt système : écrivez-y noir sur blanc le périmètre, le ton, l'obligation de citer, et la consigne de dire « je ne sais pas » hors corpus. C'est votre première ligne de défense contre les hallucinations.

Étape 7 : Mesurer, puis seulement élargir (en continu)

Avant l'ouverture : constituez un jeu de test de 30 à 50 questions réelles avec leurs bonnes réponses, et évaluez. Après l'ouverture : suivez trois métriques, taux de réponses correctes (échantillonné à la main), taux d'usage réel, temps gagné déclaré.

Le critère de succès d'un premier agent n'est pas « il est bluffant ». C'est : « les collègues reviennent le lendemain. »

Le budget, sans langue de bois

Pour fixer les ordres de grandeur d'un premier agent interne (à ajuster selon vos volumes) :

  • Voie API souveraine : quelques dizaines à quelques centaines d'euros par mois selon l'usage : le coût est dominé par le temps humain de mise en place (comptez 15 à 30 jours-homme sur l'ensemble des sept étapes).
  • Voie GPU dédié : un GPU H100 à la demande ~2-3 €/h, soit ~400-600 €/mois pour un usage en heures ouvrées, ou 1 500-2 000 €/mois en 24/7 : rentable au-delà de quelques centaines de milliers de requêtes par mois (le point de bascule chiffré de l'épisode 1, affiné dans l'épisode 5).
  • Le poste invisible : la préparation du corpus et l'évaluation. C'est là que part le vrai budget, et c'est le mieux investi.

Les quatre pièges du premier agent

1. Le périmètre gourmand. « Tant qu'à faire, branchons-le aussi sur le CRM, les emails et l'ERP. » Non. Chaque outil ajouté multiplie les risques et les obligations. Un périmètre étroit qui marche vaut dix ambitions qui déçoivent.

2. La démo confondue avec la prod. Ollama sur le laptop du stagiaire n'est pas une architecture. Le passage à vLLM, à l'authentification, aux logs et à la sauvegarde, c'est 60 % du travail, planifiez-le dès le départ.

3. La brique non souveraine cachée. L'embedding via une API américaine, la télémétrie d'un framework qui « téléphone maison », l'interface SaaS hors UE. Auditez la chaîne complète : chaque octet de vos documents doit avoir un itinéraire connu.

4. L'agent orphelin. Pas de propriétaire désigné, pas de budget de maintenance, pas de mise à jour du corpus. Un agent est un produit, pas un projet : il vit, ou il meurt en trois mois.

Le mot de la fin

Quatre épisodes pour poser les fondations, une seule idée : reprendre la main. Savoir où tournent vos IA (épisode 1), à quelles conditions vous avez le droit de les utiliser (épisode 2), ce que vous devez aux personnes dont elles traitent les données (épisode 3), et maintenant, être capable d'en construire une, brique par brique, sans dépendre de personne.

Remarquez ce qui s'est passé en chemin : la souveraineté, la conformité et la qualité technique, qu'on présente toujours comme trois contraintes concurrentes, se sont révélées être le même geste. Un corpus propre est à la fois conforme au RGPD et meilleur pour le RAG. Des logs complets servent l'AI Act et le débogage. Une architecture compatible OpenAI est à la fois souveraine et réversible.

Bien construire, c'est déjà être en règle. Être en règle, c'est déjà être souverain.

Alors, ce premier agent : cas d'usage interne, corpus propre, Mistral Small, API souveraine pour commencer, sept étapes, un trimestre. Vous avez la carte.

Il ne reste qu'à marcher.

Et quand votre agent aura réussi, le jour où trois services voudront le leur et où quelqu'un demandera, innocemment, s'il peut lire des dossiers clients, l'épisode 5 vous attend : passer à l'échelle.

📖 Dans la même série, Épisode 1 : l'IA souveraine en France (état des lieux, feuille de route, self-hosting vs API) · Épisode 2 : l'AI Act expliqué (pyramide des risques, obligations, pièges) · Épisode 3 : RGPD et IA (bases légales, AIPD, droits des personnes) · Épisode 5 : passer à l'échelle (utilisateurs, modèles, machines et euros).

Sources principales : documentation Mistral AI, offres Scaleway Managed Inference / OVHcloud AI Endpoints, benchmarks d'inférence vLLM/Ollama 2026, recommandations CNIL, règlement UE 2024/1689. Les prix sont des ordres de grandeur mi-2026 : vérifiez les grilles tarifaires à jour avant tout engagement.

← Retour au blog