Quand je pose une question à Claude, je perds souvent du temps à rédiger le prompt. Et quand je colle un document entier, je paie des tokens pour des pages qui ne servent à rien.
J’ai donc construit un outil auto-hébergé, Prompteur Claude. Je lui donne une idée brute et mes documents. Une IA locale, sur mon serveur, rédige un prompt court, toujours rangé en quatre parties : Contexte, Tâche, Contraintes, Format. Je n’ai plus qu’à le coller dans Claude.
Sa dernière version fait aussi autre chose : elle fabrique des IA spécialisées à partir de mes documents. Voici comment il est construit, ce qui a cassé en route, et ce qu’il me reste à mesurer.
Le matériel
Tout tourne sur mon serveur maison :
| Pièce | Rôle |
|---|---|
| Xeon E5-2670 v3, 32 Go de RAM ECC | serveur Ubuntu, services en Docker |
| GTX 1060 6 Go | l’IA locale (Ollama) |
| SSD Kingston de 60 Go | applications et base de données de l’outil |
| disque 2,5" de 1 To | modèles d’IA (voir l’article sur leur déménagement) |
La contrainte qui décide de tout, c’est la carte graphique : 6 Go de mémoire vidéo. Le modèle doit y tenir entièrement, sinon il déborde sur le processeur et devient très lent.
L’IA qui rédige les prompts
Le cœur de l’outil est un modèle Ollama personnalisé, construit sur qwen3:4b-instruct. Je l’ai choisi parce qu’il tient entièrement dans les 6 Go, qu’il est bon en français, et qu’il répond directement, sans phase de réflexion.
Sa consigne (le « Modelfile ») tient en quelques règles :
- il ne répond jamais à la question lui-même : il écrit le prompt que je collerai dans Claude ;
- il n’ajoute aucun fait, aucune supposition technique ;
- il n’utilise que les sections utiles parmi Contexte, Tâche, Contraintes et Format ;
- s’il manque une information, il termine par « Si une information manque, pose-moi d’abord une question ».
Deux exemples complets (une idée brute, puis le prompt attendu) lui montrent le ton. Les réglages :
| Réglage | Valeur | Pourquoi |
|---|---|---|
num_ctx |
8 192 tokens | mémoire de travail du modèle |
num_predict |
400 tokens | un prompt doit rester court |
temperature |
0,3 | peu de fantaisie |
Un des deux exemples de la consigne montre bien le résultat attendu. L’idée brute :
aide moi a ecrire un mail a mon proprio pour la fuite d'eau ca fait 3 semaines
Le prompt attendu :
## Contexte
Locataire en France. Fuite d'eau signalée au propriétaire il y a 3 semaines, sans réaction.
## Tâche
Rédige un email de relance pour obtenir une intervention rapide.
## Contraintes
- Ton ferme mais courtois
- Mentionner le premier signalement et les risques de dégâts
- Moins de 150 mots
## Format
Objet + corps de l'email.
Les documents : ne garder que l’utile
Je dépose un fichier (PDF, Word, PowerPoint, Excel, page web, vidéo YouTube…). L’outil le convertit en Markdown, puis le découpe en sections. Je décoche celles qui ne servent pas, et un compteur affiche les tokens restants.
Sur les 8 192 tokens de mémoire du modèle, j’en garde 1 200 pour l’idée, le contexte et la consigne. Il reste 6 992 tokens pour les documents, et le serveur refuse d’envoyer plus.
Le compteur de tokens mentait
Au départ, j’estimais les tokens avec la règle classique : 4 caractères = 1 token. Puis Ollama a refusé un de mes documents. L’outil l’estimait à 5 795 tokens, et qwen3 en comptait en réalité 9 935. Sur du français, la règle des 4 caractères sous-estime de beaucoup.
Je suis passé à 2,5 caractères par token, arrondi au-dessus. Ce document est maintenant estimé à 9 272 tokens, au-dessus du budget de 6 992 : il est bloqué avant d’être envoyé à Ollama.
La nouvelle règle reste un peu optimiste : 9 272 estimés pour 9 935 réels, soit environ 7 % de moins. Un document juste sous la limite peut donc encore être refusé par Ollama. C’est pour ça que j’ai ajouté une deuxième sécurité : quand Ollama refuse, la page affiche sa raison, au lieu d’un vague « Prompteur injoignable ». Si le texte est trop long, elle dit combien de tokens réels pour combien de disponibles, et la part des sections à retirer.
La nouveauté : « Mes IA »
La version 0.9.0, codée ce soir avec l’aide de Claude, ajoute une page Mes IA. Une IA, c’est :
- un modèle Ollama de base (
qwen3:4b-instruct,gemma3:4b…) ; - un rôle en quatre parties, toujours Contexte, Tâche, Contraintes, Format. Je peux décrire l’IA en une phrase, et le Prompteur remplit lui-même les quatre parties ;
- des documents de ma bibliothèque.
« Entraîner » sans toucher au modèle
Je voulais au départ « entraîner » des IA sur mes documents. Sur une GTX 1060, un vrai entraînement (modifier les poids du modèle) n’est possible que sur de petits modèles, prendrait des heures, et bloquerait la carte graphique pendant ce temps.
J’ai donc commencé par une méthode beaucoup plus légère, appelée RAG :
- chaque document est découpé en extraits d’environ 1 200 caractères ;
- chaque extrait est transformé en vecteur par un petit modèle spécialisé,
bge-m3(1,2 Go, multilingue) ; - à chaque question, les 4 extraits les plus proches sont ajoutés au message ;
- l’IA répond en citant ses sources, [1], [2]…, et la page affiche les extraits utilisés.
Si le modèle de vecteurs est absent, une recherche par mots prend le relais : moins précise, mais ça marche quand même.
Une IA peut aussi être publiée comme vrai modèle Ollama, avec son rôle intégré mais sans ses documents. Elle devient alors un modèle comme les autres, utilisable en dehors de l’outil.
Un tchat qui ressemble à Claude
La page de discussion a été refaite : conversations enregistrées à gauche, choix du modèle en haut (mes IA, les modèles Ollama, ou Claude avec ma clé API), zone de saisie en bas. On y trouve aussi :
- 📎 pour joindre des documents à une conversation ;
- ✨ Structurer, qui passe mon message dans le Prompteur avant l’envoi ;
- Arrêter, Régénérer, Copier, et le coût de chaque message quand c’est Claude qui répond.
Ce qui a cassé en route
Les fichiers envoyés à moitié. J’ai mis à jour le dépôt GitHub depuis le site web, fichier par fichier. Un jour, j’ai envoyé les nouveaux tests… mais pas le fichier de code qu’ils vérifiaient. Résultat : 14 tests en échec sur la version publiée, et je ne m’en suis aperçu qu’au moment d’ajouter la 0.9.0. Il a fallu réécrire ce code à partir des tests eux-mêmes.
Deux fonctions avec le même numéro. Mes « prompts idéaux » s’annonçaient comme la version 0.8.0 dans la documentation, alors que le code affichait encore 0.7.0. Mes IA est donc devenue la 0.9.0, pour ne pas mélanger les deux.
Un tchat qui perd le fil. L’ancien tchat gardait la conversation dans le navigateur : on fermait l’onglet, tout disparaissait. Les conversations sont maintenant enregistrées sur le serveur, par compte.
La sécurité, sans en faire trop
- Tout demande un compte et un mot de passe. Les mots de passe sont hachés avec
scrypt. - Le tableau de bord (santé des services, carte graphique, comptes) tourne dans un conteneur séparé, sur sa propre adresse. Le site principal ne le connaît même pas : ses routes y répondent « introuvable », même pour un administrateur.
- La clé API Claude de chaque compte est chiffrée dans la base et jamais réaffichée. Un plafond mensuel bloque l’envoi une fois atteint.
- L’outil n’est pas exposé sur Internet : on y accède par un VPN.
Les tests
L’outil compte 271 tests automatiques. Ils ne touchent ni à Ollama, ni à l’API Claude, ni à la carte graphique : des imitations les remplacent, et chaque test reçoit une base de données neuve. Ils tournent sur mon PC et sur GitHub Actions à chaque envoi.
Ce sont eux qui ont révélé les fichiers envoyés à moitié. Sans eux, j’aurais déployé une version cassée.
Ce que je n’ai pas encore mesuré
Je préfère le dire clairement, cet article ne donne pas encore :
- le gain en tokens d’un prompt rédigé par rapport au document brut, sur plusieurs exemples réels ;
- le temps de rédaction d’un prompt par qwen3 sur la GTX 1060 ;
- la qualité des réponses de Mes IA, avec et sans leurs documents.
Ce sera l’objet d’un prochain article, avec de vraies mesures.
La suite
- Affiner de petits modèles sur mes documents et mes « prompts idéaux » (un vrai entraînement, LoRA), dans un conteneur séparé, la nuit, quand la carte graphique ne sert à rien d’autre.
- Lire les images et les PDF scannés (OCR).
- Les anciens formats bureautiques : DOC, PPT, ODT, RTF.
Le code
Prompteur Claude est libre et gratuit, sous licence AGPL-3.0 : vous pouvez l’utiliser, le modifier et le partager, à condition de publier vos modifications sous la même licence.
C’est un projet indépendant, sans lien avec Anthropic.