Dans l’article précédent, Ollama faisait partie des gros écrivains de mon serveur : 28,5 Go écrits en 3 à 4 jours, à cause des téléchargements de modèles. Ces modèles vivaient sur mon SSD des applications, un Kingston de 60 Go.

Ce soir, j’ai voulu ajouter des fonctions d’IA à un de mes outils. Avant d’installer quoi que ce soit, j’ai regardé la place :

Filesystem      Size  Used Avail Use% Mounted on
/dev/sda1        55G   37G   16G  70% /chemin/vers/ssd

16 Go libres, et les modèles Ollama en prenaient à eux seuls 31. Il était temps de les sortir de là.

Quel disque choisir ?

Sur le papier, j’avais deux disques 2,5" de 1 To. En pratique, un seul était utilisable :

Disque État Verdict
sde sain déjà utilisé par Docker, mais 830 Go libres
sdf 1 408 secteurs réalloués, 32 en attente à ne pas utiliser

Le disque « libre » était libre pour une bonne raison : il est en train de mourir. J’en parlais déjà dans l’article précédent. Avec des secteurs en attente, il peut perdre des fichiers à tout moment. Les modèles sont donc partis sur sde, le disque sain, même s’il n’était pas vide.

Ce qu’on perd avec un disque dur

Un modèle d’IA n’est lu sur le disque qu’au moment de son chargement. Ensuite, il tourne dans la mémoire de la carte graphique, et la vitesse des réponses ne dépend plus du disque.

Le seul coût attendu : un premier chargement plus lent. C’est un compromis qui me va très bien, et le SSD y gagne deux fois : de la place, et plus aucune écriture lors des téléchargements de modèles.

La méthode

Tout se fait dans un terminal SSH sur le serveur. L’idée : trouver où sont les modèles, arrêter Ollama, copier, vérifier, changer le chemin dans le compose, redémarrer.

1. Trouver les bons chemins

Plutôt que de deviner, je demande à Docker :

SRC=$(docker inspect MON-CONTENEUR-OLLAMA --format '{{range .Mounts}}{{if eq .Destination "/root/.ollama"}}{{.Source}}{{end}}{{end}}')
DIR=$(docker inspect MON-CONTENEUR-OLLAMA --format '{{index .Config.Labels "com.docker.compose.project.working_dir"}}')
SVC=$(docker inspect MON-CONTENEUR-OLLAMA --format '{{index .Config.Labels "com.docker.compose.service"}}')
echo "modèles : $SRC | compose : $DIR | service : $SVC"

SRC est le dossier des modèles sur le serveur, DIR le dossier du compose, SVC le nom du service.

Attention à une variable vide. Si la session SSH se coupe, les variables disparaissent. Un rsync "$SRC/" … avec SRC vide devient rsync "/" … : la copie de tout le disque système. J’ai donc protégé chaque commande importante avec [ -n "$SRC" ] &&.

2. Vérifier la place

sudo du -sh "$SRC"; df -h /chemin/vers/disque-dur
31G     /chemin/vers/ssd/ollama
/dev/sde1       916G   78G  830G   9% /chemin/vers/disque-dur

3. Arrêter Ollama et copier

[ -n "$SRC" ] && [ -n "$DIR" ] && cd "$DIR" && docker compose stop "$SVC"
[ -n "$SRC" ] && sudo mkdir -p /chemin/vers/disque-dur/ollama && sudo rsync -aH --info=progress2 "$SRC/" /chemin/vers/disque-dur/ollama/
33.284.629.178  99%  157,81MB/s    0:03:21 (xfr#49, to-chk=0/74)

3 min 21 s pour 33,3 Go, à 157,81 Mo/s selon rsync. J’avais compté 5 à 10 minutes : le disque 2,5" a fait mieux que prévu.

Les deux chiffres, 31 Go et 33,3 Go, ne se contredisent pas : du -h compte en Gio (1 Gio = 1,074 Go), rsync en octets.

4. Vérifier la copie

sudo rsync -aHn --delete --itemize-changes "$SRC/" /chemin/vers/disque-dur/ollama/ | head

-n simule sans rien copier. Si la commande n’affiche rien, les deux dossiers sont identiques. Chez moi : rien. Copie bonne.

Le piège : un compose qui ne voulait plus démarrer

Il restait à changer le chemin du volume dans le compose. Premier raté : cp docker-compose.yml … répond « No such file or directory ». Mon fichier s’appelle compose.yaml. Encore une fois, Docker connaît la réponse :

docker inspect MON-CONTENEUR-OLLAMA --format '{{index .Config.Labels "com.docker.compose.project.config_files"}}'

Une sauvegarde (cp compose.yaml compose.yaml.bak), un sed sur la ligne du volume, et je relance le service :

failed to parse compose.yaml: yaml: construct errors: line 1: line 8: mapping key "ports" already defined at line 4

Mon sed n’avait touché qu’une ligne, la 14. L’erreur parlait des lignes 4 et 8. En affichant le début du fichier :

services:
  ollama:
    image: ollama/ollama:latest
    ports:
      - 127.0.0.1:PORT:PORT
    environment:
      - OLLAMA_CONTEXT_LENGTH=32768
    ports:
      - 127.0.0.1:PORT:PORT
    environment:
      - OLLAMA_CONTEXT_LENGTH=32768

Le bloc ports + environment était écrit deux fois. C’est le reste d’une ancienne modification, et je ne sais plus laquelle. Tant que je ne recréais pas le conteneur, personne ne relisait le fichier, et le doublon dormait tranquillement.

En attendant la correction, docker start relance l’ancien conteneur sans relire le fichier, donc avec l’ancien chemin sur le SSD. Le serveur a refonctionné pendant que je réparais.

La correction tient en une ligne, plus une vérification :

sed -i '8,11d' compose.yaml && docker compose -f compose.yaml config -q && echo "FICHIER OK"

docker compose config -q valide le fichier sans rien lancer. Je le mettrai désormais avant chaque up.

Le résultat

docker compose up -d "$SVC"
docker inspect MON-CONTENEUR-OLLAMA --format '{{range .Mounts}}{{.Source}}{{end}}'

Le conteneur lit maintenant /chemin/vers/disque-dur/ollama, et ollama list retrouve mes 7 modèles :

Modèle Taille
qwen3:30b-a3b 18 Go
qwen3:8b 5,2 Go
gemma3:4b 3,4 Go
qwen3:4b-instruct 2,5 Go
qwen3:4b 2,5 Go
modèle personnalisé (base qwen3:4b-instruct) 2,5 Go
bge-m3 (vecteurs) 1,2 Go

Premier chargement depuis le disque dur, réponse comprise :

time docker exec MON-CONTENEUR-OLLAMA ollama run qwen3:4b-instruct "Réponds juste OK"
OK

real    0m27,028s

27 secondes. Ce chiffre mélange la lecture du modèle sur le disque, son envoi dans la carte graphique et la réponse. Je n’ai pas mesuré séparément la part de chacun.

Je n’ai pas mesuré ce même chargement depuis le SSD avant le déplacement. Je ne peux donc pas dire honnêtement combien de secondes j’ai perdues. Si vous faites la même opération, mesurez avant.

Et le SSD :

Utilisé Libre Occupation
Avant 37 Go 16 Go 70 %
Après 5,3 Go 47 Go 11 %

L’erreur que j’ai faite quand même

Mon plan prévoyait de renommer l’ancien dossier, de garder quelques jours de quoi revenir en arrière, puis de l’effacer. J’ai enchaîné les deux commandes dans la foulée :

sudo mv "$SRC" "$SRC.ancien" && df -h /chemin/vers/ssd
sudo rm -rf "$SRC.ancien" && df -h /chemin/vers/ssd

Ça s’est bien passé, parce que la copie avait été vérifiée avec rsync -n. Mais je n’ai plus de retour arrière. Sur des données qu’on ne peut pas retélécharger, je ne l’aurais pas fait.

Ce que j’en retiens

  1. Demander les chemins à Docker (docker inspect) plutôt que de les deviner : dossier des données, dossier du compose, nom du fichier.
  2. Protéger les commandes contre une variable vide, surtout avant un rsync ou un rm.
  3. Vérifier une copie avec rsync -n : rien affiché, rien de différent.
  4. Valider un compose avec docker compose config -q avant de recréer un conteneur. Un fichier peut être cassé depuis des semaines sans que rien ne le montre.
  5. Mesurer avant de changer. Il me manque le temps de chargement depuis le SSD, et je ne pourrai plus le mesurer.