Trace install tas - Ollama
Trace install tas - Ollama
Rôle
API locale de modèles LLM.
Accès
- Local : http://10.8.0.1:11434
- Public : https://lololand.hopto.org:25434
Ports
11434 local, 25434 public avec basicauth
Exécution / runtime
Conteneur ollama_roc (image docker.io/ollama/ollama:rocm)
Chemins de configuration
- /etc/caddy/Caddyfile
Volumes / persistance
- Non documenté précisément à ce stade
Dépendances
- Caddy 25434 -> 11434
- basicauth sur les accès publics
- clients comme Open WebUI
Remarques
Point central de l'inférence locale. Le proxy public est protégé par basicauth et une variante localhost/127.0.0.1 TLS internal est aussi configurée.
Maintenance documentaire
Lors d'un changement de modèle, d'image ROCm, de basicauth ou d'URL publique, mettre à jour cette page.
Trace documentaire
Cette page fait partie de Trace install tas.