707 B
707 B
Eldir
Docker Compose проект для LLM-инференса и мониторинга.
Сервисы
| Сервис | Описание | Порт |
|---|---|---|
llama-server |
LLM inference (CUDA) | 8080 |
python+tcl |
GUI приложение (Tkinter/Tcl) | — |
node_exporter |
Метрики для Prometheus | 9100 |
Запуск
docker compose up -d
Остановка
docker compose down
Стек
- llama-server — CUDA, GPU
- python+tcl — X11 forwarding
- node_exporter — Prometheus metrics
- Образы → Gitea Container Registry
- CI/CD → Gitea Actions (автобилд при пуше в
docker-tcl/**)