32 lines
707 B
Markdown
32 lines
707 B
Markdown
# Eldir
|
|
|
|
Docker Compose проект для LLM-инференса и мониторинга.
|
|
|
|
## Сервисы
|
|
|
|
| Сервис | Описание | Порт |
|
|
|---|---|---|
|
|
| `llama-server` | LLM inference (CUDA) | 8080 |
|
|
| `python+tcl` | GUI приложение (Tkinter/Tcl) | — |
|
|
| `node_exporter` | Метрики для Prometheus | 9100 |
|
|
|
|
## Запуск
|
|
|
|
```bash
|
|
docker compose up -d
|
|
```
|
|
|
|
## Остановка
|
|
|
|
```bash
|
|
docker compose down
|
|
```
|
|
|
|
## Стек
|
|
|
|
- **llama-server** — CUDA, GPU
|
|
- **python+tcl** — X11 forwarding
|
|
- **node_exporter** — Prometheus metrics
|
|
- Образы → Gitea Container Registry
|
|
- CI/CD → Gitea Actions (автобилд при пуше в `docker-tcl/**`)
|