mirror of
https://github.com/Jeuners/Logpy-AgentOne.git
synced 2026-09-09 15:02:33 +02:00
docs+fix: qwen3:8b als durchgaengigen Default statt qwen3.5:latest
qwen3.5:latest traegt unnoetigen Vision-Ballast (CLIP-Projector) fuer eine reine Text-Kategorisierungsaufgabe. qwen3:8b ist kleiner (5,2 statt 6,6 GB) und reines Textmodell. Code-Fallback in config.py, .env.example, README und docs/MITGABE.md konsistent angepasst - HANDOFF.md bleibt unangetastet (datierter Zeitpunkt-Stand, keine Anleitung). Co-Authored-By: Claude Sonnet 5 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_015vtvcyNkapuDh583643hNs
This commit is contained in:
parent
391eec5f41
commit
4109aee1bb
4 changed files with 6 additions and 6 deletions
|
|
@ -14,7 +14,7 @@ WHISPER_COMPUTE=int8
|
||||||
|
|
||||||
# --- Kategorisierung (Ollama, lokal) ---
|
# --- Kategorisierung (Ollama, lokal) ---
|
||||||
OLLAMA_URL=http://127.0.0.1:11434
|
OLLAMA_URL=http://127.0.0.1:11434
|
||||||
OLLAMA_MODELL=qwen3.5:latest
|
OLLAMA_MODELL=qwen3:8b
|
||||||
|
|
||||||
# --- Nextcloud (leer lassen = nur lokale Ablage) ---
|
# --- Nextcloud (leer lassen = nur lokale Ablage) ---
|
||||||
NEXTCLOUD_URL=
|
NEXTCLOUD_URL=
|
||||||
|
|
|
||||||
|
|
@ -61,7 +61,7 @@ brew install ollama && ollama serve & # oder Ollama.app starten
|
||||||
**2. Sprachmodell** — ordnet die Anliegen ein:
|
**2. Sprachmodell** — ordnet die Anliegen ein:
|
||||||
|
|
||||||
```bash
|
```bash
|
||||||
ollama pull qwen3.5:latest # ~6,6 GB
|
ollama pull qwen3:8b # ~5,2 GB, reines Textmodell (kein Vision-Ballast)
|
||||||
```
|
```
|
||||||
|
|
||||||
Auf Rechnern mit 16 GB Arbeitsspeicher passt kein größeres Modell daneben,
|
Auf Rechnern mit 16 GB Arbeitsspeicher passt kein größeres Modell daneben,
|
||||||
|
|
|
||||||
|
|
@ -11,7 +11,7 @@ die Reihenfolge, in der man prüft, ob es wirklich läuft.
|
||||||
|---|---|
|
|---|---|
|
||||||
| `.env` | aus `.env.example` kopieren, Werte eintragen (Abschnitt 3) |
|
| `.env` | aus `.env.example` kopieren, Werte eintragen (Abschnitt 3) |
|
||||||
| Whisper-Modell (~1,6 GB) | `~/whisper-models/ggml-large-v3-turbo.bin`, Download siehe README |
|
| Whisper-Modell (~1,6 GB) | `~/whisper-models/ggml-large-v3-turbo.bin`, Download siehe README |
|
||||||
| Ollama-Modell (~6,6 GB) | `ollama pull qwen3.5:latest` |
|
| Ollama-Modell (~5,2 GB) | `ollama pull qwen3:8b` |
|
||||||
| Piper-Stimme | `~/piper-voices/…`, nur für die Ansage (Stufe 2) nötig |
|
| Piper-Stimme | `~/piper-voices/…`, nur für die Ansage (Stufe 2) nötig |
|
||||||
| `ablage/`, `telefon/eingang/`, `dashboard.html` | Anruf- und Patientendaten, bleiben absichtlich lokal |
|
| `ablage/`, `telefon/eingang/`, `dashboard.html` | Anruf- und Patientendaten, bleiben absichtlich lokal |
|
||||||
| FreeSWITCH-Konfiguration mit echtem SIP-Passwort | `telefon/freeswitch/einrichten.sh` schreibt sie aus der `.env` |
|
| FreeSWITCH-Konfiguration mit echtem SIP-Passwort | `telefon/freeswitch/einrichten.sh` schreibt sie aus der `.env` |
|
||||||
|
|
@ -27,7 +27,7 @@ die meiste Arbeit. Für einen ersten Durchlauf reicht:
|
||||||
```bash
|
```bash
|
||||||
brew install ffmpeg whisper-cpp
|
brew install ffmpeg whisper-cpp
|
||||||
brew install ollama && ollama serve &
|
brew install ollama && ollama serve &
|
||||||
ollama pull qwen3.5:latest
|
ollama pull qwen3:8b
|
||||||
mkdir -p ~/whisper-models && cd ~/whisper-models
|
mkdir -p ~/whisper-models && cd ~/whisper-models
|
||||||
curl -LO https://huggingface.co/ggerganov/whisper.cpp/resolve/main/ggml-large-v3-turbo.bin
|
curl -LO https://huggingface.co/ggerganov/whisper.cpp/resolve/main/ggml-large-v3-turbo.bin
|
||||||
cd ~/praxis-telefon-agent && cp .env.example .env
|
cd ~/praxis-telefon-agent && cp .env.example .env
|
||||||
|
|
@ -124,6 +124,6 @@ Wenn auf der anderen Seite etwas abweicht, sind vor allem diese Punkte für uns
|
||||||
hier interessant:
|
hier interessant:
|
||||||
|
|
||||||
- andere Hardware/OS-Version und wie lange ein Anruf dann braucht (hier ~24 s),
|
- andere Hardware/OS-Version und wie lange ein Anruf dann braucht (hier ~24 s),
|
||||||
- ob `qwen3.5:latest` bei 16 GB RAM neben laufender Telefonie noch passt,
|
- ob `qwen3:8b` bei 16 GB RAM neben laufender Telefonie noch passt,
|
||||||
- jede Stelle, an der README oder `.env.example` nicht gereicht haben — die
|
- jede Stelle, an der README oder `.env.example` nicht gereicht haben — die
|
||||||
gehört dann dort hinein, nicht in diese Datei.
|
gehört dann dort hinein, nicht in diese Datei.
|
||||||
|
|
|
||||||
|
|
@ -68,7 +68,7 @@ WHISPER_COMPUTE = os.environ.get("WHISPER_COMPUTE", "int8")
|
||||||
|
|
||||||
# --- Kategorisierung (Ollama, lokal) -----------------------------------------
|
# --- Kategorisierung (Ollama, lokal) -----------------------------------------
|
||||||
OLLAMA_URL = os.environ.get("OLLAMA_URL", "http://127.0.0.1:11434")
|
OLLAMA_URL = os.environ.get("OLLAMA_URL", "http://127.0.0.1:11434")
|
||||||
OLLAMA_MODELL = os.environ.get("OLLAMA_MODELL", "qwen3.5:latest")
|
OLLAMA_MODELL = os.environ.get("OLLAMA_MODELL", "qwen3:8b")
|
||||||
PROMPT_DATEI = WURZEL / "prompts" / os.environ.get(
|
PROMPT_DATEI = WURZEL / "prompts" / os.environ.get(
|
||||||
"PROMPT_DATEI", "categorize_de.txt"
|
"PROMPT_DATEI", "categorize_de.txt"
|
||||||
)
|
)
|
||||||
|
|
|
||||||
Loading…
Add table
Add a link
Reference in a new issue