mirror of
https://github.com/Jeuners/astra-vision.git
synced 2026-09-09 15:02:35 +02:00
feat: image generation via ComfyUI and PDF/image upload
Zwei neue, sauber getrennte Fähigkeiten, jede in ihrem eigenen Modul: - astra/comfyui.py: async HTTP-Client für einen lokalen ComfyUI-Server (z-image-turbo-Workflow), kennt nichts von der Pipeline. - astra/documents.py: PDF-Textextraktion via pypdf, keine Netzwerkzugriffe. - astra/tools.py: verdrahtet generate_image als natives Ollama-Tool-Call — Qwen 3.5 unterstützt Tools und Vision bereits nativ laut `ollama show`. Dafür wurde astra/services.py so erweitert, dass NativeOllamaService Ollamas native tool_calls im Streaming-Response erkennt und als ChatCompletionChunk-Deltas an Pipecats bereits vorhandene, generische Function-Calling-Maschinerie (_process_context/run_function_calls) weiterreicht — die musste dafür nicht angefasst werden. trim_messages in core.py bewahrt jetzt Tool-Roundtrips und Bild-Anhänge vollständig statt sie auf role/content zu reduzieren. Neuer Upload-Button im UI (Bild oder PDF, während eines laufenden Gesprächs): PDFs gehen als Text, Bilder als Base64 über Qwens Vision in den Gesprächskontext ein. Generierte Bilder werden über /api/media/<id> ausgeliefert und per Datenkanal im Transkript angezeigt. Kompletter Function-Calling-Roundtrip end-to-end gegen echtes Ollama und echtes ComfyUI verifiziert (Modell ruft generate_image korrekt auf, Bild wird erzeugt und im media_store abgelegt). Co-Authored-By: Claude Sonnet 5 <noreply@anthropic.com> Claude-Session: https://claude.ai/code/session_01LVgSHNHdRx3UNTBodFmhRA
This commit is contained in:
parent
991f0d1eb5
commit
16786fd3fd
18 changed files with 2602 additions and 21 deletions
22
README.md
22
README.md
|
|
@ -23,6 +23,27 @@ Die Stimme lässt sich im UI per Dropdown wählen (`/api/voices` listet alle
|
|||
26, Auswahl wird im Browser gemerkt). Jede Stimme wird beim ersten Gebrauch
|
||||
lazy geladen und danach für die Laufzeit des Prozesses gecacht.
|
||||
|
||||
## Bilder erzeugen und Dokumente lesen
|
||||
|
||||
Zwei zusätzliche, sauber getrennte Fähigkeiten, unabhängig von STT/LLM/TTS:
|
||||
|
||||
- **`astra/comfyui.py`** — reiner async HTTP-Client für einen lokalen
|
||||
[ComfyUI](https://github.com/comfyanonymous/ComfyUI)-Server
|
||||
(`z-image-turbo`-Workflow). Kennt nichts von Pipecat.
|
||||
- **`astra/documents.py`** — PDF-Textextraktion (`pypdf`), keine
|
||||
Netzwerkzugriffe.
|
||||
- **`astra/tools.py`** — verdrahtet `generate_image` als natives
|
||||
Ollama-Tool. Qwen 3.5 entscheidet selbst, wann es aufgerufen wird
|
||||
(`ollama show qwen3.5` listet `tools` als unterstützte Fähigkeit); das
|
||||
generierte Bild landet im laufenden Gespräch als `/api/media/<id>` und
|
||||
wird per WebRTC-Datenkanal ans UI gemeldet.
|
||||
|
||||
Bilder (PNG/JPEG/WebP) und PDFs lassen sich während eines laufenden
|
||||
Gesprächs über den Button „Bild oder PDF hinzufügen“ hochladen
|
||||
(`POST /api/upload`). Ein PDF wird als Text in den Gesprächskontext
|
||||
eingefügt, ein Bild als Base64 mit Qwens nativer Vision-Fähigkeit — beides
|
||||
nur für die Dauer der Session, nichts wird auf Disk geschrieben.
|
||||
|
||||
## Starten
|
||||
|
||||
```bash
|
||||
|
|
@ -47,6 +68,7 @@ gezogen sein. Die Seite öffnen, Mikrofon erlauben, sprechen.
|
|||
| `ASTRA_VOICE` | `alba` |
|
||||
| `ASTRA_PORT` | `7860` |
|
||||
| `ASTRA_TAILNET_HOST` | *(leer)* — z. B. `minim4-1.tail0f2cb2.ts.net` |
|
||||
| `ASTRA_COMFYUI_URL` | `http://100.125.107.123:8000` |
|
||||
|
||||
## Tests
|
||||
|
||||
|
|
|
|||
Loading…
Add table
Add a link
Reference in a new issue