diff --git a/pipe/categorize.py b/pipe/categorize.py index 1b3f1e3..b9802bb 100644 --- a/pipe/categorize.py +++ b/pipe/categorize.py @@ -101,11 +101,22 @@ def kategorisiere(transkript: str) -> tuple[dict, dict]: backend, modell = modellwahl.backend_und_modell() start = time.monotonic() if backend == "openrouter": - ergebnis, meta = _mit_openrouter(transkript, modell) + try: + ergebnis, meta = _mit_openrouter(transkript, modell) + except KategorisierungsFehler as fehler: + # OpenRouter (v.a. :free-Tier) ist nachweislich instabil - 502 + # "temporarily overloaded", Latenz-Ausreisser bis 80s. Ein Anruf + # darf daran nicht scheitern und nach telefon/fehler verschwinden + # - Failover aufs lokale Ollama-Modell statt den Anruf zu verlieren. + print(f" ⚠ {backend} fehlgeschlagen ({fehler}) - Failover auf {config.OLLAMA_MODELL}") + ergebnis, meta = _mit_ollama(transkript, config.OLLAMA_MODELL) + meta["failover_von"] = modell + backend, modell = "ollama", config.OLLAMA_MODELL else: ergebnis, meta = _mit_ollama(transkript, modell) meta["backend"] = backend meta["modell"] = modell + meta.setdefault("failover_von", None) meta["dauer_s"] = round(time.monotonic() - start, 2) ergebnis = _notfall_sicherheitsnetz(transkript, _bereinige(ergebnis)) return ergebnis, meta diff --git a/pipe/process_call.py b/pipe/process_call.py index fb056b5..5bf9844 100644 --- a/pipe/process_call.py +++ b/pipe/process_call.py @@ -46,7 +46,8 @@ def verarbeite(audio: str, anrufer_nummer: str | None = None, "aufgelegt.", "stichworte": [], } - meta = {"backend": "-", "modell": "-", "dauer_s": 0.0, "tokens": None, "kosten_usd": None} + meta = {"backend": "-", "modell": "-", "dauer_s": 0.0, "tokens": None, + "kosten_usd": None, "failover_von": None} print(f" Kategorie: {auswertung['kategorie']} · Dringlichkeit: {auswertung['dringlichkeit']}" f" ({meta['modell']}, {meta['dauer_s']}s)") @@ -58,6 +59,8 @@ def verarbeite(audio: str, anrufer_nummer: str | None = None, zusatz += f" · {meta['tokens']} Tok" if meta.get("kosten_usd"): zusatz += f" · ${meta['kosten_usd']:.4f}" + if meta.get("failover_von"): + zusatz += f" · ⚠ Failover von {meta['failover_von']}" protokoll.schreibe( "notfall" if auswertung["dringlichkeit"] == "notfall" else "anruf", f"{auswertung['kategorie']} · {auswertung['dringlichkeit']}" @@ -65,7 +68,8 @@ def verarbeite(audio: str, anrufer_nummer: str | None = None, + f" ({meta['modell']}, {zusatz})", nummer=anrufer_nummer, kategorie=auswertung["kategorie"], dringlichkeit=auswertung["dringlichkeit"], modell=meta["modell"], - dauer_s=meta["dauer_s"], tokens=meta.get("tokens"), kosten_usd=meta.get("kosten_usd")) + dauer_s=meta["dauer_s"], tokens=meta.get("tokens"), kosten_usd=meta.get("kosten_usd"), + failover_von=meta.get("failover_von")) bekannter_kontakt = kontakte.nachschlagen(anrufer_nummer) if bekannter_kontakt: