"""Mede tempo de CPU por segundo de áudio da transcrição (faster-whisper) dentro do container. Uso: docker compose run --rm voice python scripts/bench_stt.py BENCH_MODELS=base,small (precisa dos dois baixados: fetch_models.py --group stt-base --group stt-small) BENCH_OUT=/tmp/x.ogg (opcional: grava o clipe de ~10 s para o teste com curl) O áudio de teste é gerado pelo próprio Piper do serviço (texto sintético, nunca de espectador) e codificado em OGG/Opus como o backend manda. Mede decodificação + transcrição: o custo real de um job. """ from __future__ import annotations import os import sys import time from pathlib import Path import numpy as np sys.path.insert(0, str(Path(__file__).resolve().parent.parent)) from app.audio import encode_ogg_opus # noqa: E402 from app.catalog import load_catalog # noqa: E402 from app.engine import Pcm, PiperEngine # noqa: E402 from app.stt import SAMPLE_RATE, FasterWhisperEngine # noqa: E402 ROOT = Path(__file__).resolve().parent.parent SENTENCES = [ "Olá! Valeu pela doação, o streamer agradece demais.", "Atenção, sobrevivente: uma horda de infectados está chegando pelo norte, prepare a munição e corra para o galpão.", "Isso é um teste de voz do DROPSZ, com frases um pouco mais longas e pontuação variada.", "Manda um abraço para o pessoal do chat e boa sorte na próxima partida.", ] def build_clip(engine: PiperEngine, voice, seconds: float) -> bytes: parts: list[np.ndarray] = [] total = 0.0 rate = 0 index = 0 while total < seconds: pcm = engine.synthesize(voice, SENTENCES[index % len(SENTENCES)], 1.0, 30) rate = pcm.sample_rate parts.append(pcm.samples) parts.append(np.zeros(rate // 3, dtype=np.int16)) # pausa entre frases total = sum(len(p) for p in parts) / rate index += 1 samples = np.concatenate(parts)[: int(seconds * rate)] return encode_ogg_opus(Pcm(samples, rate)) def main() -> None: models_dir = Path(os.environ.get("VOICE_MODELS_DIR", "/models")) voices = load_catalog(ROOT / "voices" / "catalog.json", ROOT / "models.lock.json", models_dir) voice = next(v for v in voices.values() if v.default) piper = PiperEngine(int(os.environ.get("VOICE_ONNX_THREADS", "2"))) clips = {f"{s}s": build_clip(piper, voice, s) for s in (5, 10, 30, 58)} out = os.environ.get("BENCH_OUT") if out: Path(out).write_bytes(clips["10s"]) print(f"clipe de 10 s gravado em {out} ({len(clips['10s'])} bytes)") threads = int(os.environ.get("VOICE_STT_THREADS", "2")) beam = int(os.environ.get("VOICE_STT_BEAM_SIZE", "1")) names = os.environ.get("BENCH_MODELS", os.environ.get("VOICE_STT_MODEL", "base")).split(",") for name in names: c0 = time.process_time() w0 = time.perf_counter() engine = FasterWhisperEngine(models_dir / "whisper" / name, name, "int8", threads, beam, True, 4000) engine.transcribe(engine.decode(clips["5s"], 61), "pt") # aquecimento print(f"[{name}] carga+aquecimento cpu={time.process_time() - c0:.2f}s wall={time.perf_counter() - w0:.2f}s") cpu_total = audio_total = 0.0 for label, data in clips.items(): c0, w0 = time.process_time(), time.perf_counter() samples = engine.decode(data, 61) result = engine.transcribe(samples, "pt") cpu, wall = time.process_time() - c0, time.perf_counter() - w0 audio = samples.size / SAMPLE_RATE cpu_total += cpu audio_total += audio print( f"[{name}] {label}: audio={audio:.1f}s cpu={cpu:.2f}s wall={wall:.2f}s cpu_por_s={cpu / audio:.3f} " f"rtf_wall={wall / audio:.3f} no_speech={result.no_speech_prob:.3f} texto='{result.text[:70]}'" ) print(f"[{name}] TOTAL threads={threads} beam={beam} cpu_por_s_audio={cpu_total / audio_total:.3f}") if __name__ == "__main__": main()