Count the GPU call from outside, where the result survives

app.py

@@ -160,20 +160,33 @@ def _konto_sichern():
         traceback.print_exc()
 
 
+# Obergrenze je Aufruf. Die Wartezeit in der Schlange kostet kein
+# Kontingent, ist von aussen aber nicht von der Rechenzeit zu trennen —
+# und weiter als bis zur Reservierung kann ein Aufruf nie laufen, weil er
+# dort abgebrochen wird. Also deckeln statt masslos überschätzen.
+GPU_DECKEL_S = 200.0
+
+
 def bucht_gpu(fn):
-    """Zählt die Zeit *innerhalb* der GPU-Funktion.
+    """Zählt die Zeit über einem GPU-Aufruf.
+
+    Muss OBERHALB von @spaces.GPU stehen. Darunter liefe die Zählung im
+    Kindprozess, den der Dekorator intern aufspannt — die Buchung wäre mit
+    dessen Ende verloren. Genau so war es zuerst gebaut, und das Konto
+    blieb nach einem echten Lauf auf null stehen.
 
-    Muss unterhalb von @spaces.GPU stehen: der Rumpf läuft erst, wenn die
-    Karte zugeteilt ist. Die Wartezeit davor kostet kein Kontingent und
-    darf deshalb nicht mitgezählt werden.
+    Gezählt wird damit Wartezeit mit. Deshalb der Deckel, deshalb die
+    Kennzeichnung als Schätzung, und deshalb schlägt eine echte
+    Kontingent-Meldung diese Rechnung jederzeit.
     """
     def huelle(*a, **kw):
         t0 = time.time()
         try:
             return fn(*a, **kw)
         finally:
-            _konto["daten"] = kontingent_buchen(_konto_laden(),
-                                                time.time() - t0, time.time())
+            gebraucht = min(time.time() - t0, GPU_DECKEL_S)
+            _konto["daten"] = kontingent_buchen(_konto_laden(), gebraucht,
+                                                time.time())
             _konto["schmutzig"] = True
     huelle.__name__ = fn.__name__
     return huelle
@@ -187,8 +200,8 @@ def _diar_dauer(audio_path, num_speakers):
     return int(min(120, max(30, 20 + laenge / 40)))
 
 
-@spaces.GPU(duration=_diar_dauer)
 @bucht_gpu
+@spaces.GPU(duration=_diar_dauer)
 def _diarize_gpu(audio_path, num_speakers):
     kwargs = {}
     if num_speakers and int(num_speakers) > 0:
@@ -228,8 +241,8 @@ def _diarize_gpu(audio_path, num_speakers):
     return turns, stats, overlaps, abdruecke
 
 
-@spaces.GPU(duration=30)
 @bucht_gpu
+@spaces.GPU(duration=30)
 def _sprache_gpu(audio_path, ab):
     """Erkennt die Sprache einmalig anhand von 30 s ab der ersten Sprechstelle."""
     wellenform, sr = loader.crop(audio_path, Segment(ab, ab + 30.0), mode="pad")
@@ -327,8 +340,8 @@ def _asr_dauer(audio_path, start, ende, sprache=None, kontext=""):
     return int(min(200, max(60, 40 + (ende - start) / 2)))
 
 
-@spaces.GPU(duration=_asr_dauer)
 @bucht_gpu
+@spaces.GPU(duration=_asr_dauer)
 def _transkribiere_gpu(audio_path, start, ende, sprache=None, kontext=""):
     """Transkribiert ein Fenster am Stück — voller Kontext, beste Qualität.
 
@@ -456,8 +469,8 @@ def _fa_dauer(audio_path, worte, start, block_ende, rate, gesamt):
     return int(min(200, max(30, 20 + (block_ende - start) / 10)))
 
 
-@spaces.GPU(duration=_fa_dauer)
 @bucht_gpu
+@spaces.GPU(duration=_fa_dauer)
 def _align_gpu(audio_path, worte, start, block_ende, rate, gesamt):
     """Passt Wörter fortlaufend in einen Audioblock ein.