Spaces:
Sleeping
Sleeping
create api_call_counter.py
Browse files- api_call_counter.py +19 -0
api_call_counter.py
ADDED
|
@@ -0,0 +1,19 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
class APICallCounter:
|
| 2 |
+
"""
|
| 3 |
+
litellmのAPI呼び出し回数をカウントするクラス。
|
| 4 |
+
"""
|
| 5 |
+
def __init__(self):
|
| 6 |
+
"""カウンターを0で初期化する"""
|
| 7 |
+
self.total_calls = 0
|
| 8 |
+
|
| 9 |
+
def count_successful_call(self, kwargs, completion_obj, start_time, end_time):
|
| 10 |
+
"""API呼び出しが成功したときに呼び出され、カウンターを1増やす。"""
|
| 11 |
+
self.total_calls += 1
|
| 12 |
+
|
| 13 |
+
def count_failed_call(self, kwargs, completion_obj, start_time, end_time):
|
| 14 |
+
"""API呼び出しが失敗したときに呼び出され、カウンターを1増やす。"""
|
| 15 |
+
self.total_calls += 1
|
| 16 |
+
|
| 17 |
+
def get_total_calls(self):
|
| 18 |
+
"""現在のカウント状況を返す。"""
|
| 19 |
+
return self.total_calls
|