petrov826 commited on
Commit
2fa0076
·
verified ·
1 Parent(s): 17cc117

create api_call_counter.py

Browse files
Files changed (1) hide show
  1. api_call_counter.py +19 -0
api_call_counter.py ADDED
@@ -0,0 +1,19 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ class APICallCounter:
2
+ """
3
+ litellmのAPI呼び出し回数をカウントするクラス。
4
+ """
5
+ def __init__(self):
6
+ """カウンターを0で初期化する"""
7
+ self.total_calls = 0
8
+
9
+ def count_successful_call(self, kwargs, completion_obj, start_time, end_time):
10
+ """API呼び出しが成功したときに呼び出され、カウンターを1増やす。"""
11
+ self.total_calls += 1
12
+
13
+ def count_failed_call(self, kwargs, completion_obj, start_time, end_time):
14
+ """API呼び出しが失敗したときに呼び出され、カウンターを1増やす。"""
15
+ self.total_calls += 1
16
+
17
+ def get_total_calls(self):
18
+ """現在のカウント状況を返す。"""
19
+ return self.total_calls