api_call_counter.py

class APICallCounter:
    """
    litellmのAPI呼び出し回数をカウントするクラス。
    """
    def __init__(self):
        """成功・失敗カウンターを0で初期化する"""
        self.successful_calls = 0
        self.failed_calls = 0

    def count_successful_call(self, kwargs, completion_obj, start_time, end_time):
        """API呼び出しが成功したときに呼び出され、成功カウンターを1増やす。"""
        self.successful_calls += 1

    def count_failed_call(self, kwargs, completion_obj, start_time, end_time):
        """API呼び出しが失敗したときに呼び出され、失敗カウンターを1増やす。"""
        self.failed_calls += 1

    def get_total_calls(self):
        """現在の合計カウント状況を返す。"""
        return self.successful_calls + self.failed_calls

    def reset(self):
        """カウント状況をリセットする"""
        self.successful_calls = 0
        self.failed_calls = 0