Upload 3 files

README.md

@@ -0,0 +1,165 @@
+---
+title: BGE Reranker v2-m3
+emoji: 🔍
+colorFrom: blue
+colorTo: purple
+sdk: gradio
+sdk_version: "4.44.0"
+app_file: app.py
+pinned: false
+license: apache-2.0
+short_description: Advanced document reranking with BAAI/bge-reranker-v2-m3
+tags:
+  - reranking
+  - information-retrieval
+  - nlp
+  - search
+  - text-similarity
+---
+
+# 🔍 BGE Reranker v2-m3
+
+Мощный сервис для реранжирования документов на основе модели **BAAI/bge-reranker-v2-m3** от Beijing Academy of Artificial Intelligence.
+
+## 🚀 Возможности
+
+- **Высокая точность**: Использует современную модель BGE reranker v2-m3
+- **Простой интерфейс**: Веб-интерфейс для быстрого тестирования
+- **Batch обработка**: Обработка до 100 документов одновременно
+- **Гибкая настройка**: Выбор количества топ результатов
+- **Быстрая работа**: Оптимизированная для CPU обработка
+
+## 📖 Описание модели
+
+**BAAI/bge-reranker-v2-m3** - это современная модель для реранжирования документов, которая:
+
+- Поддерживает многоязычные тексты
+- Показывает высокую точность на бенчмарках
+- Оптимизирована для информационного поиска
+- Может работать с документами различной длины
+
+## 🔧 Как использовать
+
+### Веб-интерфейс
+
+1. **Введите запрос**: Напишите поисковый запрос в текстовое поле
+2. **Добавьте документы**: Вставьте документы, каждый на новой строке
+3. **Настройте параметры**: Выберите количество результатов для возврата
+4. **Получите результаты**: Нажмите "Реранжировать" и получите отсортированные документы
+
+### Программный доступ
+
+Вы можете использовать этот Space через Gradio Client:
+
+```python
+from gradio_client import Client
+
+client = Client("your-space-url")
+
+query = "машинное обучение"
+documents = """Глубокое обучение - это подраздел машинного обучения
+Рецепт борща с капустой и свеклой
+Нейронные сети используются в машинном обучении
+Алгоритмы классификации в машинном обучении"""
+
+result = client.predict(
+    query,           # поисковый запрос
+    documents,       # документы
+    5,              # top_k
+    api_name="/predict"
+)
+
+print(result)
+```
+
+## 📊 Примеры использования
+
+### Поиск в документах
+
+**Запрос:** "искусственный интеллект"
+
+**Документы:**
+```
+Машинное обучение и ИИ меняют мир
+История развития компьютеров
+Нейронные сети в современной науке
+Рецепты приготовления пиццы
+Применение ИИ в медицине
+```
+
+**Результат:** Документы будут отсортированы по релевантности к запросу об ИИ.
+
+### Семантический поиск
+
+**Запрос:** "как готовить еду"
+
+**Документы:**
+```
+Инструкция по приготовлению борща
+Физические законы термодинамики
+Рецепт итальянской пасты
+Химические реакции в кулинарии
+История развития кулинарного искусства
+```
+
+**Результат:** Кулинарные документы получат более высокие оценки релевантности.
+
+## ⚙️ Технические детали
+
+### Архитектура
+
+- **Модель**: BAAI/bge-reranker-v2-m3
+- **Backend**: Gradio + FlagEmbedding
+- **Precision**: FP16 для ускорения инференса
+- **Device**: CPU (подходит для HF Spaces)
+
+### Ограничения
+
+- Максимум 100 документов за один запрос
+- Длина документа ограничена контекстным окном модели
+- Время обработки зависит от количества и длины документов
+
+### Производительность
+
+- **Скорость**: ~1-5 секунд для 10-50 документов
+- **Точность**: State-of-the-art результаты ��а бенчмарках
+- **Память**: Оптимизировано для работы в ограниченных ресурсах
+
+## 🔗 Интеграция с LightRAG
+
+Этот реранкер предназначен для интеграции с проектом LightRAG:
+
+```python
+from lightrag.rerank import HuggingFaceReranker
+
+# Инициализация реранкера
+reranker = HuggingFaceReranker(
+    model_name="BAAI/bge-reranker-v2-m3",
+    space_url="your-space-url"
+)
+
+# Использование в RAG пайплайне
+reranked_docs = reranker.rerank(query, documents, top_k=5)
+```
+
+## 📝 Лицензия
+
+Этот проект использует модель под лицензией Apache 2.0. Модель BAAI/bge-reranker-v2-m3 также доступна под открытой лицензией.
+
+## 🤝 Вклад в проект
+
+Этот Space является частью проекта LightRAG. Для участия в разработке:
+
+1. Посетите [репозиторий LightRAG](https://github.com/HKUDS/LightRAG)
+2. Создайте Issue или Pull Request
+3. Следуйте гайдлайнам проекта
+
+## 📚 Дополнительные ресурсы
+
+- [Документация FlagEmbedding](https://github.com/FlagOpen/FlagEmbedding)
+- [Статья о BGE моделях](https://arxiv.org/abs/2309.07597)
+- [LightRAG Documentation](https://github.com/HKUDS/LightRAG/blob/main/README.md)
+
+---
+
+**Создано для проекта LightRAG** 🚀

app.py

@@ -0,0 +1,262 @@
+import gradio as gr
+import logging
+from typing import List, Dict, Any, Tuple
+import json
+import asyncio
+from concurrent.futures import ThreadPoolExecutor
+import time
+
+# Configure logging
+logging.basicConfig(level=logging.INFO)
+logger = logging.getLogger(__name__)
+
+# Global variables for model
+reranker = None
+executor = ThreadPoolExecutor(max_workers=4)
+
+def load_model():
+    """Load the BGE reranker model"""
+    global reranker
+    try:
+        from FlagEmbedding import FlagReranker
+        logger.info("Loading BAAI/bge-reranker-v2-m3 model...")
+        
+        reranker = FlagReranker(
+            'BAAI/bge-reranker-v2-m3', 
+            use_fp16=True,  # Use FP16 for faster inference
+            device='cpu'    # HF Spaces typically use CPU
+        )
+        logger.info("Model loaded successfully!")
+        return True
+    except Exception as e:
+        logger.error(f"Error loading model: {str(e)}")
+        return False
+
+def rerank_documents(query: str, documents: List[str], top_k: int = None) -> List[Dict[str, Any]]:
+    """
+    Rerank documents based on relevance to query
+    
+    Args:
+        query: Search query
+        documents: List of documents to rerank
+        top_k: Number of top documents to return (None for all)
+    
+    Returns:
+        List of documents with scores, sorted by relevance
+    """
+    global reranker
+    
+    if reranker is None:
+        raise ValueError("Model not loaded. Please wait for initialization.")
+    
+    if not documents:
+        return []
+    
+    try:
+        # Prepare pairs for reranking
+        pairs = [[query, doc] for doc in documents]
+        
+        # Get scores
+        scores = reranker.compute_score(pairs)
+        
+        # Handle single document case
+        if not isinstance(scores, list):
+            scores = [scores]
+        
+        # Combine documents with scores
+        doc_scores = [
+            {
+                "text": doc,
+                "score": float(score),
+                "index": idx
+            }
+            for idx, (doc, score) in enumerate(zip(documents, scores))
+        ]
+        
+        # Sort by score (descending)
+        doc_scores.sort(key=lambda x: x["score"], reverse=True)
+        
+        # Return top_k if specified
+        if top_k is not None:
+            doc_scores = doc_scores[:top_k]
+        
+        return doc_scores
+        
+    except Exception as e:
+        logger.error(f"Error during reranking: {str(e)}")
+        raise
+
+def format_results(results: List[Dict[str, Any]]) -> str:
+    """Format reranking results for display"""
+    if not results:
+        return "No results to display."
+    
+    formatted = "🔍 **Результаты реранжирования:**\n\n"
+    
+    for i, result in enumerate(results, 1):
+        score = result["score"]
+        text = result["text"]
+        original_idx = result["index"]
+        
+        # Truncate long texts for display
+        display_text = text[:200] + "..." if len(text) > 200 else text
+        
+        formatted += f"**{i}. Документ #{original_idx + 1}** (Score: {score:.4f})\n"
+        formatted += f"{display_text}\n\n"
+    
+    return formatted
+
+def gradio_rerank(query: str, documents_text: str, top_k: int) -> Tuple[str, str]:
+    """Gradio interface function for reranking"""
+    try:
+        if not query.strip():
+            return "❌ Введите поисковый запрос", ""
+        
+        if not documents_text.strip():
+            return "❌ Введите документы для реранжирования", ""
+        
+        # Parse documents (one per line)
+        documents = [doc.strip() for doc in documents_text.split('\n') if doc.strip()]
+        
+        if len(documents) == 0:
+            return "❌ Не найдено документов для обработки", ""
+        
+        if len(documents) > 100:
+            return "❌ Слишком много документов (максимум 100)", ""
+        
+        # Perform reranking
+        start_time = time.time()
+        results = rerank_documents(query, documents, top_k if top_k > 0 else None)
+        end_time = time.time()
+        
+        # Format results
+        formatted_results = format_results(results)
+        
+        # Prepare stats
+        stats = f"""
+📊 **Статистика обработки:**
+- Количество документов: {len(documents)}
+- Возвращено результатов: {len(results)}
+- Время обработки: {end_time - start_time:.2f} сек
+- Модель: BAAI/bge-reranker-v2-m3
+        """
+        
+        return formatted_results, stats
+        
+    except Exception as e:
+        error_msg = f"❌ Ошибка при обработке: {str(e)}"
+        logger.error(error_msg)
+        return error_msg, ""
+
+def create_gradio_interface():
+    """Create Gradio interface"""
+    
+    with gr.Blocks(
+        title="BGE Reranker v2-m3",
+        theme=gr.themes.Soft(),
+        css="""
+        .container { max-width: 1200px; margin: auto; }
+        .highlight { background-color: #f0f9ff; padding: 10px; border-radius: 5px; }
+        """
+    ) as demo:
+        
+        gr.Markdown("""
+        # 🔍 BGE Reranker v2-m3
+        
+        Этот сервис использует модель **BAAI/bge-reranker-v2-m3** для реранжирования документов по релевантности к поисковому запросу.
+        
+        ## Как использовать:
+        1. 📝 Введите поисковый запрос
+        2. 📄 Добавьте документы (каждый документ на новой строке)
+        3. 🔢 Укажите количество топ результатов (0 = все)
+        4. 🚀 Нажмите "Реранжировать"
+        """)
+        
+        with gr.Row():
+            with gr.Column(scale=2):
+                query_input = gr.Textbox(
+                    label="🔍 Поисковый запрос",
+                    placeholder="Введите ваш поисковый запрос здесь...",
+                    lines=2
+                )
+                
+                documents_input = gr.Textbox(
+                    label="📄 Документы для реранжирования",
+                    placeholder="Вставьте документы здесь, каждый на новой строке...",
+                    lines=10
+                )
+                
+                with gr.Row():
+                    top_k_input = gr.Number(
+                        label="📊 Количество топ результатов",
+                        value=5,
+                        minimum=0,
+                        maximum=100,
+                        step=1
+                    )
+                    
+                    rerank_btn = gr.Button("🚀 Реранжировать", variant="primary")
+        
+        with gr.Row():
+            with gr.Column():
+                results_output = gr.Markdown(label="📋 Результаты")
+                stats_output = gr.Markdown(label="📊 Статистика")
+        
+        # Event handlers
+        rerank_btn.click(
+            fn=gradio_rerank,
+            inputs=[query_input, documents_input, top_k_input],
+            outputs=[results_output, stats_output]
+        )
+        
+        # Example
+        gr.Markdown("""
+        ## 💡 Пример использования:
+        
+        **Запрос:** `машинное обучение`
+        
+        **Документы:**
+        ```
+        Глубокое обучение - это подраздел машинного обучения
+        Рецепт борща с капустой и свеклой
+        Нейронные сети используются в машинном обучении
+        Как выбрать автомобиль в 2024 году
+        Алгоритмы классификации в машинном обучении
+        ```
+        """)
+    
+    return demo
+
+# Initialize model on startup
+logger.info("Initializing BGE Reranker service...")
+model_loaded = load_model()
+
+if model_loaded:
+    logger.info("Creating Gradio interface...")
+    demo = create_gradio_interface()
+    
+    if __name__ == "__main__":
+        demo.launch(
+            server_name="0.0.0.0",
+            server_port=7860,
+            share=False,
+            show_error=True
+        )
+else:
+    logger.error("Failed to load model. Cannot start service.")
+    
+    # Create error interface
+    def create_error_interface():
+        with gr.Blocks() as error_demo:
+            gr.Markdown("""
+            # ❌ Ошибка загрузки модели
+            
+            Не удалось загрузить модель BAAI/bge-reranker-v2-m3.
+            Пожалуйста, проверьте логи для получения подробной информации.
+            """)
+        return error_demo
+    
+    demo = create_error_interface()
+    
+    if __name__ == "__main__":
+        demo.launch()

requirements.txt

@@ -0,0 +1,10 @@
+gradio>=4.44.0
+FlagEmbedding>=1.3.3
+# torch will be installed as a dependency; default CPU wheel is fine on HF Spaces
+torch>=2.3.0
+transformers>=4.44.0
+huggingface-hub>=0.23.0
+numpy>=1.24.0
+accelerate>=0.25.0
+sentencepiece>=0.1.99
+