Sentence Similarity
PyTorch
Safetensors
sentence-transformers
Transformers
Vietnamese
generic
roberta
feature-extraction
Instructions to use bkai-foundation-models/vietnamese-bi-encoder with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- sentence-transformers
How to use bkai-foundation-models/vietnamese-bi-encoder with sentence-transformers:
from sentence_transformers import SentenceTransformer model = SentenceTransformer("bkai-foundation-models/vietnamese-bi-encoder") sentences = [ "Làm thế nào Đại học Bách khoa Hà Nội thu hút sinh viên quốc tế?", "Đại học Bách khoa Hà Nội đã phát triển các chương trình đào tạo bằng tiếng Anh để làm cho việc học tại đây dễ dàng hơn cho sinh viên quốc tế.", "Môi trường học tập đa dạng và sự hỗ trợ đầy đủ cho sinh viên quốc tế tại Đại học Bách khoa Hà Nội giúp họ thích nghi nhanh chóng.", "Hà Nội có khí hậu mát mẻ vào mùa thu.", "Các món ăn ở Hà Nội rất ngon và đa dạng." ] embeddings = model.encode(sentences) similarities = model.similarity(embeddings, embeddings) print(similarities.shape) # [5, 5] - Transformers
How to use bkai-foundation-models/vietnamese-bi-encoder with Transformers:
# Load model directly from transformers import AutoTokenizer, AutoModel tokenizer = AutoTokenizer.from_pretrained("bkai-foundation-models/vietnamese-bi-encoder") model = AutoModel.from_pretrained("bkai-foundation-models/vietnamese-bi-encoder") - Notebooks
- Google Colab
- Kaggle
Câu hỏi về cấu hình training
#1
by whoisltd - opened
Mình muốn hỏi về độ lớn của dataset, cấu hình gpu và thời gian training. Team có thể chia sẻ không ạ ?
Chào bạn, mình xin phép trả lời câu hỏi của bạn:
Độ lớn dataset sau khi đã dịch và tiền xử lý:
MSMACRO: ~ 4GB
SQuAD v2: ~ 30 MB
Legal Text Retrieval Zalo 2021: ~ 200 MB
Cấu hình GPU: 1 card GPU A100 40GB
Thời gian training: ~ 1h / epoch
Nếu có câu hỏi gì thêm thì hãy liên lạc với team mình nhé.
phamson02 changed discussion status to closed
phamson02 changed discussion status to open