SentenceTransformer based on sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2

This is a sentence-transformers model finetuned from sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. It maps sentences & paragraphs to a 384-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

Model Type: Sentence Transformer
Base model: sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2
Maximum Sequence Length: 128 tokens
Output Dimensionality: 384 dimensions
Similarity Function: Cosine Similarity

Model Sources

Documentation: Sentence Transformers Documentation
Repository: Sentence Transformers on GitHub
Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 128, 'do_lower_case': False}) with Transformer model: BertModel 
  (1): Pooling({'word_embedding_dimension': 384, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("forestav/job_matching_sentence_transformer")
# Run inference
sentences = [
    "Filip Orestav  \nTransformatorvägen 6, Sollentuna , Sweden  \n+46 76  873 30 77 | orestav@kth.se  | LinkedIn  \n \nAmbitious fourth -year Industrial Engineering and Management student at KTH, pursuing a Master's in Machine \nLearning. Entrepreneurial spirit with a track record of founding a successful consulting and investment company, \noptimizing operations at a fund company,  leading people  at a supermarket store and driving growth for Sweden's \nlargest youth platform.  \n \nEDUCATION  \nKTH Royal Institute of Technology  Stockholm, Sweden  \nM.Sc. Industrial Engineering and Management  GPA: 4. 57/5 \nMaster in Machine Learning   Expected graduation 2026  \n \nRudbecksgymnasiet  Stockholm , Sweden  \nNatural Sciences  21.09/22.5  \n Graduated 2021  \nKEY SKILLS  \n• TECHNICAL: Python, Java, JavaScript, SQL, Machine Learning, Deep Learning  \n• BUSINESS: Financial analysis, Business analysis, Consulting, Project management , Strategic planning  \n• SOFT SKILLS:  Critical thinking, Problem solving, Time management, Entrepreneurial spir it\nPROFESSIONAL EXPERIENCE  \nKTH Royal Institute of Technology  Stockholm , Sweden  \nLab Assistant  October 2024 – present  \n● Reviewed and assessed students' code and understanding of course labs in a Natural Language Processing \n(NLP) course  \n● Evaluated implementations of key NLP techniques and algorithms, including Levenshtein Distance, Viterbi \nAlgorithm, n -gram Language Models, Gradient Descent, and Random Indexing, ensuring correctness and \nadherence to best practices  \n● Provided feedback and guidance to support students' learning and understanding of advanced NLP concepts  \n● Grading theoretic al exam questions  \n \nProtean Funds Scandinavia  Stockholm , Sweden  \nOperations Officer  (CFO replacement during summer)  May 2024 – August 2024  \n● Overseen fund operations and control functions , achieving a 100% trade execution rate  \n● Automated visualization tasks in Excel, Python and Power BI  \n● Assisted fund managers, CFO and CEO with research for fund expansion  \n● Ensured compliance with the Digital Operational Resilience Act and other relevant regulations  \n \nKreditz  Stockholm , Sweden  \nResearch Intern  Jan 2024 – June 2024  \n● Developed state-of-the-art deep learning models  for bank transaction categorization, utilizing MLP, LSTM, \nand CNN architectures  \n● Enhanced model performance by 100x in speed while maintaining industry -leading accuracy  \n \nKnowit Ascend  Stockholm , Sweden  \nAdept  Jan 2024 – May 2024  \n● Introduction and practical experience of, among others, the management consultant job, case -solving, and the \nmanagement consulting toolkit  \n● Bridged the gap between theory and practice, utilizing frameworks and ideas learnt from studies  \n \n \nPromotely AB  Sollentuna, Sweden  \nFounder  & CEO  2021  – present  \n● Growing  a multifaceted business focusing on SEO, affiliate marketing, investments and consulting  \n● Developed a comprehensive understanding of business operations, competition strategies and value creation  \n \nHemköp  Upplands Väsby, Sweden  \nSales Associate  2019  – present  \n● Ensured smooth daily store operations, from inventory management to customer service  \n● Contributed to making the store the most successful in the city, enhancing customer satisfaction and \nprofitability  \nYepstr  Sollentuna, Sweden  \nBusiness Developer  2017  – 2019  \n● Played a key role in scaling Sweden's largest youth employment platform through targeted user acquisition \nand strategic community initiatives  \n● Provided tutoring services in physics, mathematics, and English with a 100% satisfaction rate  \n \nLANGUAGES, ACTIVITIES & INTERESTS  \nLanguages:  Swedish (native), English (proficient), Spanish (basic)  \nActivities:  Former Equity Analyst at KTH Finance Club; Former m ember of Startup/VC Club  \nInterests:  All kinds of sports, cooking, technological innovation   \nFuture:  Seeking opportunities at the intersection of technology and management, with a focus on leveraging \nmachine learning for societal benefit and exploring innovative business model s\n ",
    'Vi söker nu dig som har ett genuint intresse för teknik och maskiner! Är du redo för nästa steg i karriären? I en entreprenöriell miljö, med stort fokus på utveckling och glädje får du möjligheten att utvecklas tillsammans med oss på Kendrill.\nUrvalet sker löpande: Vi går igenom ansökningarna i den ordningen vi får in dem och kan komma att tillsätta tjänsten löpande. Vi rekommenderar därför att du skickar in din ansökan så snart som möjligt för att öka dina chanser! 💫\nOm oss\nVi på Kendrill erbjuder professionell utrustning för demolering, håltagning och berg. Med en gedigen kompetens som vår grund hjälper vi våra kunder med allt från uthyrning till reparation, service och rådgivning. Vårt fokus är att erbjuda lösningar som passar just våra kunder. Vi finns idag på tre depåer utspridda i Stockholm, Göteborg och Oslo.\nHos Kendrill trivs du i en entreprenöriell miljö med ett högt tempo och kollegor som delar din passion. Vi är stolta över att vara ett ungt och snabbväxande företag som har blivit Sveriges ledande uthyrare av rivningsrobotar och hydraulspräckare på rekordtid.\nVåra kärnvärden engagerad, beslutsam, lösningsorienterad och lagspelare är en mycket viktig del av vår verksamhet. Som anställd delar du dessa med oss och arbetar dagligen för att säkerställa att vi lever upp detta.\nVad kan vi erbjuda dig?\nSom medarbetare hos oss på Kendrill får du möjligheten att arbeta i en entreprenöriell anda. Här går laget för jaget och tillsammans arbetar vi för att leverera förstklassig service. Vi erbjuder dig en inspirerande miljö, i ett företag präglat av glädje, gemenskap och ett stort mått av utmaning för dig som är redo att ta nästa steg.\nVi arbetar i fina lokaler och erbjuder en god arbetsmiljö!🔧\nFör oss på Kendrill är det viktigt att ha roligt på jobbet! Tillsammans med vår depå i Göteborg träffas vi årligen för jul- och sommarfester och teamaktiviteter. Vi erbjuder marknadsmässiga löner, pension, försäkringar och friskvårdsbidrag. \nOm rollen \nI rollen som Mekaniker a',
    'Vi söker\nDig som har en socionomexamen och som har flerårig chefserfarenhet inom målgrupperna äldre, LSS samt Socialpsykiatri\xa0till en kommun i Stockholms län. Uppdraget startar 1 februari och pågår under våren 2025 på heltid.\xa0\nFör att vara rätt person för tjänsten ska du;\n– Ha en socionomexamen\n– Ha minst tre års erfarenhet av\xa0ansvar för personal, verksamhet, ekonomi.\xa0\xa0\n– Ha minst tre års erfarenhet av arbete inom myndighetsutövning.\n– Du ska ha minst tre års erfarenhet av kommunala uppdrag, vara insatt och förstå kommunala uppdrag.\n– Har du erfarenhet av arbete inom alla målgrupper är det meriterande för tjänsten. Även om du har kompetens inom grupputveckling.\xa0\n– Som ledare är du strukturerad och stabil, analytisk och samarbetsorienterad.\xa0\n– Du behöver kunna vara en förebild och tillämpa kommunens värdegrund i ledarskapet.\n– Du ska ha goda kunskaper i svenska språket, i både tal och skrift.\n– Du ska kunna arbeta på arbetsplatsen.\n– Ha B-körkort.\nArbetsuppgifter\nSedvanliga arbetsuppgifter för Enhetschef för avdelning för myndighetsutövning. Budget-, personal- och verksamhetsansvar. Enhetschefen har det övergripande ansvaret för att styra, leda och kvalitetsutveckla verksamheten tillsammans med medarbetarna samt ansvara för att kontinuerligt utveckla personalgruppen.\xa0\nUppdraget omfattar att arbeta med grupputveckling inom en av teamen då fokus behöver stärkas gällande samarbete och samsyn i ärendehantering.\nAnställning\nDu kommer att bli anställd som konsult för Vårdlänken Bemanning  Rekrytering, med varierande arbetstider och tjänstegrad efter överenskommelse.\nSom konsult hos oss erbjuds du:\n• Konkurrenskraftig lön och intressanta uppdrag i olika verksamheter\n• Kollektivavtal, tjänstepension, friskvårdsbidrag och semesterersättning\n• Stora möjligheter att själv välja arbetsplats och arbetstider\n• Hjälp med resa och boende om du arbetar på annan ort\n• Introduktion och kontinuerlig coachning så att du snabbt kommer in i din roll\n• En dedikerad och tillgänglig konsultch',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 384]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Training Details

Training Dataset

Unnamed Dataset

Size: 23 training samples
Columns: sentence_0, sentence_1, and label

Approximate statistics based on the first 23 samples:

	sentence_0	sentence_1	label
type	string	string	float
details	min: 128 tokens mean: 128.0 tokens max: 128 tokens	min: 86 tokens mean: 126.17 tokens max: 128 tokens	min: 0.0 mean: 0.26 max: 1.0

Samples:

sentence_0	sentence_1	label
`Kolumbus Lindh Date of birth: January 1999, Norra Stationsgatan 99, Stockholm, 113 64, Sweden + 46 (0)731 01 30 90`	kolumbuslindh@gmail.com education KTH ROYAL INSTITUTE OF TECHNOLOGY Stockholm, Sweden, GPA 4.7 / 5 M.Sc in Industrial Engineering and Management Aug 2023 - Jun 2025 Specializing in Machine Learning Monash University Melbourne, Australia Exchange Programme Jul 2022 - Jun 2023 Focusing on finance KTH ROYAL INSTITUTE OF TECHNOLOGY Stockholm, Sweden, GPA 4.4 / 5 B.Sc Industrial Engineering and Management Aug 2020 - Jun 2023 Specializing in Computer Science Bachelor’s Thesis: Deep Learning for Bank Transaction Categorization work experience hoomies.se Stockholm, Sweden Co-Founder Aug 2024 - Current Startup aiming to make vacations affordable and sustainable Responsible for Full stack development In charge of the business aspect through competitor analysis, niche profiling and revenue models EF Education First Barcelona, Spain ...	Vi söker Dig som har en socionomexamen och som har flerårig chefserfarenhet inom målgrupperna äldre, LSS samt Socialpsykiatri till en kommun i Stockholms län. Uppdraget startar 1 februari och pågår under våren 2025 på heltid. För att vara rätt person för tjänsten ska du; – Ha en socionomexamen – Ha minst tre års erfarenhet av ansvar för personal, verksamhet, ekonomi. – Ha minst tre års erfarenhet av arbete inom myndighetsutövning. – Du ska ha minst tre års erfarenhet av kommunala uppdrag, vara insatt och förstå kommunala uppdrag. – Har du erfarenhet av arbete inom alla målgrupper är det meriterande för tjänsten. Även om du har kompetens inom grupputveckling. – Som ledare är du strukturerad och stabil, analytisk och samarbetsorienterad. – Du behöver kunna vara en förebild och tillämpa kommunens värdegrund i ledarskapet. – Du ska ha goda kunskaper i svenska språket, i både tal och skrift. – Du ska kunna arbeta på arbetsplatsen. – Ha B-körkort. Arbetsuppgifter Sedvanliga arbetsuppgif...
CV – Peter Lindh Skonertgatan 5A 426 74 V.Frölunda Telefon: 0765-534669 Mail: p.lindh@gmail.com Employment history Volvo Trucks – DPM Quality and Warranty at Volvo Trucks Budget management for all IT applications in QW area, aligning priorities with all TD/BA’s Organizing the pre-study for the Future Claim Journey- aligning all TD/BA’s on one vision and direction. The pre-study will start in January 2024. I was one of the key drivers in starting up the transformation project to move to new IT platform (Microsoft Dynamics) in the Case mgmt. area- First project will Go Live in February 2024 (Volvo Action Services) and then there will be releases in the coming 5 years. In this transformation also many business improvements are identified and included in the scope. Volvo IT – Project/Program Manager E1 UX Initiative leader – develop new UX strategy and organization for Group IT and align cooperation across Volvo Group. The result was a new training path for UX designers...	Om rollen Vi letar efter en erfaren och skicklig bilplåtslagare/skadeteknikermed erfarenhet av BMW och Mini. Du kommer att arbeta i ett team som strävar efter att alltid möta kundens behov och förväntningar. KvalifikationerAtt ha tidigare erfarenhet av att arbeta med BMW och Mini är ett krav. Vi ser gärna att du har djup förståelse för dessa märken och deras specifika behov inom reparation och underhåll. Goda kunskapergällande BMW’s program och utläsningar av fordon. Relevant teknisk utbildning inom bilplåtslageri eller motsvarande erfarenhet. Förmåga att arbeta självständigt samt i team. Erfarenhet av att använda CABAS är ett stort plus. Goda kunskaper i svenska och engelska, i både tal och skrift. B-körkort krävs. Arbetsuppgifter Reparation av kaross: Byta och rikta karossdetaljer på främst BMW och Mini. Svetsning och montering: Svetsa, limma och nita olika delar. Demontering och montering: Effektiv hantering av demontering och montering av bilkomponenter. Vi erbjuder dig...	`0.0`
`Kolumbus Lindh Date of birth: January 1999, Norra Stationsgatan 99, Stockholm, 113 64, Sweden + 46 (0)731 01 30 90`	kolumbuslindh@gmail.com education KTH ROYAL INSTITUTE OF TECHNOLOGY Stockholm, Sweden, GPA 4.7 / 5 M.Sc in Industrial Engineering and Management Aug 2023 - Jun 2025 Specializing in Machine Learning Monash University Melbourne, Australia Exchange Programme Jul 2022 - Jun 2023 Focusing on finance KTH ROYAL INSTITUTE OF TECHNOLOGY Stockholm, Sweden, GPA 4.4 / 5 B.Sc Industrial Engineering and Management Aug 2020 - Jun 2023 Specializing in Computer Science Bachelor’s Thesis: Deep Learning for Bank Transaction Categorization work experience hoomies.se Stockholm, Sweden Co-Founder Aug 2024 - Current Startup aiming to make vacations affordable and sustainable Responsible for Full stack development In charge of the business aspect through competitor analysis, niche profiling and revenue models EF Education First Barcelona, Spain ...	Rekryteringsträffen kommer att äga rum den 30 januari 2025 mellan kl 14.00 - 16.00 Plats: Arbetsförmedlingen Augustendalsvägen 7, 131 52 Nacka Strand En arbetsgivare inom städ som är verksam i södra Stockholm önskar träffa och rekrytera städpersonal. Arbetet innefattar alla former av städning inklusive hemstädning hos privatpersoner i södra Stockholm. Arbetsplatserna är utrustade med moderna verktyg och teknik för att underlätta effektivt utförande av arbetsuppgifterna. Tidigare erfarenhet av yrket är meriterande En positiv atmosfär i teamet främjar produktivt samarbete och idéutbyte. Ta med CV och var förberedd på en speedintervju Arbetstider: Dagtid, kvällstid, flextid, vardagar och helger Kompetens Svenska (Meriterande) Engelska (Meriterande) Ryska (Meriterande) Ukrainska (Meriterande) Välkomna!

Loss: CosineSimilarityLoss with these parameters:

{
    "loss_fct": "torch.nn.modules.loss.MSELoss"
}

Training Hyperparameters

Non-Default Hyperparameters

per_device_train_batch_size: 16
per_device_eval_batch_size: 16
multi_dataset_batch_sampler: round_robin

All Hyperparameters

Click to expand

overwrite_output_dir: False
do_predict: False
eval_strategy: no
prediction_loss_only: True
per_device_train_batch_size: 16
per_device_eval_batch_size: 16
per_gpu_train_batch_size: None
per_gpu_eval_batch_size: None
gradient_accumulation_steps: 1
eval_accumulation_steps: None
torch_empty_cache_steps: None
learning_rate: 5e-05
weight_decay: 0.0
adam_beta1: 0.9
adam_beta2: 0.999
adam_epsilon: 1e-08
max_grad_norm: 1
num_train_epochs: 3
max_steps: -1
lr_scheduler_type: linear
lr_scheduler_kwargs: {}
warmup_ratio: 0.0
warmup_steps: 0
log_level: passive
log_level_replica: warning
log_on_each_node: True
logging_nan_inf_filter: True
save_safetensors: True
save_on_each_node: False
save_only_model: False
restore_callback_states_from_checkpoint: False
no_cuda: False
use_cpu: False
use_mps_device: False
seed: 42
data_seed: None
jit_mode_eval: False
use_ipex: False
bf16: False
fp16: False
fp16_opt_level: O1
half_precision_backend: auto
bf16_full_eval: False
fp16_full_eval: False
tf32: None
local_rank: 0
ddp_backend: None
tpu_num_cores: None
tpu_metrics_debug: False
debug: []
dataloader_drop_last: False
dataloader_num_workers: 0
dataloader_prefetch_factor: None
past_index: -1
disable_tqdm: False
remove_unused_columns: True
label_names: None
load_best_model_at_end: False
ignore_data_skip: False
fsdp: []
fsdp_min_num_params: 0
fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
fsdp_transformer_layer_cls_to_wrap: None
accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
deepspeed: None
label_smoothing_factor: 0.0
optim: adamw_torch
optim_args: None
adafactor: False
group_by_length: False
length_column_name: length
ddp_find_unused_parameters: None
ddp_bucket_cap_mb: None
ddp_broadcast_buffers: False
dataloader_pin_memory: True
dataloader_persistent_workers: False
skip_memory_metrics: True
use_legacy_prediction_loop: False
push_to_hub: False
resume_from_checkpoint: None
hub_model_id: None
hub_strategy: every_save
hub_private_repo: None
hub_always_push: False
gradient_checkpointing: False
gradient_checkpointing_kwargs: None
include_inputs_for_metrics: False
include_for_metrics: []
eval_do_concat_batches: True
fp16_backend: auto
push_to_hub_model_id: None
push_to_hub_organization: None
mp_parameters:
auto_find_batch_size: False
full_determinism: False
torchdynamo: None
ray_scope: last
ddp_timeout: 1800
torch_compile: False
torch_compile_backend: None
torch_compile_mode: None
dispatch_batches: None
split_batches: None
include_tokens_per_second: False
include_num_input_tokens_seen: False
neftune_noise_alpha: None
optim_target_modules: None
batch_eval_metrics: False
eval_on_start: False
use_liger_kernel: False
eval_use_gather_object: False
average_tokens_across_devices: False
prompts: None
batch_sampler: batch_sampler
multi_dataset_batch_sampler: round_robin

Framework Versions

Python: 3.10.16
Sentence Transformers: 3.3.1
Transformers: 4.47.1
PyTorch: 2.5.1+cu124
Accelerate: 1.2.1
Datasets: 3.2.0
Tokenizers: 0.21.0

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

Downloads last month: -

Safetensors

Model size

0.1B params

Tensor type

F32

Model tree for forestav/job_matching_sentence_transformer

Base model

sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2

Finetuned

(299)

this model

Space using forestav/job_matching_sentence_transformer 1

Paper for forestav/job_matching_sentence_transformer

Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks

Paper • 1908.10084 • Published Aug 27, 2019 • 11