iara-project/ModBERTBr-matryoshka-sts-pt

SentenceTransformer based on wallacelw/ModBERTBr

This is a sentence-transformers model finetuned from wallacelw/ModBERTBr on the nli_pt_anli, nli_pt_fever, nli_pt_ling, nli_pt_mnli, nli_pt_wanli, stsb, assin1, assin2, IRIS_sts, sick_br and mldr datasets. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

• Model Type: Sentence Transformer
• Base model: wallacelw/ModBERTBr
• Maximum Sequence Length: 512 tokens
• Output Dimensionality: 768 dimensions
• Similarity Function: Cosine Similarity
• Training Datasets:
  • nli_pt_anli
  • nli_pt_fever
  • nli_pt_ling
  • nli_pt_mnli
  • nli_pt_wanli
  • stsb
  • assin1
  • assin2
  • IRIS_sts
  • sick_br
  • mldr
• Languages: multilingual, zh, ja, ar, ko, de, fr, es, pt, hi, id, it, tr, ru, bn, ur, mr, ta, vi, fa, pl, uk, nl, sv, he, sw, ps, en, th

Model Sources

• Documentation: Sentence Transformers Documentation
• Repository: Sentence Transformers on GitHub
• Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 512, 'do_lower_case': False, 'architecture': 'ModernBertModel'})
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("iara-project/ModBERTBr-matryoshka-sts-pt")
# Run inference
sentences = [
    'Uma menina jovem está usando língua de sinais',
    'Língua de sinais está sendo usada por uma jovem menina',
    'A mulher está fatiando um tomate',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities)
# tensor([[1.0000, 0.9575, 0.1441],
#         [0.9575, 1.0000, 0.1968],
#         [0.1441, 0.1968, 1.0000]])

Evaluation

Metrics

Semantic Similarity

• Datasets: stsb-pt-dev-768, assin2-dev-768, iris_sts-dev-768 and sick_br_dev-768
• Evaluated with EmbeddingSimilarityEvaluator with these parameters:

  {
      "truncate_dim": 768
  }
  

Metric	stsb-pt-dev-768	assin2-dev-768	iris_sts-dev-768	sick_br_dev-768
pearson_cosine	0.834	0.9752	0.7805	0.8655
spearman_cosine	0.839	0.9721	0.7811	0.8357

Semantic Similarity

• Datasets: stsb-pt-dev-512, assin2-dev-512, iris_sts-dev-512 and sick_br_dev-512
• Evaluated with EmbeddingSimilarityEvaluator with these parameters:

  {
      "truncate_dim": 512
  }
  

Metric	stsb-pt-dev-512	assin2-dev-512	iris_sts-dev-512	sick_br_dev-512
pearson_cosine	0.8325	0.9756	0.7802	0.8636
spearman_cosine	0.838	0.9727	0.7815	0.8344

Semantic Similarity

• Datasets: stsb-pt-dev-256, assin2-dev-256, iris_sts-dev-256 and sick_br_dev-256
• Evaluated with EmbeddingSimilarityEvaluator with these parameters:

  {
      "truncate_dim": 256
  }
  

Metric	stsb-pt-dev-256	assin2-dev-256	iris_sts-dev-256	sick_br_dev-256
pearson_cosine	0.8295	0.9756	0.7762	0.8626
spearman_cosine	0.8363	0.9727	0.7783	0.8333

Semantic Similarity

• Datasets: stsb-pt-dev-128, assin2-dev-128, iris_sts-dev-128 and sick_br_dev-128
• Evaluated with EmbeddingSimilarityEvaluator with these parameters:

  {
      "truncate_dim": 128
  }
  

Metric	stsb-pt-dev-128	assin2-dev-128	iris_sts-dev-128	sick_br_dev-128
pearson_cosine	0.8236	0.9768	0.7586	0.8617
spearman_cosine	0.8324	0.9723	0.7665	0.8329

Semantic Similarity

• Datasets: stsb-pt-dev-64, assin2-dev-64, iris_sts-dev-64 and sick_br_dev-64
• Evaluated with EmbeddingSimilarityEvaluator with these parameters:

  {
      "truncate_dim": 64
  }
  

Metric	stsb-pt-dev-64	assin2-dev-64	iris_sts-dev-64	sick_br_dev-64
pearson_cosine	0.8087	0.9771	0.751	0.8565
spearman_cosine	0.8225	0.9715	0.7654	0.8288

Training Details

Training Datasets

nli_pt_anli

nli_pt_anli

• Dataset: nli_pt_anli at 510a233
• Size: 7,995 training samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 30 tokens mean: 105.35 tokens max: 512 tokens	min: 6 tokens mean: 19.49 tokens max: 120 tokens

• Samples:

  anchor	positive
  Descrito como "o mentor que fez Shirley Temple a estrela infantil mais famosa da história, Betty Grable um GI Joe pinup menina e Marilyn Monroe uma deusa do sexo", Brand foi o chefe de publicidade na 20th Century Fox de 1935 até 1962.	Harry Brand viveu na América.
  O acidente de jet skibr>Wendy era apenas um motorista de jet ski amador que gostava da velocidade. Ela era jovem e descuidada e muitas vezes andava muito rápido. Um dia ela não escutava seus amigos e continuava a acelerar. Ela tentou fazer um salto perto de uma rocha e caiu horrivelmente. Seus amigos tentaram salvá-la, mas era tarde demais, ela estava morta.	wendy dirigiu muito rápido enquanto em um jet ski
  Como jogar bejeweled 2 deluxebr>Mude gemas clicando sobre elas e, em seguida, clicando em uma gema adjacente (esquerda, direita, para cima ou para baixo) para trocar seus lugares para formar uma cadeia de três ou mais gemas. Quanto mais gemas você cadeia, mais pontos você ganha. [subeta] 5 gemas em uma linha produz um hiper cubo.	Quanto mais gemas você acorrentar dois ou mais, mais pontos você ganha.

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

nli_pt_fever

nli_pt_fever

• Dataset: nli_pt_fever at 510a233
• Size: 14,684 training samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 19 tokens mean: 89.55 tokens max: 168 tokens	min: 7 tokens mean: 17.13 tokens max: 46 tokens

• Samples:

  anchor	positive
  O morcego de nariz de porco de Kitti ( Craseonycteris thonglongyai ), também conhecido como morcego de abelha, é uma espécie vulnerável de morcego e o único membro existente da família Craseonycteridae.	O morcego com nariz de porco de Kitti é uma espécie de morcego que é categorizada como vulnerável.
  Gangster é um filme de crime romântico indiano de 2006 que estreou em 28 de abril. Kangana Ranaut. Após o treinamento sob o diretor de teatro Arvind Gaur, Ranaut fez sua estréia no cinema no thriller de 2006 Gangster, pelo qual ela foi premiada com o Filmfare Award de Melhor Estreia Feminina.	A estreia do longa-metragem de Kangana Ranaut foi em um filme de crime romântico indiano.
  No Japão, eles se tornaram o primeiro girl group não-japonês a ter três álbuns número um na Japanese Oricon Albums Chart, e suas três turnês de concertos japoneses atraiu um recorde de 550.000 espectadores, mais do que qualquer outro grupo feminino coreano. Kwon Yu-ri (nascido em 5 de dezembro de 1989 ), mais conhecido pelo monônimo Yuri, é um cantor e atriz sul-coreana.	A geração das meninas tem meninas.

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

nli_pt_ling

nli_pt_ling

• Dataset: nli_pt_ling at 510a233
• Size: 1,678 training samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 7 tokens mean: 37.81 tokens max: 154 tokens	min: 4 tokens mean: 18.77 tokens max: 78 tokens

• Samples:

  anchor	positive
  Ah, é sempre o grande, mas.	Nunca é pequeno, mas
  A Suprema Corte de Vermont concedeu aos gays maiores direitos de parceria.	Em Vermont, os gays agora têm mais direitos de parceria.
  Mas um verdadeiro predador que conheço está usando, vendendo e quase certamente cometendo outros crimes.	Um predador que eu conheço está cometendo crimes.

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

nli_pt_mnli

nli_pt_mnli

• Dataset: nli_pt_mnli at 510a233
• Size: 8,301 training samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 4 tokens mean: 34.87 tokens max: 155 tokens	min: 5 tokens mean: 18.66 tokens max: 50 tokens

• Samples:

  anchor	positive
  Mesmo o funcionário mais caloroso pode parecer indiferente em relação aos clientes que estão mal vestidos.	Clientes mal vestidos ainda parecerão ser julgados até mesmo pelos funcionários mais legais.
  Lesões em acidentes de trânsito duplicaram entre 1996 e 1997.	Entre 1996 e 1997, os acidentes de trânsito duplicaram.
  As principais mudanças não foram para tarefas e rotinas diárias, mas para a base de poder político, que mudou regularmente e não necessariamente pacificamente ao longo dos tempos.	A base do poder político mudou muito.

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

nli_pt_wanli

nli_pt_wanli

• Dataset: nli_pt_wanli at 510a233
• Size: 9,329 training samples
• Columns: anchor and positive
• Approximate statistics based on the first 1000 samples:

  	anchor	positive
  type	string	string
  details	min: 7 tokens mean: 29.31 tokens max: 123 tokens	min: 4 tokens mean: 17.02 tokens max: 88 tokens

• Samples:

  anchor	positive
  Uma preocupação mais prática é que as regras de etiqueta são tão complicadas que, mesmo que você as conheça, talvez não seja possível aplicá-las corretamente.	É difícil seguir as regras da etiqueta.
  Como eu já disse antes, estamos todos sobre a criação de novas oportunidades para aqueles que querem tirar proveito deles.	Somos todos sobre a criação de novas oportunidades para aqueles que querem tirar proveito deles.
  E se não o fizermos, então teremos que aceitar a conclusão de que nossa inteligência é inadequada.	Nossa inteligência é inadequada.

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

stsb

stsb

• Dataset: stsb at 3acaa3d
• Size: 5,749 training samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 8 tokens mean: 14.08 tokens max: 36 tokens	min: 8 tokens mean: 14.01 tokens max: 29 tokens	min: 0.0 mean: 0.45 max: 1.0

• Samples:

  sentence1	sentence2	label
  Um avião está a descolar.	Um avião aéreo está a descolar.	1.0
  Um homem está a tocar uma grande flauta.	Um homem está a tocar uma flauta.	0.7599999904632568
  Um homem está a espalhar queijo desfiado numa pizza.	Um homem está a espalhar queijo desfiado sobre uma pizza não cozida.	0.7599999904632568

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

assin1

assin1

• Dataset: assin1 at 6535e48
• Size: 5,000 training samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 11 tokens mean: 26.07 tokens max: 56 tokens	min: 10 tokens mean: 22.51 tokens max: 47 tokens	min: 0.2 mean: 0.61 max: 1.0

• Samples:

  sentence1	sentence2	label
  A gente faz o aporte financeiro, é como se a empresa fosse parceira do Monte Cristo.	Fernando Moraes afirma que não tem vínculo com o Monte Cristo além da parceira.	0.4
  Em 2013, a história de como Walt Disney convenceu P.L.	P.L.Travers era completamente contra a adaptação de Walt Disney.	0.45
  David Silva bateu escanteio, Kompany escalou as costas de Chiellini e o zagueiro marcou contra.	David Silva cobrou escanteio, o zagueiro se apoiou em Chiellini e cabeceou.	0.75

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

assin2

assin2

• Dataset: assin2 at 0ff9c86
• Size: 6,500 training samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 5 tokens mean: 14.66 tokens max: 41 tokens	min: 5 tokens mean: 13.82 tokens max: 41 tokens	min: 0.3 mean: 0.93 max: 1.0

• Samples:

  sentence1	sentence2	label
  Uma criança risonha está segurando uma pistola de água e sendo espirrada com água	Uma criança está segurando uma pistola de água	0.9
  Os homens estão cuidadosamente colocando as malas no porta-malas de um carro	Os homens estão colocando bagagens dentro do porta-malas de um carro	0.9
  Uma pessoa tem cabelo loiro e esvoaçante e está tocando violão	Um guitarrista tem cabelo loiro e esvoaçante	0.9399999618530274

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

IRIS_sts

IRIS_sts

• Dataset: IRIS_sts at 8adf343
• Size: 1,667 training samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 15 tokens mean: 38.84 tokens max: 84 tokens	min: 14 tokens mean: 37.63 tokens max: 79 tokens	min: 0.0 mean: 0.52 max: 1.0

• Samples:

  sentence1	sentence2	label
  A questão da existência de uma presunção constitui antecedente lógico da elisão dessa presunção.	Constitui requisito de existência da presunção de aceitação do despedimento por extinção do posto de trabalho, a que se refere o art.	0.483483258943473
  Com efeito, nesse caso do que se tratará será de uma errada aplicação do direito aos factos, designadamente aos considerados provados.	Isto é: não se extraíram as consequências jurídicas adequadas do que provado se considerou.	0.4286842926170479
  II - É nula a sentença de regulação das responsabilidades parentais cuja motivação se apoia em relatórios do ISS de cujo teor as partes não foram notificadas.	II - A decisão sobre as responsabilidades parentais é inválida se ela foi baseada em relatórios do ISS que as partes não foram informadas.	0.816343029699518

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

sick_br

sick_br

• Dataset: sick_br at 0cdfb1d
• Size: 4,439 training samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 6 tokens mean: 14.86 tokens max: 34 tokens	min: 6 tokens mean: 14.52 tokens max: 35 tokens	min: 0.2 mean: 0.68 max: 1.0

• Samples:

  sentence1	sentence2	label
  Um grupo de crianças está brincando em um quintal e um homem velho está parado ao fundo	Um grupo de meninos em um quintal está brincando e um homem está de pé ao fundo	0.9
  Um grupo de crianças está brincando na casa e não tem nenhum homem parado ao fundo	Um grupo de crianças está brincando em um quintal e um homem velho está parado ao fundo	0.64
  Os meninos jovens estão brincando ao ar livre e o homem está sorrindo por perto	As crianças estão brincando ao ar livre perto de um homem com um sorriso	0.9400000000000001

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

mldr

mldr

• Dataset: mldr at 40ad767
• Size: 1,845 training samples
• Columns: anchor, positive, and negative
• Approximate statistics based on the first 1000 samples:

  	anchor	positive	negative
  type	string	string	string
  details	min: 8 tokens mean: 20.85 tokens max: 114 tokens	min: 512 tokens mean: 512.0 tokens max: 512 tokens	min: 512 tokens mean: 512.0 tokens max: 512 tokens

• Samples:

  anchor	positive	negative
  Quais são os principais mecanismos usados pela fagocitose para remover patógenos e restos celulares?	Fagocitose Fagocitose ( do grego antigo, "φαγεῖν" (phagein), "devorar" , "κύτος" (kytos), "células") é o processo pelo qual uma célula usa sua membrana plasmática para englobar partículas grandes (≥ 0,5 μm), dando origem a um compartimento interno chamado fagossoma. Nos sistemas imunológicos de organismos multicelulares, a fagocitose é um dos principais mecanismos usados para remover patógenos e restos celulares. O material ingerido é então digerido no fagossoma. Bactérias, células de tecidos mortos e pequenas partículas minerais são exemplos de objetos que podem ser fagocitados. Alguns protozoários usam a fagocitose como meio de obter nutrientes. História. A fagocitose foi observada pela primeira vez pelo médico canadense William Osler (1876), e mais tarde estudada e nomeada por Élie Metchnikoff (1880, 1883). No sistema imunológico. A fagocitose é um dos principais mecanismos da resposta imune inata. É um dos primeiros mecanismos de resposta à infecção e um dos ramos iniciais de uma ...	Vespa Vespa, marimbondo ou cabatão é o nome comum aplicado a diversas espécies de insetos pertencentes à subordem Apocrita da ordem Hymenoptera. Na definição mais abrangente, este nome é utilizado para se referir a qualquer himenóptero que não é abelha nem formiga. Em geral, faz-se a distinção das vespas-serra, himenópteros sem pecíolo que são considerados como uma subordem distinta, Symphyta. As vespas não constituem um clado, ou seja, o termo não representa um grupo natural de organismos que inclui todos os descendentes de um grupo ancestral. As vespas mais popularmente conhecidas pertencem à família Vespidae e são eusociais, vivendo juntas em um ninho com uma rainha que põe ovos e operárias que não se reproduzem. No entanto, a maioria das espécies de vespas são solitárias, com cada fêmea adulta vivendo e se reproduzindo independentemente. As vespas desempenham muitos papéis ecológicos, incluindo espécies tanto fitófagas quanto entomófagas. Muitas, como as vespas-cuco, são cleptopar...
  Quais são as características principais do cálcio?	Cálcio O cálcio é um elemento químico, símbolo Ca, de número atómico 20 (20 prótons e 20 elétrons) e massa atómica 40u. É um metal da família dos alcalino-terrosos, pertencente ao grupo 2 da classificação periódica dos elementos químicos. Foi isolado pela primeira vez em 1808, em uma forma impura, pelo químico britânico Humphry Davy mediante a eletrólise de uma amálgama de mercúrio (HgO) e cal (CaO). Características principais. O cálcio é um metal alcalino-terroso, mole, maleável e dúctil que arde com chama vermelha formando óxido de cálcio e nitreto. As superfícies são de coloração branca prateada que rapidamente se tornam levemente amareladas quando expostas ao ar, finalmente com coloração cinza ou branca devido à formação de hidróxido ao reagir com a umidade ambiental. Reage violentamente com a água para formar o hidróxido de cálcio, Ca(OH)2, com desprendimento de hidrogênio. Papel biológico. O cálcio (Ca2+) é um elemento regulador universal que acopla intimamente os sinais biótico...	Humidade A é a quantidade de vapor de água na atmosfera. Fisicamente, a humidade relativa é definida como a razão da quantidade de vapor de água presente numa porção da atmosfera (pressão parcial de vapor) com a quantidade máxima de vapor de água que a atmosfera pode suportar a uma determinada temperatura (pressão de vapor). A humidade relativa é uma importante variável (medida) usada na previsão do tempo, e indica a possibilidade de precipitação (chuva, neve, granizo, entre outros), orvalho ou nevoeiro. A alta humidade durante dias quentes faz a sensação térmica aumentar, ou seja, a pessoa tem a impressão de que está mais calor, devido à redução da eficácia da transpiração da pele, e assim reduzindo o resfriamento corporal. Por outro lado, a baixa humidade dos desertos causa uma grande diferença de temperatura entre o dia e a noite. Este efeito é calculado pela tabela de índice de calor. Tipos de humidade. Humidade absoluta (base volumétrica). A humidade absoluta em uma base volumétr...
  Quais são os ésteres mais comuns encontrados na natureza?	Éster Na química, a função éster é caracterizada pela estrutura R-COOR'. Os ésteres carboxílicos apresentam uma alcoxila ligada à uma carbonila e são usualmente resultantes de uma reação entre álcoois (em alguns casos, fenóis) e ácidos carboxílico, e o resultado é a substituição de um átomo de hidrogênio presente na carboxila (-COOH) dos ácidos carboxílicos por um grupo alquila (R) ou arila (Ar). Já os ésteres inorgânicos resultam de reações entre álcoois e oxiácidos inorgânicos, de modo que o ácido perde um próton (H+) e se liga à cadeia que outrora pertencia a um álcool, após a perda da hidroxila (OH-) por esta molécula. Assim, reações de esterificação - como são denominadas as reações entre álcoois/fenóis e ácidos -também produzem água (HOH ou H2O). Os ésteres mais comuns que se encontram na natureza são os triglicerídeos - triésteres de glicerina - constituintes de óleos e gorduras indispensáveis à alimentação humana. Além disso, também ocorrem no aroma das flores e no sabor dos f...	Literatura A Literatura é a arte que usa a linguagem escrita como meio de expressão, seja em prosa ou em verso, de acordo com princípios teóricos e práticos; sendo o conjunto de obras escritas ou orais às quais reconhecemos um valor estético. A Literatura abrange qualquer coleção de obras escritas, incluindo escrita impressa e digital. Etimologia. A palavra Literatura vem do latim "litteris" que significa "Letras", e possivelmente uma tradução do grego "grammatikee". Em latim, literatura significa uma instrução ou um conjunto de saberes ou habilidades de escrever e ler bem, e se relaciona com as técnicas da gramática, da retórica e da poética. Por extensão, se refere especificamente ao ofício de escrever. O termo Literatura também é usado como referência a um conjunto escolhido de textos, por exemplo a literatura portuguesa, a literatura espanhola, a literatura inglesa, a literatura brasileira, a literatura japonesa, etc. Definição. Mais produtivo do que tentar definir Literatura talv...

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "MultipleNegativesRankingLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

Evaluation Datasets

stsb

stsb

• Dataset: stsb at 3acaa3d
• Size: 1,500 evaluation samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 1000 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 6 tokens mean: 20.87 tokens max: 76 tokens	min: 8 tokens mean: 20.87 tokens max: 73 tokens	min: 0.0 mean: 0.42 max: 1.0

• Samples:

  sentence1	sentence2	label
  Um homem de chapéu duro está a dançar.	Um homem com um capacete está a dançar.	1.0
  Uma criança pequena está a montar a cavalo.	Uma criança está a montar a cavalo.	0.95
  Um homem está a alimentar um rato a uma cobra.	O homem está a alimentar a cobra com um rato.	1.0

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

assin2

assin2

• Dataset: assin2 at 0ff9c86
• Size: 500 evaluation samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 500 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 6 tokens mean: 13.73 tokens max: 32 tokens	min: 6 tokens mean: 13.69 tokens max: 38 tokens	min: 0.2 mean: 0.79 max: 1.0

• Samples:

  sentence1	sentence2	label
  Uma pequena menina está sorrindo e usando um nariz falso e óculos	A menina pequena está sorrindo e usando um nariz falso e óculos	0.9800000190734863
  Um grupo de pessoas jogando futebol está correndo no campo	Um grupo de jogadores de futebol está correndo no campo	0.9600000381469727
  O homem está empinando uma motocicleta num chão que é praticamente árido	O homem está desmontando de uma moto para um chão que é praticamente árido	0.7199999809265136

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

IRIS_sts

IRIS_sts

• Dataset: IRIS_sts at 8adf343
• Size: 556 evaluation samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 556 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 19 tokens mean: 38.3 tokens max: 83 tokens	min: 16 tokens mean: 37.79 tokens max: 131 tokens	min: 0.0 mean: 0.5 max: 1.0

• Samples:

  sentence1	sentence2	label
  Nos termos do disposto no artigo 1083. do CPC, constituindo, como é o caso, dependência de outro processo judicial, a competência para o inventário é exclusiva dos tribunais cfr.	Essa norma existe relativamente à provisão para despesas, pois que o n 10 do art.	0.09996932915109477
  II - Da insolvência de um dos ex-cônjuges não decorre necessariamente a insolvência do património comum do ex-casal, não obstante, como é sabido, o art.	II - A apensação de processos de expropriação de parcelas contíguas e do mesmo dono resulta do art.	0.15428183762417896
  44, n. 1, do suscitar antecipadamente nove questões de inconstitucionalidade, nos termos e para os efeitos dos art.os 7, n. 1, al.	41, do CPP, oportunidade que o mesmo aproveitou reiterando a arguição das inconstitucionalidades.	0.2198436643850504

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

sick_br

sick_br

• Dataset: sick_br at 0cdfb1d
• Size: 495 evaluation samples
• Columns: sentence1, sentence2, and label
• Approximate statistics based on the first 495 samples:

  	sentence1	sentence2	label
  type	string	string	float
  details	min: 6 tokens mean: 14.93 tokens max: 41 tokens	min: 6 tokens mean: 14.36 tokens max: 39 tokens	min: 0.2 mean: 0.72 max: 1.0

• Samples:

  sentence1	sentence2	label
  Os meninos jovens estão brincando ao ar livre e o homem está sorrindo por perto	Não tem nenhum menino brincando ao ar livre e não tem nenhum homem sorrindo	0.72
  Uma pessoa de blusa preta está fazendo truques em uma moto	Uma pessoa habilidosa está andando de bicicleta sobre uma roda	0.6799999999999999
  Quatro crianças estão fazendo ponte na academia	Quatro garotas estão fazendo ponte e brincando ao ar livre	0.76

• Loss: MatryoshkaLoss with these parameters:

  {
      "loss": "CoSENTLoss",
      "matryoshka_dims": [
          768,
          512,
          256,
          128,
          64
      ],
      "matryoshka_weights": [
          1,
          1,
          1,
          1,
          1
      ],
      "n_dims_per_step": -1
  }
  

Training Hyperparameters

Non-Default Hyperparameters

• per_device_train_batch_size: 128
• num_train_epochs: 20
• warmup_steps: 0.1
• weight_decay: 0.2
• gradient_accumulation_steps: 4
• fp16: True
• gradient_checkpointing: True
• gradient_checkpointing_kwargs: {'use_reentrant': False}
• eval_strategy: steps

All Hyperparameters

Click to expand

• per_device_train_batch_size: 128
• num_train_epochs: 20
• max_steps: -1
• learning_rate: 5e-05
• lr_scheduler_type: linear
• lr_scheduler_kwargs: None
• warmup_steps: 0.1
• optim: adamw_torch_fused
• optim_args: None
• weight_decay: 0.2
• adam_beta1: 0.9
• adam_beta2: 0.999
• adam_epsilon: 1e-08
• optim_target_modules: None
• gradient_accumulation_steps: 4
• average_tokens_across_devices: True
• max_grad_norm: 1.0
• label_smoothing_factor: 0.0
• bf16: False
• fp16: True
• bf16_full_eval: False
• fp16_full_eval: False
• tf32: None
• gradient_checkpointing: True
• gradient_checkpointing_kwargs: {'use_reentrant': False}
• torch_compile: False
• torch_compile_backend: None
• torch_compile_mode: None
• use_liger_kernel: False
• liger_kernel_config: None
• use_cache: False
• neftune_noise_alpha: None
• torch_empty_cache_steps: None
• auto_find_batch_size: False
• log_on_each_node: True
• logging_nan_inf_filter: True
• include_num_input_tokens_seen: no
• log_level: passive
• log_level_replica: warning
• disable_tqdm: False
• project: huggingface
• trackio_space_id: trackio
• eval_strategy: steps
• per_device_eval_batch_size: 8
• prediction_loss_only: True
• eval_on_start: False
• eval_do_concat_batches: True
• eval_use_gather_object: False
• eval_accumulation_steps: None
• include_for_metrics: []
• batch_eval_metrics: False
• save_only_model: False
• save_on_each_node: False
• enable_jit_checkpoint: False
• push_to_hub: False
• hub_private_repo: None
• hub_model_id: None
• hub_strategy: every_save
• hub_always_push: False
• hub_revision: None
• load_best_model_at_end: False
• ignore_data_skip: False
• restore_callback_states_from_checkpoint: False
• full_determinism: False
• seed: 42
• data_seed: None
• use_cpu: False
• accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
• parallelism_config: None
• dataloader_drop_last: False
• dataloader_num_workers: 0
• dataloader_pin_memory: True
• dataloader_persistent_workers: False
• dataloader_prefetch_factor: None
• remove_unused_columns: True
• label_names: None
• train_sampling_strategy: random
• length_column_name: length
• ddp_find_unused_parameters: None
• ddp_bucket_cap_mb: None
• ddp_broadcast_buffers: False
• ddp_backend: None
• ddp_timeout: 1800
• fsdp: []
• fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
• deepspeed: None
• debug: []
• skip_memory_metrics: True
• do_predict: False
• resume_from_checkpoint: None
• warmup_ratio: None
• local_rank: -1
• prompts: None
• batch_sampler: batch_sampler
• multi_dataset_batch_sampler: proportional
• router_mapping: {}
• learning_rate_mapping: {}

Training Logs

Epoch	Step	Training Loss	stsb loss	assin2 loss	IRIS sts loss	sick br loss	stsb-pt-dev-768_spearman_cosine	assin2-dev-768_spearman_cosine	iris_sts-dev-768_spearman_cosine	sick_br_dev-768_spearman_cosine	stsb-pt-dev-512_spearman_cosine	assin2-dev-512_spearman_cosine	iris_sts-dev-512_spearman_cosine	sick_br_dev-512_spearman_cosine	stsb-pt-dev-256_spearman_cosine	assin2-dev-256_spearman_cosine	iris_sts-dev-256_spearman_cosine	sick_br_dev-256_spearman_cosine	stsb-pt-dev-128_spearman_cosine	assin2-dev-128_spearman_cosine	iris_sts-dev-128_spearman_cosine	sick_br_dev-128_spearman_cosine	stsb-pt-dev-64_spearman_cosine	assin2-dev-64_spearman_cosine	iris_sts-dev-64_spearman_cosine	sick_br_dev-64_spearman_cosine
0.7547	100	22.6372	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.5057	200	18.9339	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
1.8830	250	-	20.6147	14.1665	16.7507	14.6015	0.7473	0.8522	0.7058	0.7944	0.7378	0.8569	0.7063	0.7955	0.7394	0.8597	0.6976	0.7923	0.7333	0.8633	0.6881	0.7921	0.7272	0.8615	0.6839	0.7940
2.2566	300	16.8716	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
3.0075	400	15.8114	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
3.7623	500	14.8799	23.1931	12.7336	17.2336	14.3510	0.7851	0.8986	0.7160	0.8207	0.7791	0.9014	0.7133	0.8195	0.7783	0.9039	0.7018	0.8171	0.7684	0.9038	0.6843	0.8118	0.7565	0.9016	0.6764	0.8039
4.5132	600	14.8059	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
5.2642	700	14.3075	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
5.6415	750	-	25.9360	12.7569	18.9743	14.3221	0.7937	0.9079	0.7403	0.8263	0.7894	0.9084	0.7363	0.8264	0.7873	0.9099	0.7238	0.8240	0.7782	0.9095	0.7005	0.8218	0.7683	0.9062	0.6833	0.8134
6.0151	800	15.6394	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
6.7698	900	14.3818	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
7.5208	1000	14.3093	24.7551	11.2200	18.7388	15.2102	0.8049	0.9399	0.7518	0.8381	0.8016	0.9415	0.7494	0.8380	0.7999	0.9435	0.7411	0.8354	0.7927	0.9441	0.7211	0.8332	0.7864	0.9420	0.7209	0.8295
8.2717	1100	13.5644	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
9.0226	1200	14.6532	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
9.4	1250	-	23.2533	11.1225	17.9615	15.3355	0.8136	0.9478	0.7608	0.8414	0.8096	0.9494	0.7597	0.8411	0.8082	0.9503	0.7499	0.8409	0.8024	0.9510	0.7318	0.8407	0.7919	0.9492	0.7290	0.8329
9.7774	1300	14.6498	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
10.5283	1400	13.0499	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
11.2792	1500	13.4612	23.7239	10.3460	19.1976	16.7598	0.8206	0.9578	0.7626	0.8475	0.8184	0.9581	0.7627	0.8460	0.8169	0.9584	0.7557	0.8440	0.8114	0.9585	0.7377	0.8414	0.8023	0.9570	0.7360	0.8359
12.0302	1600	13.9184	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
12.7849	1700	13.7731	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
13.1585	1750	-	25.3753	10.4423	22.3664	18.6086	0.8279	0.9614	0.7719	0.8404	0.8264	0.9618	0.7718	0.8389	0.8241	0.9620	0.7658	0.8383	0.8189	0.9626	0.7514	0.8364	0.8098	0.9614	0.7476	0.8314
13.5358	1800	11.4334	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
14.2868	1900	14.0157	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
15.0377	2000	12.3690	25.9380	9.2861	21.8126	19.4861	0.8275	0.9677	0.7684	0.8375	0.8261	0.9683	0.7676	0.8357	0.8245	0.9682	0.7607	0.8347	0.8199	0.9685	0.7429	0.8351	0.8111	0.9678	0.7402	0.8309
15.7925	2100	12.4846	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
16.5434	2200	12.4079	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
16.9208	2250	-	26.1829	9.4205	24.1923	21.8747	0.8337	0.9682	0.7760	0.8393	0.8326	0.9687	0.7756	0.8383	0.8310	0.9691	0.7705	0.8362	0.8269	0.9691	0.7575	0.8358	0.8175	0.9682	0.7563	0.8322
17.2943	2300	12.4579	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
18.0453	2400	11.6376	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-
18.8	2500	12.4512	26.4626	9.2224	26.5204	23.7068	0.8390	0.9721	0.7811	0.8357	0.8380	0.9727	0.7815	0.8344	0.8363	0.9727	0.7783	0.8333	0.8324	0.9723	0.7665	0.8329	0.8225	0.9715	0.7654	0.8288
19.5509	2600	10.7884	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-	-

Framework Versions

• Python: 3.11.12
• Sentence Transformers: 5.3.0
• Transformers: 5.3.0
• PyTorch: 2.10.0+cu128
• Accelerate: 1.13.0
• Datasets: 4.8.3
• Tokenizers: 0.22.2

Citation

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}

MatryoshkaLoss

@misc{kusupati2024matryoshka,
    title={Matryoshka Representation Learning},
    author={Aditya Kusupati and Gantavya Bhatt and Aniket Rege and Matthew Wallingford and Aditya Sinha and Vivek Ramanujan and William Howard-Snyder and Kaifeng Chen and Sham Kakade and Prateek Jain and Ali Farhadi},
    year={2024},
    eprint={2205.13147},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}

MultipleNegativesRankingLoss

@misc{oord2019representationlearningcontrastivepredictive,
      title={Representation Learning with Contrastive Predictive Coding},
      author={Aaron van den Oord and Yazhe Li and Oriol Vinyals},
      year={2019},
      eprint={1807.03748},
      archivePrefix={arXiv},
      primaryClass={cs.LG},
      url={https://arxiv.org/abs/1807.03748},
}

CoSENTLoss

@article{10531646,
    author={Huang, Xiang and Peng, Hao and Zou, Dongcheng and Liu, Zhiwei and Li, Jianxin and Liu, Kay and Wu, Jia and Su, Jianlin and Yu, Philip S.},
    journal={IEEE/ACM Transactions on Audio, Speech, and Language Processing},
    title={CoSENT: Consistent Sentence Embedding via Similarity Ranking},
    year={2024},
    doi={10.1109/TASLP.2024.3402087}
}