M-IFEval: Multilingual Instruction-Following Evaluation
Paper • 2502.04688 • Published
Datasets:
Tasks:
Text Generation
Modalities:
Text
Formats:
json
Languages:
Portuguese
Size:
< 1K
ArXiv:
License:
key int64 0 709 | instruction_id_list listlengths 1 3 | prompt stringlengths 42 1.86k | kwargs listlengths 1 3 |
|---|---|---|---|
0 | [
"pt:keywords:existence"
] | Redija uma postagem de blog, assegurando que as palavras‑chave ['saudade', 'saúde'] sejam incluídas na resposta. | [
{
"keywords": [
"saudade",
"saúde"
]
}
] |
2 | [
"pt:keywords:frequency"
] | Escreva um boletim informativo. Em sua resposta, a palavra saúde deverá ser mencionada menos de três vezes. | [
{
"keyword": "saúde",
"frequency": 3,
"relation": "menos que"
}
] |
4 | [
"pt:keywords:forbidden_words"
] | Escreva uma história. Certifique‑se de que a resposta não contenha as palavras ['cidadão', 'cultura']. | [
{
"forbidden_words": [
"cidadão",
"cultura"
]
}
] |
6 | [
"pt:keywords:letter_frequency"
] | Escreva uma redação. Na sua produção, a letra b deve ocorrer menos que 6 vezes. | [
{
"letter": "b",
"let_frequency": 6,
"let_relation": "menos que"
}
] |
8 | [
"pt:language:response_language"
] | Escreva um ensaio — a sua resposta deve ser INTEIRAMENTE em Korean; nenhuma outra língua é permitida. | [
{
"language": "ko"
}
] |
10 | [
"pt:length_constraints:number_sentences"
] | Redija uma análise literária; sua resposta deve conter ao menos dezesseis sentenças. | [
{
"num_sentences": 16,
"relation": "ao menos"
}
] |
12 | [
"pt:length_constraints:number_paragraphs"
] | Escreva uma notícia.
É necessário que o texto contenha exatamente 1 parágrafos.
Parágrafos são separados com o divisor de markdown: *** | [
{
"num_paragraphs": 1
}
] |
14 | [
"pt:length_constraints:number_words"
] | Por gentileza, escreva uma proposta de compra.
Responda com menos que 401 palavras. | [
{
"num_words": 401,
"relation": "menos que"
}
] |
16 | [
"pt:length_constraints:nth_paragraph_first_word"
] | Por gentileza, Escreva uma ou mais piadas. O texto deve conter 4 paragrafos. Paragrafos e apenas paragrafos são separados entre si por duas novas linhas como se fosse '\n\n' em python. O paragrafo 4 deve começar com a palavra trabalho. | [
{
"num_paragraphs": 4,
"nth_paragraph": 4,
"first_word": "trabalho"
}
] |
18 | [
"pt:detectable_content:number_placeholders"
] | Escreva um ensaio. É imprescindível que a resposta contenha, ao menos, quatro espaços reservados indicados por colchetes, como por exemplo [nome]. | [
{
"num_placeholders": 4
}
] |
20 | [
"pt:detectable_content:postscript"
] | Escreva uma descrição de produto.
Ao concluir a sua resposta, inclua de forma explícita um pós‑escrito que tenha início com OBS. | [
{
"postscript_marker": "OBS."
}
] |
22 | [
"pt:detectable_format:number_bullet_lists"
] | Conforme solicitado, escreva uma legenda para foto.
Sua resposta deve conter exatamente 2 pontos de lista. Use os pontos de listas de Markdown tal como:
* Esse é o ponto 1.
* Esse é o ponto 2. | [
{
"num_bullets": 2
}
] |
26 | [
"pt:detectable_format:number_highlighted_sections"
] | Redija um comunicado de imprensa. Realce, ao menos, duas sessões em sua resposta empregando markdown, isto é, entre asteriscos: *sessão destacada*. | [
{
"num_highlights": 2
}
] |
30 | [
"pt:detectable_format:json_format"
] | Redija uma instrução passo a passo. Toda a saída deve ser encapsulada em formato JSON. Você pode empregar Markdown, como por exemplo ```. | [
{}
] |
32 | [
"pt:detectable_format:title"
] | Redija um ensaio.
Sua resposta deve apresentar um título, inserido entre colchetes angulares duplos, como em <<poema de alegria>>. | [
{}
] |
34 | [
"pt:combination:two_responses"
] | Redija um e‑mail de demissão. Apresente duas respostas distintas. As respostas, e somente as respostas, devem ser separadas por exatamente seis símbolos de asterisco: ******. | [
{}
] |
36 | [
"pt:startend:end_checker"
] | Escreva uma carta aberta ao publico, sobre algum evento. Ao concluir sua resposta, insira exatamente a seguinte frase: Você possui alguma outra dúvida?. Não adicione nenhuma palavra após essa frase. | [
{
"end_phrase": "Você possui alguma outra dúvida?"
}
] |
38 | [
"pt:change_case:capital_word_frequency"
] | Escreva uma proposta de projeto. Na sua resposta, palavras escritas inteiramente em letras maiúsculas devem aparecer ao menos 5 vezes. | [
{
"capital_frequency": 5,
"capital_relation": "ao menos"
}
] |
40 | [
"pt:change_case:english_capital"
] | Elabore um comunicado oficial. sua resposta deve estar inteiramente em português e totalmente em letras maiúsculas. | [
{}
] |
42 | [
"pt:change_case:english_lowercase"
] | Escreva um poema. Sua resposta tem de estar integralmente em português e exclusivamente em letras minúsculas. Nenhuma letra maiúscula é permitida. | [
{}
] |
44 | [
"pt:punctuation:no_comma"
] | Por gentileza, escreva uma ou mais piadas. Em toda a sua resposta, evite o uso de quaisquer vírgulas. | [
{}
] |
46 | [
"pt:startend:quotation"
] | Elabore um texto crítico conforme solicitado:
Escreva um artigo de opinião.
Coloque toda a sua resposta entre aspas duplas. | [
{}
] |
47 | [
"pt:detectable_format:multiple_sections"
] | Elabore um resumo.
Sua resposta deverá ser composta por quatro sessões. Indique o início de cada sessão empregando a nomenclatura SESSÃO X, conforme o exemplo abaixo:
SESSÃO 1
[conteúdo da sessão 1]
SESSÃO 2
[conteúdo da sessão 2] | [
{
"section_spliter": "SESSÃO",
"num_sections": 4
}
] |
48 | [
"pt:detectable_format:constrained_response"
] | Considere a seguinte pergunta: O cavalo é mais rápido que o burro? Responda utilizando uma das opções abaixo: ('Sim.', 'Não.', 'Talvez.') | [
{}
] |
49 | [
"pt:detectable_format:constrained_response"
] | Vai chover caso o céu esteja completamente vermelho ao entardecer? Responda com uma das seguintes opções: ('Sim.', 'Não.', 'Talvez.') | [
{}
] |
50 | [
"pt:combination:repeat_prompt"
] | Você poderia me fornecer um breve resumo de O Senhor dos Anéis adequado para crianças?
Primeiramente, repita a instrução palavra por palavra, sem nehuma mudança, e somente então apresente sua resposta (1. não diga nenhuma palavra ou use qualquer caractere antes de repetir a instrução; 2. A instrução que você precisa de... | [
{
"prompt_to_repeat": "Você poderia me dar um breve resumo de O Senhor dos Anéis que seja adequado para crianças?"
}
] |
51 | [
"pt:keywords:existence"
] | Redija uma mensagem de texto garantindo a inserção das palavras‑chave ['justiça', 'trabalho'] na sua resposta. | [
{
"keywords": [
"justiça",
"trabalho"
]
}
] |
52 | [
"pt:keywords:frequency"
] | Escreva uma resenha detalhada; contudo, limite o uso da palavra cidadão a no máximo duas ocorrências na sua resposta. | [
{
"keyword": "cidadão",
"frequency": 3,
"relation": "menos que"
}
] |
53 | [
"pt:keywords:forbidden_words"
] | Escreva uma história original, assegurando que as palavras ['saúde', 'trabalho'] não sejam utilizadas. Não inclua as palavras ['saúde', 'trabalho'] na resposta. | [
{
"forbidden_words": [
"saúde",
"trabalho"
]
}
] |
54 | [
"pt:keywords:letter_frequency"
] | Escreva uma legenda destinada à rede social, garantindo que a letra o apareça menos que 10 vezes. | [
{
"letter": "o",
"let_frequency": 10,
"let_relation": "menos que"
}
] |
56 | [
"pt:length_constraints:number_sentences"
] | Escreva um anúncio. Restrinja a sua resposta a menos que 14 sentenças. | [
{
"num_sentences": 14,
"relation": "menos que"
}
] |
57 | [
"pt:length_constraints:number_paragraphs"
] | Escreva uma história. Exija que o texto contenha 4 parágrafos. Separe os parágrafos mediante o divisor de markdown: *** | [
{
"num_paragraphs": 4
}
] |
58 | [
"pt:length_constraints:number_words"
] | Redija um artigo de opinião, assegurando que a resposta contenha, no mínimo, 439 palavras. | [
{
"num_words": 439,
"relation": "ao menos"
}
] |
59 | [
"pt:length_constraints:nth_paragraph_first_word"
] | **Escreva um editorial**
- **Deve haver 5 paragrafos**
- **Paragrafos e apenas paragrafos são separados entre si por duas novas linhas como se fosse '\n\n' em python**
- **O paragrafo 3 deve começar com a palavra cidadão** | [
{
"num_paragraphs": 5,
"nth_paragraph": 3,
"first_word": "cidadão"
}
] |
60 | [
"pt:detectable_content:number_placeholders"
] | Redija uma introdução de apresentação pessoal, assegurando que a resposta inclua, no mínimo, quatro campos reservados indicados por colchetes, como [nome]. | [
{
"num_placeholders": 4
}
] |
61 | [
"pt:detectable_content:postscript"
] | Escreva um diálogo ambientado em uma sala de reunião de uma empresa de tecnologia.
Ao final da sua resposta, por favor adicione explicitamente um pós‑escrito que começa com OBS. | [
{
"postscript_marker": "OBS."
}
] |
62 | [
"pt:detectable_format:number_bullet_lists"
] | Escreva um editorial
Sua resposta deve conter exatamente 3 pontos de lista. Use os pontos de listas de Markdown tal como:
* Esse é o ponto 1.
* Esse é o ponto 2. | [
{
"num_bullets": 3
}
] |
63 | [
"pt:detectable_format:number_highlighted_sections"
] | Escreva uma redação que analise o impacto da tecnologia na educação.
Destaque ao menos 2 sessões em sua resposta com markdown, isto é, entre asterísco: *sessão destacada*. | [
{
"num_highlights": 2
}
] |
64 | [
"pt:detectable_format:multiple_sections"
] | Escreva um anúncio.
Sua resposta tem de compreender 3 sessões. Indique o início de cada sessão com **SESSÃO X**, conforme o modelo abaixo:
SESSÃO 1
[conteúdo da sessão 1]
SESSÃO 2
[conteúdo da sessão 2]
SESSÃO 3
[conteúdo da sessão 3] | [
{
"section_spliter": "SESSÃO",
"num_sections": 3
}
] |
65 | [
"pt:detectable_format:json_format"
] | Escreva um boletim informativo sobre um tema de sua escolha. Toda a saída deve ser encapsulada em um formato de JSON. Você pode empregar Markdown, por exemplo, usando blocos delimitados por ``` . | [
{}
] |
66 | [
"pt:detectable_format:title"
] | Elabore uma descrição de produto para um dispositivo eletrônico de última geração. Sua resposta deve incluir um título, apresentado entre colchetes angulares duplos, conforme o exemplo <<poema de alegria>>. | [
{}
] |
67 | [
"pt:combination:two_responses"
] | Elabore o conteúdo solicitado conforme as instruções a seguir. Escreva um e‑mail de desculpas para um cliente. Responda com duas respostas diferentes. Respostas e, apenas respostas devem ser separadas por 6 símbolos de asteriscos: ******. | [
{}
] |
68 | [
"pt:startend:end_checker"
] | Escreva uma legenda publicitária. Conclua sua resposta exatamente com a seguinte frase: Você possui alguma outra dúvida?. Não inclua nenhuma palavra adicional após essa frase. | [
{
"end_phrase": "Você possui alguma outra dúvida?"
}
] |
69 | [
"pt:change_case:capital_word_frequency"
] | Elabore um enunciado que atenda às instruções a seguir: **Escreva uma pergunta**. Ao formular sua resposta, observe que **Em sua resposta, palavras escritas inteiramente em letras maiúsculas devem aparecer ao menos 3 vezes**. | [
{
"capital_frequency": 3,
"capital_relation": "ao menos"
}
] |
70 | [
"pt:change_case:english_capital"
] | Escreva uma parábola. Escolha, por exemplo, um tema relacionado à coragem para desenvolver a história. Sua resposta deve estar inteiramente em português, e totalmente em letras maiúsculas. | [
{}
] |
71 | [
"pt:change_case:english_lowercase"
] | Escreva um editorial
Sua resposta tem de ser integralmente em português, usando exclusivamente letras minúsculas. Não é permitido o uso de letras maiúsculas. | [
{}
] |
72 | [
"pt:punctuation:no_comma"
] | Escreva uma justificativa para um erro industrial. Ainda, em toda a sua resposta, evite o uso de quaisquer vírgulas. | [
{}
] |
73 | [
"pt:startend:quotation"
] | Escreva um ensaio sobre a influência da tecnologia na educação. Coloque toda a sua resposta entre aspas duplas. | [
{}
] |
74 | [
"pt:keywords:existence",
"pt:combination:two_responses",
"pt:detectable_format:title"
] | Escreva um conto
Inclua as palavras chaves ['justiça', 'saudade'] na resposta.
Responda com duas respostas diferentes. Respostas e, apenas respostas devem ser separadas por 6 símbolos de asteriscos: ******.
Sua resposta deve conter um título, entre colchetes angulares duplos, como em <<poema de alegria>>. | [
{
"keywords": [
"justiça",
"saudade"
]
},
{},
{}
] |
75 | [
"pt:keywords:frequency",
"pt:keywords:existence"
] | Escreva um editorial
Em sua resposta, a palavra saudade deve aparecer ao menos 2 vezes.
Inclua as palavras chaves ['saudade', 'trabalho'] na resposta. | [
{
"keyword": "saudade",
"frequency": 2,
"relation": "ao menos"
},
{
"keywords": [
"saudade",
"trabalho"
]
}
] |
76 | [
"pt:keywords:forbidden_words",
"pt:punctuation:no_comma"
] | Escreva uma introdução de apresentação pessoal
Não inclua as palavras ['amanhã', 'cultura'] na resposta.
Em toda a sua resposta, evite o uso de quaisquer vírgulas. | [
{
"forbidden_words": [
"amanhã",
"cultura"
]
},
{}
] |
77 | [
"pt:keywords:letter_frequency",
"pt:keywords:letter_frequency"
] | Escreva um parágrafo argumentativo
Em sua resposta, o numero l deve aparecer menos que 8 vezes.
Em sua resposta, a letra n deve aparecer ao menos 8 vezes. | [
{
"letter": "l",
"let_frequency": 8,
"let_relation": "menos que"
},
{
"letter": "n",
"let_frequency": 8,
"let_relation": "ao menos"
}
] |
80 | [
"pt:length_constraints:number_paragraphs",
"pt:language:response_language"
] | Escreva um currículo
Deve haver 5 parágrafos. Parágrafos são separados com o divisor de markdown: ***
A sua resposta deve ser INTEIRAMENTE em French, nenhuma outra língua é permitida. | [
{
"num_paragraphs": 5
},
{
"language": "fr"
}
] |
82 | [
"pt:length_constraints:nth_paragraph_first_word",
"pt:startend:end_checker"
] | Escreva um tuíte
Deve haver 2 paragrafos. Paragrafos e apenas paragrafos são separados entre si por duas novas linhas como se fosse '\n\n' em python. O paragrafo 1 deve começar com a palavra justiça.
Termine a sua resposta com exatamente essa frase: Você possui alguma outra dúvida?. Nenhuma outra palavra deve seguir... | [
{
"num_paragraphs": 2,
"nth_paragraph": 1,
"first_word": "justiça"
},
{
"end_phrase": "Você possui alguma outra dúvida?"
}
] |
83 | [
"pt:detectable_content:number_placeholders",
"pt:length_constraints:number_paragraphs"
] | Escreva uma resenha detalhada
A resposta deve conter ao menos 2 espaços reservados representados por colchetes, tal como [nome].
Deve haver 5 parágrafos. Parágrafos são separados com o divisor de markdown: *** | [
{
"num_placeholders": 2
},
{
"num_paragraphs": 5
}
] |
84 | [
"pt:detectable_content:postscript",
"pt:keywords:forbidden_words",
"pt:detectable_format:number_bullet_lists"
] | Escreva um boletim informativo
Ao final da sua resposta, por favor adicione explicitamente um pós-escrito que começa com Nota
Não inclua as palavras ['justiça', 'verdade'] na resposta.
Sua resposta deve conter exatamente 5 pontos de lista. Use os pontos de listas de Markdown tal como:
* Esse é o ponto 1.
* Esse é... | [
{
"postscript_marker": "Nota"
},
{
"forbidden_words": [
"justiça",
"verdade"
]
},
{
"num_bullets": 5
}
] |
85 | [
"pt:detectable_format:number_bullet_lists",
"pt:keywords:existence",
"pt:detectable_format:title"
] | Escreva um poema
Sua resposta deve conter exatamente 3 pontos de lista. Use os pontos de listas de Markdown tal como:
* Esse é o ponto 1.
* Esse é o ponto 2
Inclua as palavras chaves ['amanhã', 'justiça'] na resposta.
Sua resposta deve conter um título, entre colchetes angulares duplos, como em <<poema de alegria... | [
{
"num_bullets": 3
},
{
"keywords": [
"amanhã",
"justiça"
]
},
{}
] |
87 | [
"pt:detectable_format:multiple_sections",
"pt:length_constraints:number_paragraphs",
"pt:keywords:frequency"
] | Escreva uma legenda para foto
Sua resposta deve possuir 4 sessões. Marque o início de cada sessão com SESSÃO X, tal como:
SESSÃO 1
[conteúdo da sessão 1]
SESSÃO 2
[conteúdo da sessão 2]
Deve haver 5 parágrafos. Parágrafos são separados com o divisor de markdown: ***
Em sua resposta, a palavra cidadão deve aparecer... | [
{
"section_spliter": "SESSÃO",
"num_sections": 4
},
{
"num_paragraphs": 5
},
{
"keyword": "cidadão",
"frequency": 2,
"relation": "ao menos"
}
] |
88 | [
"pt:detectable_format:json_format",
"pt:length_constraints:number_sentences"
] | Escreva um e-mail de demissão
Toda a saida deve ser encapsulada em um formato de JSON. Você pode usar Markdown tal como ```.
A sua resposta deve conter menos que 15 sentenças. | [
{},
{
"num_sentences": 15,
"relation": "menos que"
}
] |
89 | [
"pt:detectable_format:title",
"pt:change_case:english_lowercase"
] | Escreva uma nota explicativa
Sua resposta deve conter um título, entre colchetes angulares duplos, como em <<poema de alegria>>.
Sua resposta deve estar interiamente em portugês, e totalmente em letras minúsculas. Nenhuma letra maiúscula é permitida. | [
{},
{}
] |
90 | [
"pt:combination:two_responses",
"pt:length_constraints:number_words",
"pt:change_case:english_lowercase"
] | Escreva uma carta
Responda com duas respostas diferentes. Respostas e, apenas respostas devem ser separadas por 6 símbolos de asteriscos: ******.
Responda com ao menos 469 palavras.
Sua resposta deve estar interiamente em portugês, e totalmente em letras minúsculas. Nenhuma letra maiúscula é permitida. | [
{},
{
"num_words": 469,
"relation": "ao menos"
},
{}
] |
92 | [
"pt:change_case:capital_word_frequency",
"pt:startend:end_checker"
] | Escreva piadas
Em sua resposta, palavras escritas inteiramente em letras maiúsculas devem aparecer menos que 7 vezes.
Termine a sua resposta com exatamente essa frase: Posso ajudar em algo mais?. Nenhuma outra palavra deve seguir após essa frase. | [
{
"capital_frequency": 7,
"capital_relation": "menos que"
},
{
"end_phrase": "Posso ajudar em algo mais?"
}
] |
94 | [
"pt:change_case:english_lowercase",
"pt:detectable_content:number_placeholders"
] | Escreva uma descrição de produto
Sua resposta deve estar interiamente em portugês, e totalmente em letras minúsculas. Nenhuma letra maiúscula é permitida.
A resposta deve conter ao menos 2 espaços reservados representados por colchetes, tal como [nome]. | [
{},
{
"num_placeholders": 2
}
] |
95 | [
"pt:punctuation:no_comma",
"pt:detectable_format:multiple_sections"
] | Escreva um e-mail de demissão
Em toda a sua resposta, evite o uso de quaisquer vírgulas.
Sua resposta deve possuir 3 sessões. Marque o início de cada sessão com SESSÃO X, tal como:
SESSÃO 1
[conteúdo da sessão 1]
SESSÃO 2
[conteúdo da sessão 2] | [
{},
{
"section_spliter": "SESSÃO",
"num_sections": 3
}
] |
96 | [
"pt:startend:quotation",
"pt:keywords:frequency",
"pt:keywords:letter_frequency"
] | Escreva um itinerário
Coloque toda a sua resposta entre aspas duplas.
Em sua resposta, a palavra amanhã deve aparecer ao menos 2 vezes.
Em sua resposta, a letra f deve aparecer menos que 9 vezes. | [
{},
{
"keyword": "amanhã",
"frequency": 2,
"relation": "ao menos"
},
{
"letter": "f",
"let_frequency": 9,
"let_relation": "menos que"
}
] |
97 | [
"pt:keywords:existence",
"pt:keywords:forbidden_words",
"pt:detectable_format:multiple_sections"
] | Escreva uma resenha detalhada
Inclua as palavras chaves ['cidadão', 'escola'] na resposta.
Não inclua as palavras ['cultura', 'privado'] na resposta.
Sua resposta deve possuir 4 sessões. Marque o início de cada sessão com Sessão X, tal como:
Sessão 1
[conteúdo da sessão 1]
Sessão 2
[conteúdo da sessão 2] | [
{
"keywords": [
"cidadão",
"escola"
]
},
{
"forbidden_words": [
"cultura",
"privado"
]
},
{
"section_spliter": "Sessão",
"num_sections": 4
}
] |
99 | [
"pt:keywords:forbidden_words",
"pt:detectable_content:postscript"
] | Escreva uma proposta
Não inclua as palavras ['escola', 'saúde'] na resposta.
Ao final da sua resposta, por favor adicione explicitamente um pós-escritoque começa com OBS. | [
{
"forbidden_words": [
"escola",
"saúde"
]
},
{
"postscript_marker": "OBS."
}
] |
100 | [
"pt:keywords:letter_frequency",
"pt:detectable_format:multiple_sections"
] | Escreva um currículo
Em sua resposta, a letra e deve aparecer ao menos 2 vezes.
Sua resposta deve possuir 4 sessões. Marque o início de cada sessão com Sessão X, tal como:
Sessão 1
[conteúdo da sessão 1]
Sessão 2
[conteúdo da sessão 2] | [
{
"letter": "e",
"let_frequency": 2,
"let_relation": "ao menos"
},
{
"section_spliter": "Sessão",
"num_sections": 4
}
] |
103 | [
"pt:length_constraints:number_paragraphs",
"pt:keywords:letter_frequency"
] | Escreva uma legenda publicitária
Deve haver 5 parágrafos. Parágrafos são separados com o divisor de markdown: ***
Em sua resposta, a letra h deve aparecer ao menos 3 vezes. | [
{
"num_paragraphs": 5
},
{
"letter": "h",
"let_frequency": 3,
"let_relation": "ao menos"
}
] |
104 | [
"pt:length_constraints:number_words",
"pt:detectable_format:title",
"pt:combination:two_responses"
] | Escreva uma recomendação
Responda com ao menos 159 palavras.
Sua resposta deve conter um título, entre colchetes angulares duplos, como em <<poema de alegria>>.
Responda com duas respostas diferentes. Respostas e, apenas respostas devem ser separadas por 6 símbolos de asteriscos: ******. | [
{
"num_words": 159,
"relation": "ao menos"
},
{},
{}
] |
105 | [
"pt:length_constraints:nth_paragraph_first_word",
"pt:change_case:capital_word_frequency"
] | Escreva uma legenda para rede social
Deve haver 5 paragrafos. Paragrafos e apenas paragrafos são separados entre si por duas novas linhas como se fosse '\n\n' em python. O paragrafo 3 deve começar com a palavra saúde.
Em sua resposta, palavras escritas inteiramente em letras maiúsculas devem aparecer ao menos 4 veze... | [
{
"num_paragraphs": 5,
"nth_paragraph": 3,
"first_word": "saúde"
},
{
"capital_frequency": 4,
"capital_relation": "ao menos"
}
] |
106 | [
"pt:detectable_content:number_placeholders",
"pt:detectable_format:json_format",
"pt:keywords:forbidden_words"
] | Escreva uma análise literária
A resposta deve conter ao menos 1 espaços reservados representados por colchetes, tal como [nome].
Toda a saida deve ser encapsulada em um formato de JSON. Você pode usar Markdown tal como ```.
Não inclua as palavras ['trabalho', 'verdade'] na resposta. | [
{
"num_placeholders": 1
},
{},
{
"forbidden_words": [
"trabalho",
"verdade"
]
}
] |
107 | [
"pt:detectable_content:postscript",
"pt:keywords:existence"
] | Escreva uma proposta
Ao final da sua resposta, por favor adicione explicitamente um pós-escritoque começa com Nota
Inclua as palavras chaves ['privado', 'saúde'] na resposta. | [
{
"postscript_marker": "Nota"
},
{
"keywords": [
"privado",
"saúde"
]
}
] |
108 | [
"pt:detectable_format:number_bullet_lists",
"pt:detectable_format:number_highlighted_sections",
"pt:length_constraints:number_words"
] | Escreva uma análise literária
Sua resposta deve conter exatamente 3 pontos de lista. Use os pontos de listas de Markdown tal como:
* Esse é o ponto 1.
* Esse é o ponto 2
Destaque ao menos 4 sessões em sua resposta com markdown, isto é, entre asterísco: *sessão destacada*.
Responda com ao menos 484 palavras. | [
{
"num_bullets": 3
},
{
"num_highlights": 4
},
{
"num_words": 484,
"relation": "ao menos"
}
] |
109 | [
"pt:detectable_format:number_highlighted_sections",
"pt:detectable_format:json_format"
] | Escreva um boletim informativo
Destaque ao menos 2 sessões em sua resposta com markdown, isto é, entre asterísco: *sessão destacada*.
Toda a saida deve ser encapsulada em um formato de JSON. Você pode usar Markdown tal como ```. | [
{
"num_highlights": 2
},
{}
] |
110 | [
"pt:detectable_format:multiple_sections",
"pt:keywords:frequency",
"pt:punctuation:no_comma"
] | Escreva uma legenda para foto
Sua resposta deve possuir 2 sessões. Marque o início de cada sessão com SESSÃO X, tal como:
SESSÃO 1
[conteúdo da sessão 1]
SESSÃO 2
[conteúdo da sessão 2]
Em sua resposta, a palavra cidadão deve aparecer ao menos 1 vezes.
Em toda a sua resposta, evite o uso de quaisquer vírgulas. | [
{
"section_spliter": "SESSÃO",
"num_sections": 2
},
{
"keyword": "cidadão",
"frequency": 1,
"relation": "ao menos"
},
{}
] |
113 | [
"pt:combination:two_responses",
"pt:keywords:forbidden_words"
] | Escreva uma história
Responda com duas respostas diferentes. Respostas e, apenas respostas devem ser separadas por 6 símbolos de asteriscos: ******.
Não inclua as palavras ['amanhã', 'trabalho'] na resposta. | [
{},
{
"forbidden_words": [
"amanhã",
"trabalho"
]
}
] |
118 | [
"pt:punctuation:no_comma",
"pt:detectable_format:number_bullet_lists",
"pt:detectable_format:title"
] | Escreva um conto
Em toda a sua resposta, evite o uso de quaisquer vírgulas.
Sua resposta deve conter exatamente 3 pontos de lista. Use os pontos de listas de Markdown tal como:
* Esse é o ponto 1.
* Esse é o ponto 2
Sua resposta deve conter um título, entre colchetes angulares duplos, como em <<poema de alegria>>... | [
{},
{
"num_bullets": 3
},
{}
] |
119 | [
"pt:keywords:existence",
"pt:length_constraints:number_paragraphs"
] | Escreva uma descrição de produto
Inclua as palavras chaves ['saudade', 'saúde'] na resposta.
Deve haver 4 parágrafos. Parágrafos são separados com o divisor de markdown: *** | [
{
"keywords": [
"saudade",
"saúde"
]
},
{
"num_paragraphs": 4
}
] |
120 | [
"pt:keywords:frequency",
"pt:startend:end_checker"
] | Escreva um roteiro
Em sua resposta, a palavra trabalho deve aparecer ao menos 3 vezes.
Termine a sua resposta com exatamente essa frase: Posso ajudar em algo mais?. Nenhuma outra palavra deve seguir após essa frase. | [
{
"keyword": "trabalho",
"frequency": 3,
"relation": "ao menos"
},
{
"end_phrase": "Posso ajudar em algo mais?"
}
] |
121 | [
"pt:keywords:forbidden_words",
"pt:detectable_content:postscript",
"pt:change_case:capital_word_frequency"
] | Escreva um poema
Não inclua as palavras ['amanhã', 'cidadão'] na resposta.
Ao final da sua resposta, por favor adicione explicitamente um pós-escritoque começa com OBS.
Em sua resposta, palavras escritas inteiramente em letras maiúsculas devem aparecer ao menos 12 vezes. | [
{
"forbidden_words": [
"amanhã",
"cidadão"
]
},
{
"postscript_marker": "OBS."
},
{
"capital_frequency": 12,
"capital_relation": "ao menos"
}
] |
122 | [
"pt:keywords:letter_frequency",
"pt:detectable_format:multiple_sections"
] | Escreva um currículo
Em sua resposta, a letra u deve aparecer ao menos 10 vezes.
Sua resposta deve possuir 3 sessões. Marque o início de cada sessão com SESSÃO X, tal como:
SESSÃO 1
[conteúdo da sessão 1]
SESSÃO 2
[conteúdo da sessão 2] | [
{
"letter": "u",
"let_frequency": 10,
"let_relation": "ao menos"
},
{
"section_spliter": "SESSÃO",
"num_sections": 3
}
] |
123 | [
"pt:language:response_language",
"pt:keywords:letter_frequency",
"pt:punctuation:no_comma"
] | Escreva um e-mail de demissão
A sua resposta deve ser INTEIRAMENTE em English, nenhuma outra língua é permitida.
Em sua resposta, a letra q deve aparecer menos que 5 vezes.
Em toda a sua resposta, evite o uso de quaisquer vírgulas. | [
{
"language": "en"
},
{
"letter": "q",
"let_frequency": 5,
"let_relation": "menos que"
},
{}
] |
125 | [
"pt:length_constraints:number_paragraphs",
"pt:keywords:forbidden_words",
"pt:detectable_format:json_format"
] | Escreva piadas
Deve haver 3 parágrafos. Parágrafos são separados com o divisor de markdown: ***
Não inclua as palavras ['cidadão', 'cultura'] na resposta.
Toda a saida deve ser encapsulada em um formato de JSON. Você pode usar Markdown tal como ```. | [
{
"num_paragraphs": 3
},
{
"forbidden_words": [
"cidadão",
"cultura"
]
},
{}
] |
126 | [
"pt:length_constraints:number_words",
"pt:detectable_format:number_highlighted_sections"
] | Escreva um poema
Responda com ao menos 428 palavras.
Destaque ao menos 4 sessões em sua resposta com markdown, isto é, entre asterísco: *sessão destacada*. | [
{
"num_words": 428,
"relation": "ao menos"
},
{
"num_highlights": 4
}
] |
127 | [
"pt:length_constraints:nth_paragraph_first_word",
"pt:punctuation:no_comma"
] | Escreva uma postagem de blog
Deve haver 5 paragrafos. Paragrafos e apenas paragrafos são separados entre si por duas novas linhas como se fosse '\n\n' em python. O paragrafo 5 deve começar com a palavra verdade.
Em toda a sua resposta, evite o uso de quaisquer vírgulas. | [
{
"num_paragraphs": 5,
"nth_paragraph": 5,
"first_word": "verdade"
},
{}
] |
128 | [
"pt:detectable_content:number_placeholders",
"pt:length_constraints:number_words",
"pt:detectable_content:postscript"
] | Escreva uma carta
A resposta deve conter ao menos 1 espaços reservados representados por colchetes, tal como [nome].
Responda com ao menos 483 palavras.
Ao final da sua resposta, por favor adicione explicitamente um pós-escritoque começa com OBS. | [
{
"num_placeholders": 1
},
{
"num_words": 483,
"relation": "ao menos"
},
{
"postscript_marker": "OBS."
}
] |
129 | [
"pt:detectable_content:postscript",
"pt:length_constraints:number_words"
] | Escreva um tuíte
Ao final da sua resposta, por favor adicione explicitamente um pós-escritoque começa com OBS.
Responda com ao menos 303 palavras. | [
{
"postscript_marker": "OBS."
},
{
"num_words": 303,
"relation": "ao menos"
}
] |
130 | [
"pt:detectable_format:number_bullet_lists",
"pt:length_constraints:number_paragraphs"
] | Escreva uma nota explicativa
Sua resposta deve conter exatamente 1 pontos de lista. Use os pontos de listas de Markdown tal como:
* Esse é o ponto 1.
* Esse é o ponto 2
Deve haver 4 parágrafos. Parágrafos são separados com o divisor de markdown: *** | [
{
"num_bullets": 1
},
{
"num_paragraphs": 4
}
] |
131 | [
"pt:detectable_format:number_highlighted_sections",
"pt:detectable_content:number_placeholders"
] |
Destaque ao menos 4 sessões em sua resposta com markdown, isto é, entre asterísco: *sessão destacada*.
A resposta deve conter ao menos 3 espaços reservados representados por colchetes, tal como [nome]. | [
{
"num_highlights": 4
},
{
"num_placeholders": 3
}
] |
132 | [
"pt:detectable_format:multiple_sections",
"pt:startend:quotation",
"pt:change_case:english_capital"
] | Escreva uma crítica
Sua resposta deve possuir 4 sessões. Marque o início de cada sessão com SESSÃO X, tal como:
SESSÃO 1
[conteúdo da sessão 1]
SESSÃO 2
[conteúdo da sessão 2]
Coloque toda a sua resposta entre aspas duplas.
Sua resposta deve estar interiamente em portugês, e totalmente em letras maiúsculas. | [
{
"section_spliter": "SESSÃO",
"num_sections": 4
},
{},
{}
] |
133 | [
"pt:detectable_format:json_format",
"pt:change_case:capital_word_frequency"
] | Escreva um currículo
Toda a saida deve ser encapsulada em um formato de JSON. Você pode usar Markdown tal como ```.
Em sua resposta, palavras escritas inteiramente em letras maiúsculas devem aparecer menos que 5 vezes. | [
{},
{
"capital_frequency": 5,
"capital_relation": "menos que"
}
] |
134 | [
"pt:detectable_format:title",
"pt:keywords:existence"
] | Escreva uma legenda para foto
Sua resposta deve conter um título, entre colchetes angulares duplos, como em <<poema de alegria>>.
Inclua as palavras chaves ['saudade', 'verdade'] na resposta. | [
{},
{
"keywords": [
"saudade",
"verdade"
]
}
] |
135 | [
"pt:combination:two_responses",
"pt:keywords:existence"
] | Escreva um discurso
Responda com duas respostas diferentes. Respostas e, apenas respostas devem ser separadas por 6 símbolos de asteriscos: ******.
Inclua as palavras chaves ['saudade', 'saúde'] na resposta. | [
{},
{
"keywords": [
"saudade",
"saúde"
]
}
] |
136 | [
"pt:startend:end_checker",
"pt:detectable_format:number_bullet_lists",
"pt:keywords:forbidden_words"
] | Escreva uma justificativa
Termine a sua resposta com exatamente essa frase: Posso ajudar em algo mais?. Nenhuma outra palavra deve seguir após essa frase.
Sua resposta deve conter exatamente 3 pontos de lista. Use os pontos de listas de Markdown tal como:
* Esse é o ponto 1.
* Esse é o ponto 2
Não inclua as palav... | [
{
"end_phrase": "Posso ajudar em algo mais?"
},
{
"num_bullets": 3
},
{
"forbidden_words": [
"privado",
"saudade"
]
}
] |
137 | [
"pt:change_case:capital_word_frequency",
"pt:detectable_format:number_bullet_lists"
] | Escreva um boletim informativo
Em sua resposta, palavras escritas inteiramente em letras maiúsculas devem aparecer ao menos 8 vezes.
Sua resposta deve conter exatamente 1 pontos de lista. Use os pontos de listas de Markdown tal como:
* Esse é o ponto 1.
* Esse é o ponto 2 | [
{
"capital_frequency": 8,
"capital_relation": "ao menos"
},
{
"num_bullets": 1
}
] |
138 | [
"pt:change_case:english_capital",
"pt:change_case:capital_word_frequency",
"pt:punctuation:no_comma"
] | Escreva uma recomendação
Sua resposta deve estar interiamente em portugês, e totalmente em letras maiúsculas.
Em sua resposta, palavras escritas inteiramente em letras maiúsculas devem aparecer ao menos 20 vezes.
Em toda a sua resposta, evite o uso de quaisquer vírgulas. | [
{},
{
"capital_frequency": 20,
"capital_relation": "ao menos"
},
{}
] |
140 | [
"pt:punctuation:no_comma",
"pt:keywords:frequency",
"pt:combination:two_responses"
] | Escreva uma análise literária
Em toda a sua resposta, evite o uso de quaisquer vírgulas.
Em sua resposta, a palavra cultura deve aparecer menos que 3 vezes.
Responda com duas respostas diferentes. Respostas e, apenas respostas devem ser separadas por 6 símbolos de asteriscos: ******. | [
{},
{
"keyword": "cultura",
"frequency": 3,
"relation": "menos que"
},
{}
] |
141 | [
"pt:startend:quotation",
"pt:change_case:capital_word_frequency"
] | Escreva uma recomendação
Coloque toda a sua resposta entre aspas duplas.
Em sua resposta, palavras escritas inteiramente em letras maiúsculas devem aparecer ao menos 11 vezes. | [
{},
{
"capital_frequency": 11,
"capital_relation": "ao menos"
}
] |
143 | [
"pt:keywords:frequency",
"pt:detectable_content:number_placeholders"
] | Escreva uma descrição de evento
Em sua resposta, a palavra saudade deve aparecer menos que 1 vezes.
A resposta deve conter ao menos 3 espaços reservados representados por colchetes, tal como [nome]. | [
{
"keyword": "saudade",
"frequency": 1,
"relation": "menos que"
},
{
"num_placeholders": 3
}
] |
End of preview. Expand in Data Studio
Portuguese-IFEval
Portuguese-IFEval is a benchmark for evaluating verifiable instruction following in Portuguese. It contains 535 validated prompts with 1,238 instructions, with one to three instructions per prompt.
Code and evaluation: ark-aiml-research/Portuguese-IFEval.
Construction
The benchmark uses semantic regionalization rather than literal translation. Candidate prompts were generated and rewritten with Qwen/Qwen3-235B-A22B-FP8, automatically filtered, and manually reviewed by three native Portuguese-speaking NLP researchers. Of 595 candidates, 60 were removed, leaving the final 535 prompts.
It adapts IFEval/M-IFEval instruction categories and adds six Portuguese-specific constraints: cedilla frequency, tilde absence, crase, mesoclisis, second-person plural address (vós), and the four porquês.
Data and usage
The single test split preserves the original JSONL, with four fields:
key: unique prompt identifier.prompt: text to send to the model, preserved exactly.instruction_id_list: identifiers of the deterministic instruction checkers.kwargs: checker parameters, aligned withinstruction_id_list.
from datasets import load_dataset
dataset = load_dataset("gap-ufg/Portuguese-IFEval", split="test")
print(dataset[0]["prompt"])
Generate a response for each prompt, then use the repository's evaluation tools to compute Strict and Loose scores. At the prompt level, every attached instruction must pass. This release contains evaluation prompts and checker metadata; model responses and the translated PT_EN control are available separately in the code repository.
Scope and limitations
The benchmark measures compliance with explicit, verifiable constraints. Its Portuguese-specific checkers use deterministic surface-form rules and heuristics; scores do not establish general linguistic competence, grammatical correctness, or factual accuracy. Intended for evaluation; avoid using these test prompts for training when reporting benchmark results.
Paper and references
The Portuguese-IFEval paper link and citation will be added after its official release.
- M-IFEval: Multilingual Instruction-Following Evaluation.
- Instruction-Following Evaluation for Large Language Models (IFEval).
License and provenance
Released under Apache 2.0, following the source repository. The data is copied without modification from data/pt_input_data.jsonl at commit a8d8b3c.
SHA-256: d2246309ef7cac5f5ecbfe440de023bc089c993f2a4a14d00ccc73eca8c38708.
- Downloads last month
- 73