Dataset Viewer
Auto-converted to Parquet Duplicate
id
stringlengths
1
5
utt
stringlengths
3
199
annot_utt
stringlengths
3
255
intent
int64
0
59
scenario
int64
0
17
utt_br
stringlengths
2
197
annot_utt_br
stringlengths
2
250
professor
stringclasses
3 values
intent_name
stringclasses
60 values
intent_ptbr
stringclasses
60 values
scenario_name
stringclasses
18 values
62
por favor lista os alarmes ativos
por favor lista os alarmes ativos
23
16
por favor lista os alarmes ativos
por favor lista os alarmes ativos
groq
alarm_query
consultar alarme
alarm
72
começa a tocar música dos meus favoritos
começa a tocar música dos meus favoritos
45
3
começa a tocar música dos meus favoritos
começa a tocar música dos meus favoritos
groq
play_music
tocar música
play
73
por favor toca a minha melhor música
por favor toca a minha melhor música
45
3
por favor toca a minha melhor música
por favor toca a minha melhor música
groq
play_music
tocar música
play
75
qual é o autor desta música
qual é o autor desta música
57
15
qual é o autor desta música
qual é o autor desta música
groq
music_query
consultar música
music
76
de que álbum é a música atual
de que álbum é a música atual
57
15
de que álbum é a música atual
de que álbum é a música atual
groq
music_query
consultar música
music
77
olly eu realmente gosto desta música
olly eu realmente gosto desta música
43
15
olly eu realmente gosto desta música
olly eu realmente gosto desta música
groq
music_likeness
gostar de música
music
78
a música que estás a tocar é incrível
a música que estás a tocar é incrível
43
15
a música que estás a tocar é incrível
a música que estás a tocar é incrível
groq
music_likeness
gostar de música
music
79
esta é uma das melhores músicas para mim
esta é uma das melhores músicas para mim
43
15
esta é uma das melhores músicas para mim
esta é uma das melhores músicas para mim
groq
music_likeness
gostar de música
music
81
tornar as luzes mais brilhantes
tornar as luzes mais brilhantes
18
8
tornar as luzes mais brilhantes
tornar as luzes mais brilhantes
groq
iot_hue_lightup
aumentar brilho da luz
iot
361
toque a música oito do google play music
toque a [song_name : música oito] do [playlist_name : google play] music
45
3
toque a música oito do google play music
toque a [song_name : música oito] do [playlist_name : google play] music
groq
play_music
tocar música
play
363
toca uma música aleatória da minha playlist
toca uma música aleatória da minha playlist
45
3
toca uma música aleatória da minha playlist
toca uma música aleatória da minha playlist
groq
play_music
tocar música
play
383
desligar a luz da garagem
desligar a luz da [house_place : garagem]
40
8
desligar a luz da garagem
desligar a luz da [house_place : garagem]
groq
iot_hue_lightoff
desligar luz
iot
386
alguma notícia sobre mortes no correio da manhã
alguma notícia sobre [news_topic : mortes] no [media_type : correio da manhã]
22
4
alguma notícia sobre mortes no correio da manhã
alguma notícia sobre [news_topic : mortes] no [media_type : correio da manhã]
groq
news_query
consultar notícias
news
390
muda soquete da ficha inteligente
muda soquete da [device_type : ficha inteligente]
24
8
muda soquete da ficha inteligente
muda soquete da [device_type : ficha inteligente]
groq
iot_wemo_on
ligar tomada
iot
395
qual a diferença de horas entre o fuso horário oriental e o do pacífico
qual a diferença de horas entre o [time_zone : fuso horário oriental] e o [time_zone : do pacífico]
38
5
qual a diferença de horas entre o fuso horário oriental e o do pacífico
qual a diferença de horas entre o [time_zone : fuso horário oriental] e o [time_zone : do pacífico]
groq
datetime_convert
converter fuso horário
datetime
396
toca meu nome é saudade de luís trigacheiro
toca [song_name : meu nome é saudade] de [artist_name : luís trigacheiro]
45
3
toca meu nome é saudade de luís trigacheiro
toca [song_name : meu nome é saudade] de [artist_name : luís trigacheiro]
groq
play_music
tocar música
play
398
vai estar quente amanhã
vai estar [weather_descriptor : quente] [date : amanhã]
13
17
vai estar quente amanhã
vai estar [weather_descriptor : quente] [date : amanhã]
groq
weather_query
consultar clima
weather
330
mais baixo
mais baixo
35
10
mais baixo
mais baixo
openrouter
audio_volume_down
baixar volume
audio
332
silencia
silencia
46
10
silencia
silencia
openrouter
audio_volume_mute
silenciar som
audio
339
preciso de um café agora
preciso de um café agora
56
8
preciso de um café agora
preciso de um café agora
openrouter
iot_coffee
fazer café
iot
356
qual é o meu próximo alarme
qual é o meu próximo alarme
23
16
qual é o meu próximo alarme
qual é o meu próximo alarme
openrouter
alarm_query
consultar alarme
alarm
357
por favor diz-me quais são os meus alarmes
por favor diz-me quais são os meus alarmes
23
16
por favor diz-me quais são os meus alarmes
por favor diz-me quais são os meus alarmes
openrouter
alarm_query
consultar alarme
alarm
359
podes dizer-me as horas
podes dizer-me as horas
0
5
podes dizer-me as horas
podes dizer-me as horas
openrouter
datetime_query
consultar data ou hora
datetime
238
há algum alarme
há algum alarme
23
16
há algum alarme
há algum alarme
openrouter
alarm_query
consultar alarme
alarm
225
luzes desligadas
luzes desligadas
40
8
luzes desligadas
luzes desligadas
openrouter
iot_hue_lightoff
desligar luz
iot
1
acorda-me às nove da manhã na sexta-feira
acorda-me às [time : nove da manhã] na [date : sexta-feira]
48
16
me acorda às nove da manhã na sexta-feira
me acorda às [time : nove da manhã] na [date : sexta-feira]
xai
alarm_set
criar alarme
alarm
2
accionar um alarme durante duas horas a partir de agora
accionar um alarme [time : durante duas horas a partir de agora]
48
16
ativa um alarme durante duas horas a partir de agora
ativa um alarme [time : durante duas horas a partir de agora]
xai
alarm_set
criar alarme
alarm
4
olly não fales
olly não fales
46
10
olly não fala
olly não fala
xai
audio_volume_mute
silenciar som
audio
5
pára
pára
46
10
para
para
xai
audio_volume_mute
silenciar som
audio
6
olly pára durante dez segundos
olly pára durante [time : dez segundos]
46
10
olly para durante dez segundos
olly para durante [time : dez segundos]
xai
audio_volume_mute
silenciar som
audio
7
pausa por dez segundos
pausa por [time : dez segundos]
46
10
pausa por dez segundos
pausa por [time : dez segundos]
xai
audio_volume_mute
silenciar som
audio
9
tornar a iluminação um pouco mais calorosa aqui
tornar a iluminação um pouco mais [color_type : calorosa] aqui
1
8
deixa a iluminação um pouco mais quente aqui
deixa a iluminação um pouco mais [color_type : quente] aqui
xai
iot_hue_lightchange
mudar cor da luz
iot
10
definir a iluminação adequada para leitura
definir a iluminação [color_type : adequada para leitura]
1
8
define a iluminação adequada para leitura
define a iluminação [color_type : adequada para leitura]
xai
iot_hue_lightchange
mudar cor da luz
iot
12
hora de cormir
hora de cormir
40
8
hora de dormir
hora de dormir
xai
iot_hue_lightoff
desligar luz
iot
13
tempo de dormir olly
tempo de dormir olly
40
8
hora de dormir olly
hora de dormir olly
xai
iot_hue_lightoff
desligar luz
iot
15
desligar a luz da casa de banho
desligar a luz da [house_place : casa de banho]
40
8
desliga a luz da banheiro
desliga a luz da [house_place : banheiro]
xai
iot_hue_lightoff
desligar luz
iot
18
apagar as luzes no quarto
apagar as luzes no [house_place : quarto]
40
8
apaga as luzes no quarto
apaga as luzes no [house_place : quarto]
xai
iot_hue_lightoff
desligar luz
iot
20
mudar as luzes para vinte porcento
mudar as luzes [change_amount : para vinte porcento]
1
8
muda as luzes para vinte por cento
muda as luzes [change_amount : para vinte por cento]
xai
iot_hue_lightchange
mudar cor da luz
iot
21
olly coloca as luzes para vinte por cento
olly coloca as luzes [change_amount : para vinte por cento]
1
8
olly coloca as luzes para vinte por cento
olly coloca as luzes [change_amount : para vinte por cento]
xai
iot_hue_lightchange
mudar cor da luz
iot
22
alexa diminuir as luzes da cozinha
alexa diminuir as luzes da [house_place : cozinha]
31
8
alexa diminui as luzes da cozinha
alexa diminui as luzes da [house_place : cozinha]
xai
iot_hue_lightdim
diminuir brilho da luz
iot
23
diminui as luzes na cozinha
diminui as luzes na [house_place : cozinha]
31
8
diminui as luzes na cozinha
diminui as luzes na [house_place : cozinha]
xai
iot_hue_lightdim
diminuir brilho da luz
iot
25
alexa limpar o apartamento
alexa limpar o [house_place : apartamento]
34
8
alexa limpa o apartamento
alexa limpa o [house_place : apartamento]
xai
iot_cleaning
acionar aspirador robô
iot
28
aspirar a casa
aspirar a [house_place : casa]
34
8
aspira a casa
aspira a [house_place : casa]
xai
iot_cleaning
acionar aspirador robô
iot
29
aspirar a casa olly
aspirar a [house_place : casa] olly
34
8
aspira a casa olly
aspira a [house_place : casa] olly
xai
iot_cleaning
acionar aspirador robô
iot
123
diz-me uma anedota
diz-me uma anedota
25
9
me conta uma piada
me conta uma piada
xai
general_joke
contar piada
general
125
alexa conta me uma anedota
alexa conta me uma anedota
25
9
alexa me conta uma piada
alexa me conta uma piada
xai
general_joke
contar piada
general
126
anima-me
anima-me
25
9
me anima
me anima
xai
general_joke
contar piada
general
133
quando é que chega o meu pedido
quando é que chega o meu pedido
3
14
quando chega meu pedido
quando chega meu pedido
xai
takeaway_query
consultar delivery
takeaway
136
oque está a tocar
oque está a tocar
57
15
o que está tocando
o que está tocando
xai
music_query
consultar música
music
137
diz me o nome da música
diz me o nome da música
57
15
fala o nome da música
fala o nome da música
xai
music_query
consultar música
music
141
põe a minha playlist favorita
põe a minha playlist favorita
45
3
põe minha playlist favorita
põe minha playlist favorita
xai
play_music
tocar música
play
142
esta música é boa
esta música é boa
43
15
essa música é boa
essa música é boa
xai
music_likeness
gostar de música
music
143
não gosto disto
não gosto disto
7
15
não gosto disso
não gosto disso
xai
music_dislikeness
não gostar de música
music
144
eu gosto disto
eu gosto disto
43
15
eu gosto disso
eu gosto disso
xai
music_likeness
gostar de música
music
187
aumenta o volume
aumenta o volume
14
10
aumenta o volume
aumenta o volume
xai
audio_volume_up
aumentar volume
audio
195
que horas são
que horas são
0
5
que horas são
que horas são
xai
datetime_query
consultar data ou hora
datetime
196
que horas são
que horas são
0
5
que horas são
que horas são
xai
datetime_query
consultar data ou hora
datetime
204
tenho algum alarme
tenho algum alarme
23
16
tenho algum alarme
tenho algum alarme
xai
alarm_query
consultar alarme
alarm
265
olly boa noite luzes desligadas
olly boa noite luzes desligadas
40
8
olly boa noite luzes desligadas
olly boa noite luzes desligadas
xai
iot_hue_lightoff
desligar luz
iot
267
está estranhamente escuro aqui
está estranhamente escuro aqui
41
8
está estranhamente escuro aqui
está estranhamente escuro aqui
xai
iot_hue_lighton
ligar luz
iot
268
tornar as luzes mais brilhantes
tornar as luzes mais brilhantes
18
8
tornar as luzes mais brilhantes
tornar as luzes mais brilhantes
xai
iot_hue_lightup
aumentar brilho da luz
iot
269
alexa está muito escuro não consigo ver as minhas mãos
alexa está muito escuro não consigo ver as minhas mãos
41
8
alexa tá muito escuro não consigo ver minhas mãos
alexa tá muito escuro não consigo ver minhas mãos
xai
iot_hue_lighton
ligar luz
iot
270
que horas são
que horas são
0
5
que horas são
que horas são
xai
datetime_query
consultar data ou hora
datetime
273
qual é esta música
qual é esta música
57
15
qual é essa música
qual é essa música
xai
music_query
consultar música
music
274
olly que música é esta
olly que música é esta
57
15
olly que música é essa
olly que música é essa
xai
music_query
consultar música
music
288
aclara a luz
aclara a luz
18
8
clareia a luz
clareia a luz
xai
iot_hue_lightup
aumentar brilho da luz
iot
471
desligar as luzes
desligar as luzes
41
8
desligar as luzes
desligar as luzes
openrouter
iot_hue_lighton
ligar luz
iot
483
qual é o nome da música
qual é o nome da música
57
15
qual é o nome da música
qual é o nome da música
openrouter
music_query
consultar música
music
485
qual a duração da música
qual a duração da música
57
15
qual a duração da música
qual a duração da música
openrouter
music_query
consultar música
music
537
põe um alarme para as nove da manhã
põe um alarme para as [time : nove da manhã]
48
16
coloca um alarme para as nove da manhã
coloca um alarme para as [time : nove da manhã]
xai
alarm_set
criar alarme
alarm
542
ouvi dizer
ouvi dizer
43
15
ouvi dizer
ouvi dizer
xai
music_likeness
gostar de música
music
543
qual a piada mais engraçada
qual a piada [joke_type : mais engraçada]
25
9
qual a piada mais engraçada
qual a piada [joke_type : mais engraçada]
xai
general_joke
contar piada
general
546
ei olly toca a playlist
ei olly toca a playlist
45
3
ei olly toca a playlist
ei olly toca a playlist
xai
play_music
tocar música
play
547
por favor aumenta o volume da música hips don't lie
por favor aumenta o volume da música [song_name : hips don't lie]
14
10
por favor aumenta o volume da música hips don't lie
por favor aumenta o volume da música [song_name : hips don't lie]
xai
audio_volume_up
aumentar volume
audio
549
por favor repete aquela música do sérgio godinho outra vez
por favor [player_setting : repete] aquela música do [artist_name : sérgio godinho] outra vez
28
15
por favor repete aquela música do sérgio godinho outra vez
por favor [player_setting : repete] aquela música do [artist_name : sérgio godinho] outra vez
xai
music_settings
ajustar reprodução de música
music
558
tenho algum alarme definido para amanhã
tenho algum alarme definido para [date : amanhã]
23
16
tenho algum alarme definido para amanhã
tenho algum alarme definido para [date : amanhã]
xai
alarm_query
consultar alarme
alarm
559
como estão os alarmes para amanhã
como estão os alarmes para [date : amanhã]
23
16
como estão os alarmes para amanhã
como estão os alarmes para [date : amanhã]
xai
alarm_query
consultar alarme
alarm
563
mudança da cor da luz
mudança da cor da luz
1
8
mudança da cor da luz
mudança da cor da luz
xai
iot_hue_lightchange
mudar cor da luz
iot
463
que dia é
que dia é
0
5
que dia é
que dia é
openrouter
datetime_query
consultar data ou hora
datetime
715
dê-me um jornal
dê-me um jornal
22
4
dê-me um jornal
dê-me um jornal
groq
news_query
consultar notícias
news
719
olá
olá
5
9
olá
olá
groq
general_greet
cumprimentar
general
720
olá
olá
5
9
olá
olá
groq
general_greet
cumprimentar
general
731
apagar as luzes
apagar as luzes
18
8
apague as luzes
apague as luzes
groq
iot_hue_lightup
aumentar brilho da luz
iot
732
guarda as minhas preferências musicais
guarda as minhas preferências musicais
43
15
guarda as minhas preferências musicais
guarda as minhas preferências musicais
groq
music_likeness
gostar de música
music
733
guarda as minhas escolhas músicais
guarda as minhas escolhas músicais
43
15
guarda as minhas escolhas musicais
guarda as minhas escolhas musicais
groq
music_likeness
gostar de música
music
618
qual é o último dia do mês
qual é o último dia do [date : mês]
0
5
qual é o último dia do mês
qual é o último dia do [date : mês]
xai
datetime_query
consultar data ou hora
datetime
619
qual é o horário central
qual é o horário [time_zone : central]
0
5
qual é o horário central
qual é o horário [time_zone : central]
xai
datetime_query
consultar data ou hora
datetime
620
que horas são agora na zona do pacifico
que horas são agora na [time_zone : zona do pacifico]
0
5
que horas são agora na zona do pacífico
que horas são agora na [time_zone : zona do pacífico]
xai
datetime_query
consultar data ou hora
datetime
621
qual é a última controvérsia sobre o donald trump
qual é a última controvérsia sobre o [person : donald trump]
22
4
qual é a última controvérsia sobre o donald trump
qual é a última controvérsia sobre o [person : donald trump]
xai
news_query
consultar notícias
news
622
qual é a última controvérsia sobre o donald trump
qual é a última controvérsia sobre o [person : donald trump]
22
4
qual é a última controvérsia sobre o donald trump
qual é a última controvérsia sobre o [person : donald trump]
xai
news_query
consultar notícias
news
627
põe a última música de sucesso do último álbum do metallica
põe a última música de [music_descriptor : sucesso] do último álbum do [artist_name : metallica]
45
3
põe a última música de sucesso do último álbum do metallica
põe a última música de [music_descriptor : sucesso] do último álbum do [artist_name : metallica]
xai
play_music
tocar música
play
633
liga o aspirador
liga o [device_type : aspirador]
34
8
liga o aspirador
liga o [device_type : aspirador]
xai
iot_cleaning
acionar aspirador robô
iot
636
o que é uma anedota engraçada sobre carros
o que é uma anedota [joke_type : engraçada] sobre [joke_type : carros]
25
9
o que é uma piada engraçada sobre carros
o que é uma piada [joke_type : engraçada] sobre [joke_type : carros]
xai
general_joke
contar piada
general
637
contar-me uma anedota sobre um homem
contar-me uma anedota sobre um [joke_type : homem]
25
9
me conta uma piada sobre um homem
me conta uma piada sobre um [joke_type : homem]
xai
general_joke
contar piada
general
639
lembra-me de tocar esta música esta noite
lembra-me de tocar esta música [timeofday : esta noite]
45
3
me lembra de tocar essa música essa noite
me lembra de tocar essa música [timeofday : essa noite]
xai
play_music
tocar música
play
640
toca uma canção da minha lista favorita por favor
toca uma canção da minha lista favorita por favor
45
3
toca uma música da minha playlist favorita por favor
toca uma música da minha playlist favorita por favor
xai
play_music
tocar música
play
641
põe uma música
põe uma música
45
3
põe uma música
põe uma música
xai
play_music
tocar música
play
642
toca uma música da mariza
toca uma música da [artist_name : mariza]
45
3
toca uma música da mariza
toca uma música da [artist_name : mariza]
xai
play_music
tocar música
play
643
preciso que ligue o aspirador de pó
preciso que ligue o [device_type : aspirador de pó]
34
8
preciso que ligue o aspirador de pó
preciso que ligue o [device_type : aspirador de pó]
xai
iot_cleaning
acionar aspirador robô
iot
644
qual vai ser a temperatura máxima esta semana
qual vai ser a [weather_descriptor : temperatura máxima] [date : esta semana]
13
17
qual vai ser a temperatura máxima essa semana
qual vai ser a [weather_descriptor : temperatura máxima] [date : essa semana]
xai
weather_query
consultar clima
weather
End of preview. Expand in Data Studio

MASSIVE pt-BR com rótulos traduzidos

Versão do Magurofg/massive-pt-br (revisão 1356d116fe64d9a2bd796857b88679e21992b86a), que é uma localização por LLM do split pt-PT do MASSIVE (Amazon). Usada para avaliar o Laya na escolha de intenção em português.

Estado: resultados iniciais. Só o modelo sem fine-tuning foi avaliado, só na validação. O teste não foi usado. Os rótulos em português ainda não estão congelados e podem mudar.

O que esta versão muda

O texto e os rótulos são os da fonte, sem alteração. Não houve auditoria nem correção humana das frases. Foram acrescentadas três colunas:

Coluna Conteúdo
intent_name Nome original da intenção no MASSIVE
intent_ptbr Tradução da intenção, escrita para este experimento (labels/massive_intents_ptbr.json)
scenario_name Nome original do cenário no MASSIVE

Colunas herdadas: id, utt (pt-PT), annot_utt, intent, scenario, utt_br (pt-BR), annot_utt_br, professor (provedor do LLM que localizou a frase).

Split Frases MASSIVE pt-PT oficial
train 10.948 11.514
validation 1.929 2.033
test 2.930 2.974

SHA-256 dos arquivos da fonte: train 0a982493917729269c00cdb875aa3759351cdd8eba3e9c8e3923ff8f73aa2d57, validation c954d2e19a3980dddca193883429dce23da18cff9d946f5b9600690fd335b055, test 90cdbc3485f90d79ffce65ecc7718d230f1f72a48e8ac51df89c91bb973dbe10.

Cenários e intenções

São 18 cenários e 60 intenções, e cada intenção pertence a um único cenário. Os números de scenario e intent seguem a ordem do script oficial do MASSIVE, não a ordem alfabética. Os nomes de cenário não foram traduzidos.

Cenários

scenario scenario_name Intenções train validation test
16 alarm 3 374 59 96
10 audio 4 278 32 62
2 calendar 3 1.562 258 401
13 cooking 2 192 42 72
5 datetime 2 388 67 103
7 email 4 929 157 250
9 general 3 639 120 189
8 iot 9 727 106 220
11 lists 3 539 112 142
15 music 4 323 54 81
4 news 1 474 71 123
3 play 5 1.323 252 387
12 qa 5 1.130 196 288
6 recommendation 3 433 67 94
0 social 2 348 68 87
14 takeaway 2 231 42 57
1 transport 4 511 110 123
17 weather 1 547 116 155

Intenções

scenario_name intent intent_name intent_ptbr train validation test
alarm 23 alarm_query consultar alarme 125 19 34
alarm 52 alarm_remove remover alarme 78 13 21
alarm 48 alarm_set criar alarme 171 27 41
audio 35 audio_volume_down baixar volume 51 6 11
audio 46 audio_volume_mute silenciar som 103 15 32
audio 29 audio_volume_other ajustar som 17 0 6
audio 14 audio_volume_up aumentar volume 107 11 13
calendar 32 calendar_query consultar agenda 527 97 125
calendar 30 calendar_remove remover evento da agenda 288 43 67
calendar 50 calendar_set criar evento na agenda 747 118 209
cooking 37 cooking_query tirar dúvida de culinária 4 2 0
cooking 9 cooking_recipe buscar receita 188 40 72
datetime 38 datetime_convert converter fuso horário 46 9 15
datetime 0 datetime_query consultar data ou hora 342 58 88
email 15 email_addcontact adicionar contato 53 5 11
email 44 email_query consultar e-mails 410 73 109
email 17 email_querycontact consultar contato 121 16 25
email 33 email_sendemail enviar e-mail 345 63 105
general 5 general_greet cumprimentar 24 2 1
general 25 general_joke contar piada 71 14 19
general 12 general_quirky conversa geral 544 104 169
iot 34 iot_cleaning acionar aspirador robô 83 14 26
iot 56 iot_coffee fazer café 120 14 36
iot 1 iot_hue_lightchange mudar cor da luz 118 22 36
iot 31 iot_hue_lightdim diminuir brilho da luz 73 16 21
iot 40 iot_hue_lightoff desligar luz 144 16 43
iot 41 iot_hue_lighton ligar luz 22 5 3
iot 18 iot_hue_lightup aumentar brilho da luz 72 11 27
iot 8 iot_wemo_off desligar tomada 51 3 18
iot 24 iot_wemo_on ligar tomada 44 5 10
lists 21 lists_createoradd criar lista ou adicionar item 177 25 39
lists 59 lists_query consultar lista 198 50 51
lists 53 lists_remove remover lista ou item 164 37 52
music 7 music_dislikeness não gostar de música 14 2 4
music 43 music_likeness gostar de música 111 16 36
music 57 music_query consultar música 150 29 35
music 28 music_settings ajustar reprodução de música 48 7 6
news 22 news_query consultar notícias 474 71 123
play 20 play_audiobook tocar audiolivro 150 35 41
play 51 play_game abrir jogo 92 22 35
play 45 play_music tocar música 609 115 176
play 58 play_podcasts tocar podcast 189 34 63
play 36 play_radio tocar rádio 283 46 72
qa 10 qa_currency consultar câmbio 132 29 39
qa 26 qa_definition definir termo 251 49 57
qa 49 qa_factoid responder pergunta factual 523 81 141
qa 39 qa_maths fazer cálculo 78 13 25
qa 4 qa_stock consultar bolsa de valores 146 24 26
recommendation 6 recommendation_events recomendar eventos 190 24 43
recommendation 19 recommendation_locations recomendar lugares 173 31 31
recommendation 55 recommendation_movies recomendar filmes 70 12 20
social 47 social_post publicar em rede social 247 50 72
social 27 social_query consultar rede social 101 18 15
takeaway 16 takeaway_order pedir comida 118 18 22
takeaway 3 takeaway_query consultar delivery 113 24 35
transport 42 transport_query consultar transporte 214 36 50
transport 54 transport_taxi chamar táxi 89 27 23
transport 2 transport_ticket comprar passagem 112 25 35
transport 11 transport_traffic consultar trânsito 96 22 15
weather 13 weather_query consultar clima 547 116 155

Limitações conhecidas

  • Origem: inglês → pt-PT (tradutores) → pt-BR (LLM). Não é pt-BR nativo.
  • 41% das frases têm utt_br igual a utt, e restam marcas de pt-PT ("estava a escutar").
  • O LLM também reformulou algumas frases, então pt-PT × pt-BR não isola o efeito do dialeto.
  • cooking_query não aparece no teste, e audio_volume_other não aparece na validação; general_greet tem 1 frase no teste.
  • 154 frases do teste também estão no treino (comparação exata, sem diferenciar maiúsculas).
  • Há artefatos de LLM, como 451 caracteres U+2011 em utt_br.

Resultados iniciais

Laya multilingual sem fine-tuning, pacote laya 0.4.14, validação da fonte (1.929 frases), rótulos em intent_ptbr sem descrição, pergunta "O que o usuário está pedindo?". Com 20 opções: a correta + 19 sorteadas. Com 60 opções: todas, em ordem sorteada. Seeds 0, 1 e 2.

Formato Acurácia (por seed) Macro-F1 (por seed) Confiança média Acaso
20 opções 0,561 / 0,572 / 0,570 0,540 / 0,539 / 0,544 0,716 0,050
60 opções 0,354 / 0,362 / 0,350 0,370 / 0,373 / 0,369 0,630 0,017
  • O macro-F1 considera só as classes presentes na validação (59).
  • Com 60 opções, em que as seeds só mudam a ordem, 67,5% das frases mudam de previsão entre seeds.
  • Estes números não são comparáveis ao 0,500 de pt no BENCHMARKS.md do Laya, medido com outro protocolo.

Arquivos: results/validacao_base.json e results/validacao_base.previsoes.jsonl. O script é eval_choice.py, que lê os dados da fonte, não desta versão.

results/exploratorio/ guarda um teste rápido (50 frases, uma seed) com rótulos com descrição, que foram abandonados. As descrições não foram mantidas no repositório, então esse teste não é reproduzível só com estes arquivos.

Licença e atribuição

CC BY 4.0, a mesma da fonte. Dados derivados do MASSIVE, © Amazon.com, Inc. ou afiliadas, por meio de Magurofg/massive-pt-br. Alterações: as colunas descritas acima. Cite o paper do MASSIVE e o repositório de origem.

Downloads last month
7

Paper for Synth-NLP/massive-pt-br