diff --git "a/data/test/testset_norm_dedup.csv" "b/data/test/testset_norm_dedup.csv" new file mode 100644--- /dev/null +++ "b/data/test/testset_norm_dedup.csv" @@ -0,0 +1,2869 @@ +cardId question answer question_norm answer_norm userAnswer_norm Label language +8309017307377099122 Angst haben (vor) to be scared (of) angst haben (vor) to be scared i'm scared of False en +2336173422099558597 sich beschweren; sich beklagen to complain sich beschweren; sich beklagen to complain bb bbb False en +10659787012708759366 jemand someone, (somebody) jemand someone someono False en +2058300751124254107 Land country, (pl. countries) land country cantwe False en +2669207403270310115 werfen: ich warf (to) throw: I threw werfen: ich warf throw: i threw troghow False en +2336173422099558597 sich beschweren; sich beklagen to complain sich beschweren; sich beklagen to complain to catch False en +1198256730843485838 vergessen to forget vergessen to forget to fronret False en +15397068292968614265 setzen; stellen; legen to put setzen; stellen; legen to put vjgdğ False en +18382816893329638518 ihr/-e; sie her ihr e; sie her bfje False en +12869452030304782513 spannend; aufregend exciting spannend; aufregend exciting excieng False en +7948082299035497251 Gebäude building gebäude building buildina False en +11426820617713376359 eine Menge, viele, viel lots of eine menge viele viel lots of  cäiäh2 False en +17056511780978920579 Schlagzeug spielen (to) play the drums schlagzeug spielen play the drums hhhhhhhhhhhhhhhhhhhhhhhhhhh False en +16839868546560073907 Wer bist du? Who are you? wer bist du who are you zsbshuabxgeiakgegdh False en +17663427560503306488 sich handeln um to be about sich handeln um to be about impossible False en +8999212635726639531 Glücksbringer; Talisman lucky charm glücksbringer; talisman lucky charm only cham False en +672818183662641717 jemanden bitten, etwas zu tun (to) ask sb. to do sth. jemanden bitten etwas zu tun ask sb to do sth jmn False en +18011327188912720360 an etwas teilnehmen, bei etwas mitmachen (to) take part in sth. an etwas teilnehmen bei etwas mitmachen take part in sth take part to sth False en +6637404084587741221 Trainer/-in coach trainer in coach trainebf False en +18011327188912720360 an etwas teilnehmen, bei etwas mitmachen (to) take part in sth. an etwas teilnehmen bei etwas mitmachen take part in sth take time on False en +5455484614891176760 treffen; sich treffen to meet treffen; sich treffen to meet sich treffen False en +16003866966408506047 Wen kennt Sam? Who does Sam know? wen kennt sam who does sam know who knows sam? False en +17663427560503306488 sich handeln um to be about sich handeln um to be about to take because False en +11272218675226656377 ein großartiger Ort/Platz, ein toller Ort/Platz a great place ein großartiger ort platz ein toller ort platz a great place plae False en +17235290255298983058 haben (to) have haben have rgjlfjefnfkssjffhfdjdhfjkefjfhffkjfhf h  djej j fhjsfkdjhfskfjhfksjf j fjhkj hffk jf j fjdhkdjhfskjdfh fk  jkfdfjdh hk j hdkjf fkjfhfkds jfhkdjfhdhdkjfh False en +13347707686119385002 Kind child, children (pl) kind child children childre child False en +13809377320024805420 nach (zeitlich) after nach (zeitlich) after leyrer False en +8855347328309425429 weil because weil because weel False en +1032003431224706931 auch also auch also also3 False en +2855607331271796080 es hat keinen Sinn, etwas zu tun it's no use doing sth es hat keinen sinn etwas zu tun it's no use doing sth ther is no use of doing False en +3826145146451235978 montags on Mondays montags on mondays mo mandey False en +7576807084544694793 Refrain chorus refrain chorus colos False en +15585291684108396867 etwas something etwas something sometimes (something) False en +17422495116445819151 Sessel armchair sessel armchair seseek False en +672818183662641717 jemanden bitten, etwas zu tun (to) ask sb. to do sth. jemanden bitten etwas zu tun ask sb to do sth ask somdadi to do somting False en +16044909897557743101 Tür door tür door eighjt False en +10393418229152246476 Gemüse vegetables gemüse vegetables vegetalis False en +5758498940538827274 das Beste an ... the best thing about ... das beste an the best thing about ther best thing about False en +8420124166364046489 Großmutter grandmother großmutter grandmother grand mouthe4 False en +7878765291225052054 draußen; im Freien outdoors draußen; im freien outdoors awwwwwwwwww False en +6195028986265285163 Schwester sister schwester sister vsvsb False en +16076634471000205632 sich auf etwas freuen (to) look forward to sth. sich auf etwas freuen look forward to sth look flrward False en +16239360276038572400 es zeigt, dass ... it shows that ... es zeigt dass it shows that it's shwos taht False en +2058300751124254107 Land country, (pl. countries) land country contry contrys False en +12933459865925172469 sich verbessern; verbessern to improve sich verbessern; verbessern to improve to get bether False en +10803421591309518711 Gern geschehen. / Nichts zu danken. You're welcome. gern geschehen nichts zu danken you're welcome nnn False en +14803482220717548205 spielen (Theater) to act spielen (theater) to act to asl False en +13232238674617344872 jeder (beliebige); irgendjemand anybody jeder (beliebige); irgendjemand anybody anono False en +16111759047264182700 Wie ist es? What's it like? wie ist es what's it like wh False en +17941592104934893715 Wie alt bist du?; Wie alt sind Sie? How old are you? wie alt bist du?; wie alt sind sie how old are you gji False en +15683159062038580639 (Familien-)Stammbaum family tree (familien )stammbaum family tree fam False en +17941592104934893715 Wie alt bist du?; Wie alt sind Sie? How old are you? wie alt bist du?; wie alt sind sie how old are you hwo old are your? False en +672818183662641717 jemanden bitten, etwas zu tun (to) ask sb. to do sth. jemanden bitten etwas zu tun ask sb to do sth to ask sh to do sth False en +2294068063787623153 Sache, Ding thing sache ding thing some thin False en +14233157448442782498 pink, rosa pink pink rosa pink piun ke False en +2284133497586342032 Stadt town stadt town wb False en +12784001224971560347 horchen auf to listen for horchen auf to listen for lesson 2 False en +12869452030304782513 spannend; aufregend exciting spannend; aufregend exciting excitiung False en +7567550846548271506 aussuchen, (aus)wählen; sich aussuchen (to) choose aussuchen (aus)wählen; sich aussuchen choose richtig ist es möglich ist und ist und ich bin gerade dabei ist es möglich ist und ich bin gerade dabei ist es möglich ist und ich bin gerade dabei ist es möglich ist und ich bin gerade dabei False en +1539433690024165610 dieser, diese, dieses this dieser diese dieses this hbb False en +8227795449712332768 Um wie viel Uhr? What time? um wie viel uhr what time at wggggg False en +14339189732722873064 Koch-AG Cooking Club koch ag cooking club cooking lub False en +11936066522881946127 rot red rot red redf False en +15397068292968614265 setzen; stellen; legen to put setzen; stellen; legen to put t False en +13232238674617344872 jeder (beliebige); irgendjemand anybody jeder (beliebige); irgendjemand anybody anybod False en +3915856768026167182 Tschüss.; Bis bald. See you later. tschüss; bis bald see you later gugzg False en +6691719352302484113 gut sein in to be good at gut sein in to be good at coury False en +531455782577385682 Was kosten ...? How much are ...? was kosten how much are wgta ate False en +9041158650184382764 viel zu lernen a lot to learn viel zu lernen a lot to learn lot of lorn False en +12869452030304782513 spannend; aufregend exciting spannend; aufregend exciting ecs False en +6839552831352309540 der Krebs the crab der krebs the crab der crebe False en +783578958631205369 Stufe; Schritt step stufe; schritt step stage False en +672818183662641717 jemanden bitten, etwas zu tun (to) ask sb. to do sth. jemanden bitten etwas zu tun ask sb to do sth to    st  False en +15944110312326848095 auf Deutsch in German auf deutsch in german on gemen False en +14803482220717548205 spielen (Theater) to act spielen (theater) to act colore False en +15585291684108396867 etwas something etwas something t False en +7256173134648336664 Würmer sind o.k. Worms are OK. würmer sind ok worms are ok qwx False en +1948910925136790128 vor (zeitlich); bevor before vor (zeitlich); bevor before no False en +6668847912487170628 Restaurant; Gaststätte restaurant restaurant; gaststätte restaurant hdhd False en +2855607331271796080 es hat keinen Sinn, etwas zu tun it's no use doing sth es hat keinen sinn etwas zu tun it's no use doing sth pskdfp7 False en +5264603596746150016 Schwein pig schwein pig pigh False en +14332030831030115555 Keine Sorge! Don't worry! keine sorge don't worry msjsmms False en +14803482220717548205 spielen (Theater) to act spielen (theater) to act to spill False en +17941592104934893715 Wie alt bist du?; Wie alt sind Sie? How old are you? wie alt bist du?; wie alt sind sie how old are you whot False en +15065965232879010319 Schwimmbad, Schwimmbecken (swimming) pool schwimmbad schwimmbecken pool swimmä False en +13183569357166381168 Rollstuhl wheelchair rollstuhl wheelchair weehlchaie False en +4563689682143412800 Präsentation; Vortrag presentation präsentation; vortrag presentation s False en +597327928683430959 starren; anstarren to stare starren; anstarren to stare staret False en +7476436576103140266 Mittagessen lunch mittagessen lunch no zu dr see der False en +11773354057380771884 Auf Wiedersehen.; Tschüss! Bye., Goodbye. auf wiedersehen; tschüss bye goodbye bye see you leater False en +14671812956209677881 Kaninchen sind nett. Rabbits are nice. kaninchen sind nett rabbits are nice dog are nice False en +6691719352302484113 gut sein in to be good at gut sein in to be good at good be one False en +7567550846548271506 aussuchen, (aus)wählen; sich aussuchen (to) choose aussuchen (aus)wählen; sich aussuchen choose leepe False en +10059215048220340957 etwas tun dürfen (to) be allowed to do sth. etwas tun dürfen be allowed to do sth have st False en +7567550846548271506 aussuchen, (aus)wählen; sich aussuchen (to) choose aussuchen (aus)wählen; sich aussuchen choose śkķääüpøïjhğfvñmmkbvçyýåwq False en +2373009632731474458 Rhythmus rhythm rhythmus rhythm rhyth False en +9760684265299692501 Krebs crab krebs crab humer False en +4169362768517311524 Tisch table tisch table des False en +6700877678503647260 Sei/Seid höflich. Be polite. sei seid höflich be polite bi False en +3715597585122465074 (haben) wollen (to) want (haben) wollen want k False en +9188844471422667628 dann, danach then dann danach then theng False en +8999212635726639531 Glücksbringer; Talisman lucky charm glücksbringer; talisman lucky charm sssssssssssssssssssssssssssssssssssssssssssss False en +12889892203963759644 eine Theaterszene spielen acting a scene eine theaterszene spielen acting a scene ghf False en +17663427560503306488 sich handeln um to be about sich handeln um to be about to get around False en +12376140789393797904 Vergnügungspark fun park vergnügungspark fun park ş False en +5455484614891176760 treffen; sich treffen to meet treffen; sich treffen to meet to rif False en +15817921311647491125 unterrichten: ich unterrichtete (to) teach: I taught unterrichten: ich unterrichtete teach: i taught h i teaches False en +16239360276038572400 es zeigt, dass ... it shows that ... es zeigt dass it shows that +e False en +9781078305341725041 dunkel dark dunkel dark hieß False en +18382816893329638518 ihr/-e; sie her ihr e; sie her dd False en +12381418633620385868 einen Streich spielen to play a trick (on) einen streich spielen to play a trick a few trick False en +12905350968708640167 Rettungsring lifebuoy rettungsring lifebuoy live boqy False en +15951581510207795613 endlich; schließlich at last endlich; schließlich at last stil False en +9443104547486099407 Hör-/Ausspracheübung sound practice hör ausspracheübung sound practice sound practiser False en +9494051995797188904 wer; wem; wen who wer; wem; wen who dhgf False en +17941592104934893715 Wie alt bist du?; Wie alt sind Sie? How old are you? wie alt bist du?; wie alt sind sie how old are you ho old are ypu False en +10734259544874283954 Mir geht's gut. I'm fine. mir geht's gut i'm fine lclfoofkflk False en +10059215048220340957 etwas tun dürfen (to) be allowed to do sth. etwas tun dürfen be allowed to do sth i want False en +11254857986542341865 sich etwas (aus)leihen, etwas entleihen (to) borrow sth. sich etwas (aus)leihen etwas entleihen borrow sth jjgbkgltlto False en +2855607331271796080 es hat keinen Sinn, etwas zu tun it's no use doing sth es hat keinen sinn etwas zu tun it's no use doing sth no good doing sth False en +14332030831030115555 Keine Sorge! Don't worry! keine sorge don't worry don't happy False en +7477205751324400673 Lineal ruler lineal ruler rr False en +8440812726665985740 zeigen (to) show zeigen show ä False en +10734259544874283954 Mir geht's gut. I'm fine. mir geht's gut i'm fine f'h 9u8fj False en +672818183662641717 jemanden bitten, etwas zu tun (to) ask sb. to do sth. jemanden bitten etwas zu tun ask sb to do sth lease make dies und das False en +16832096176582143953 manchmal sometimes manchmal sometimes h oz False en +13183569357166381168 Rollstuhl wheelchair rollstuhl wheelchair sd False en +2770824922659394607 Ich liebe Hunde.; Ich mag Hunde total gern. I love dogs. ich liebe hunde; ich mag hunde total gern i love dogs i love dogsä False en +6075369431378948702 jeder (beliebige); irgendjemand anyone jeder (beliebige); irgendjemand anyone some body any body some one any one False en +4169362768517311524 Tisch table tisch table talble False en +14918417230790657010 Touristeninformation tourist information centre touristeninformation tourist information centre lkjhgfghjjhgfrhmhgtrghjjnhgtfghnjmljngufrzhjmk False en +12784001224971560347 horchen auf to listen for horchen auf to listen for ff False en +12889892203963759644 eine Theaterszene spielen acting a scene eine theaterszene spielen acting a scene ji False en +2336173422099558597 sich beschweren; sich beklagen to complain sich beschweren; sich beklagen to complain lizfizfiluvuk False en +15817921311647491125 unterrichten: ich unterrichtete (to) teach: I taught unterrichten: ich unterrichtete teach: i taught tought False en +9494051995797188904 wer; wem; wen who wer; wem; wen who whn False en +9188844471422667628 dann, danach then dann danach then aftee False en +13232238674617344872 jeder (beliebige); irgendjemand anybody jeder (beliebige); irgendjemand anybody anny boy False en +9443104547486099407 Hör-/Ausspracheübung sound practice hör ausspracheübung sound practice herbert False en +11001368821434679036 wir können nicht ... we can't ... wir können nicht we can't äl False en +10734259544874283954 Mir geht's gut. I'm fine. mir geht's gut i'm fine i'mefin False en +6245868022846724015 Warte ab! Wait and see! warte ab wait and see whayt up False en +7256173134648336664 Würmer sind o.k. Worms are OK. würmer sind ok worms are ok worms ate ok False en +8600420221777961487 Willkommen in Plymouth. Welcome to Plymouth. willkommen in plymouth welcome to plymouth welcom too ply mouth False en +12387849416502530528 Küche kitchen küche kitchen kitere False en +2058300751124254107 Land country, (pl. countries) land country carrots False en +14189501029767925469 Dachboden loft dachboden loft woll False en +10059215048220340957 etwas tun dürfen (to) be allowed to do sth. etwas tun dürfen be allowed to do sth klfpf False en +12792830095105474857 schlafen to sleep schlafen to sleep ro slerp False en +12541967641472831754 Wettbewerb; Turnier competition wettbewerb; turnier competition confident False en +12381418633620385868 einen Streich spielen to play a trick (on) einen streich spielen to play a trick to go a trick False en +7576807084544694793 Refrain chorus refrain chorus chores False en +2669207403270310115 werfen: ich warf (to) throw: I threw werfen: ich warf throw: i threw  threw False en +9834670912328833638 schnarchen to snore schnarchen to snore to snnore False en +654349392219264696 Ärger machen; in Schwierigkeiten bringen to make trouble ärger machen; in schwierigkeiten bringen to make trouble to do rude False en +16015698458056677425 Antwort answer antwort answer aunser False en +14803482220717548205 spielen (Theater) to act spielen (theater) to act plays theather False en +1948910925136790128 vor (zeitlich); bevor before vor (zeitlich); bevor before to befor False en +16076634471000205632 sich auf etwas freuen (to) look forward to sth. sich auf etwas freuen look forward to sth vgxhhjxn bxgxg False en +2740751781134875724 hinzufügen; ergänzen to add hinzufügen; ergänzen to add ej9wj0ew False en +12541967641472831754 Wettbewerb; Turnier competition wettbewerb; turnier competition flg False en +5197086099954078802 neu new neu new nu False en +672818183662641717 jemanden bitten, etwas zu tun (to) ask sb. to do sth. jemanden bitten etwas zu tun ask sb to do sth sombody to ask something False en +9719799504627652899 vorstellen; einführen; einleiten to introduce vorstellen; einführen; einleiten to introduce to inductrial False en +13412532779654116132 jn. interviewen, jn. befragen (to) interview sb. jn interviewen jn befragen interview sb samhing in False en +2669207403270310115 werfen: ich warf (to) throw: I threw werfen: ich warf throw: i threw throw: i've thrown False en +13942319658652672505 allein; ohne fremde Hilfe alone allein; ohne fremde hilfe alone nymd False en +1596021371479692723 Wie findest du es (sie/ihn)? How do you like it? wie findest du es (sie ihn) how do you like it how are yut False en +10226943270654412934 Geografie; Erdkunde Geography geografie; erdkunde geography geoyre False en +2294068063787623153 Sache, Ding thing sache ding thing gggftgzz False en +6691719352302484113 gut sein in to be good at gut sein in to be good at to have fun False en +9443104547486099407 Hör-/Ausspracheübung sound practice hör ausspracheübung sound practice wort power False en +10430445340372170194 Talentwettbewerb talent show talentwettbewerb talent show tsnllebf dghb False en +14567783920194775762 Ding; Sache thing ding; sache thing xxff False en +16030164286153428946 blau blue blau blue dlue False en +7933081799153012591 lass uns / lasst uns let's (= let us) lass uns lasst uns let's let's (let uns ) False en +12889892203963759644 eine Theaterszene spielen acting a scene eine theaterszene spielen acting a scene to accting ascene False en +6668847912487170628 Restaurant; Gaststätte restaurant restaurant; gaststätte restaurant 809üljhhvjl False en +15951581510207795613 endlich; schließlich at last endlich; schließlich at last to need False en +9494051995797188904 wer; wem; wen who wer; wem; wen who sdf False en +16111759047264182700 Wie ist es? What's it like? wie ist es what's it like how there is False en +15065965232879010319 Schwimmbad, Schwimmbecken (swimming) pool schwimmbad schwimmbecken pool pool wwimmingpool False en +12376140789393797904 Vergnügungspark fun park vergnügungspark fun park fun parkkkkkkkkkkkkkkk False en +12381418633620385868 einen Streich spielen to play a trick (on) einen streich spielen to play a trick to a trick on False en +12889892203963759644 eine Theaterszene spielen acting a scene eine theaterszene spielen acting a scene a acting scence False en +12889892203963759644 eine Theaterszene spielen acting a scene eine theaterszene spielen acting a scene ihreajfksd False en +10178731785826753477 Deutsche Schüler haben Glück. German students are lucky. deutsche schüler haben glück german students are lucky german childrens have lucky False en +9719799504627652899 vorstellen; einführen; einleiten to introduce vorstellen; einführen; einleiten to introduce