Datasets:

dzur658
/

callhome-es-transcripts

file_path large_stringlengths 8 8	reconstructed_document large_stringlengths 4.16k 12.6k	cleaned_utterances listlengths 62 372	original_utterances listlengths 62 372	audit_trail listlengths 0 107
0053.cha	A: sí, eso es para eso, de seguro. A: no importa. B: no importa. B: bueno aquí, la Zaida está estudiando también en la universidad con la Liana. A: y qué estudia, mama, qué están estudiando. B: están estudiando Sociales. B: ciencias Sociales. A: ah, para maes- para maestra de Sociales. B: sí. B: Una llamada de. B: quie...	[ "sí, eso es para eso, de seguro.", "no importa.", "no importa.", "bueno aquí, la Zaida está estudiando también en la universidad con la Liana.", "y qué estudia, mama, qué están estudiando.", "están estudiando Sociales.", "ciencias Sociales.", "ah, para maes- para maestra de Sociales.", "sí.", "Una...	[ "sí, eso es para eso, de seguro.", "no importa.", "no importa.", "bueno aquí, la Zaida está estudiando también en la universidad con la Liana.", "y qué estudia, mama, qué están estudiando.", "están estudiando Sociales.", "ciencias Sociales.", "ah, para maes- para maestra de Sociales.", "sí.", "Una...	[ "Doc Line 34 (Raw ID 33) - B1: [\"ANNOTATION ARTIFACT REMOVED: 'background noise'\"]", "Doc Line 36 (Raw ID 35) - B1: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 46 (Raw ID 45) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 52 (Raw ID 51) - B1: [\"ANNOTATION SYMBOL ...
0082.cha	A: pero no, ella no quiere trabajar conmigo. B: sí, pues. B: tienes razón. A: no le gustaa los hijos trabajar con los padres. B: ah. B: hacen... A: sí. B: es muy fregado trabajar con la familia... A: ah? B: es muy embromado trabajar con la familia... A: sí, es, es muy difícil, es muy difícil. A: nunca están las dos par...	[ "pero no, ella no quiere trabajar conmigo.", "sí, pues.", "tienes razón.", "no le gustaa los hijos trabajar con los padres.", "ah.", "hacen...", "sí.", "es muy fregado trabajar con la familia...", "ah?", "es muy embromado trabajar con la familia...", "sí, es, es muy difícil, es muy difícil.", ...	[ "pero no, ella no quiere trabajar conmigo.", "sí, pues.", "tienes razón.", "no le gustaa los hijos trabajar con los padres.", "ah.", "hacen +...", "sí.", "es muy fregado trabajar con la familia +...", "ah?", "es muy embromado trabajar con la familia +...", "sí, es, es muy difícil, es muy difícil...	[ "Doc Line 6 (Raw ID 5) - B: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 8 (Raw ID 7) - B: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 10 (Raw ID 9) - B: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 27 (Raw ID 26) - B: [\"ANNOTATION SYMBOL NORMALIZE...
0084.cha	B: ahí está, ahí está bien,y ahí están, pasándola,y bien, sí. A: y la Blanqui, la Blancay los niños? B: también aquí estuvieron. B: se fueron el lunes, alláa casa de Linda, la chiquita bien bonita, con los ojos azules, mi hijo. A: ah, sí. A: en serio. B: sí. A: yo voya tener otro. B: tiene dos mesesy medio, pero bien l...	[ "ahí está, ahí está bien,y ahí están, pasándola,y bien, sí.", "y la Blanqui, la Blancay los niños?", "también aquí estuvieron.", "se fueron el lunes, alláa casa de Linda, la chiquita bien bonita, con los ojos azules, mi hijo.", "ah, sí.", "en serio.", "sí.", "yo voya tener otro.", "tiene dos mesesy ...	[ "ahí está, ahí está bien,y ahí están, pasándola,y bien, sí.", "y la Blanqui, la Blancay los niños?", "también aquí estuvieron.", "se fueron el lunes, alláa casa de Linda, la chiquita bien bonita, con los ojos azules, mi hijo.", "ah, sí.", "en serio.", "sí.", "yo voya tener otro.", "tiene dos mesesy ...	[ "Doc Line 13 (Raw ID 12) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 16 (Raw ID 15) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 23 (Raw ID 22) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 32 (Raw ID 31) - B: [\"ANNOTATION SYMBOL NORM...
0085.cha	A: no porque ya no estoy tomando clases ahora. A: es eso lo que estaba esperando, estaba primero tomando clases en el verano, pero mi ayuda económica para el verano no fue muy buena, entonces las tuve que dejar las clases porque si no no voya tener dinero suficiente para pagar Grecia. B: ajá. A: entonces no, no, dejé d...	[ "no porque ya no estoy tomando clases ahora.", "es eso lo que estaba esperando, estaba primero tomando clases en el verano, pero mi ayuda económica para el verano no fue muy buena, entonces las tuve que dejar las clases porque si no no voya tener dinero suficiente para pagar Grecia.", "ajá.", "entonces no, no...	[ "no porque ya no estoy tomando clases ahora.", "es eso lo que estaba esperando, estaba primero tomando clases en el verano, pero mi ayuda económica para el verano no fue muy buena, entonces las tuve que dejar las clases porque si no no voya tener dinero suficiente para pagar Grecia.", "ajá.", "entonces no, no...	[ "Doc Line 9 (Raw ID 8) - B: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 13 (Raw ID 12) - B: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 19 (Raw ID 18) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 24 (Raw ID 23) - B: [\"ANNOTATION SYMBOL NORMAL...
0088.cha	A: a Austin,y eso me queda comoa cuatro horas. B: boston? A: Austin. B: ah, Auston, cómo se escribe? A: a USTON. B: ya. A: Austin. B: ah... A: ah,T,TIN, perdón. B: auston se escribey se pronuncia Ostin. B: ah,TIN, Austin, ah, Austin. B: lo que nosotros decimos Austin. B: hay unos autos Austin. A: ya. A: Austin. A: la, ...	[ "a Austin,y eso me queda comoa cuatro horas.", "boston?", "Austin.", "ah, Auston, cómo se escribe?", "a USTON.", "ya.", "Austin.", "ah...", "ah,T,TIN, perdón.", "auston se escribey se pronuncia Ostin.", "ah,TIN, Austin, ah, Austin.", "lo que nosotros decimos Austin.", "hay unos autos Austin....	[ "a Austin,y eso me queda comoa cuatro horas.", "boston?", "Austin.", "ah, Auston, cómo se escribe?", "a USTON.", "ya.", "Austin.", "ah +...", "ah,T,TIN, perdón.", "auston se escribey se pronuncia Ostin.", "ah,TIN, Austin, ah, Austin.", "lo que nosotros decimos Austin.", "hay unos autos Austi...	[ "Doc Line 8 (Raw ID 7) - B: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 22 (Raw ID 21) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 27 (Raw ID 26) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 49 (Raw ID 48) - A: [\"ANNOTATION SYMBOL NORMAL...
0096.cha	A: eh. A: sí. B: fíjate, el otro día hablé con e- cuando fue, anteayer, que me llamó Cristian, por este mismo sistema,. A: sí. B: entonces le dije yo que Eddie estaba aquíy que me gustaba tanto, que era tan veraz, que era tan responsable,y entonces me dijo,. B: todos los Morelli son así, la Chela, Orlandoy la Myriam, t...	[ "eh.", "sí.", "fíjate, el otro día hablé con e- cuando fue, anteayer, que me llamó Cristian, por este mismo sistema,.", "sí.", "entonces le dije yo que Eddie estaba aquíy que me gustaba tanto, que era tan veraz, que era tan responsable,y entonces me dijo,.", "todos los Morelli son así, la Chela, Orlandoy ...	[ "eh.", "sí.", "fíjate, el otro día hablé con e- cuando fue, anteayer, que me llamó Cristian, por este mismo sistema,.", "sí.", "entonces le dije yo que Eddie estaba aquíy que me gustaba tanto, que era tan veraz, que era tan responsable,y entonces me dijo,.", "todos los Morelli son así, la Chela, Orlandoy ...	[ "Doc Line 16 (Raw ID 15) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 19 (Raw ID 18) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 29 (Raw ID 28) - B: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 33 (Raw ID 32) - B: [\"ANNOTATION SYMBOL NORM...
0098.cha	B: sí, pues. B: hace treinta años. A: sí, pues. A: okey? A: entonces, pues mira, en realidad, es difícil, ves? A: sobretodo cuando tú tienes una incertidumbre tan grande que no sabes lo que vaa pasary tienes la-. B: oye, estás buscando algo, mientras tanto-. A: sí, claro. A: en todas partes. A: Mira, ya ni siquiera bus...	[ "sí, pues.", "hace treinta años.", "sí, pues.", "okey?", "entonces, pues mira, en realidad, es difícil, ves?", "sobretodo cuando tú tienes una incertidumbre tan grande que no sabes lo que vaa pasary tienes la-.", "oye, estás buscando algo, mientras tanto-.", "sí, claro.", "en todas partes.", "Mira...	[ "sí, pues.", "hace treinta años.", "sí, pues.", "okey?", "entonces, pues mira, en realidad, es difícil, ves?", "sobretodo cuando tú tienes una incertidumbre tan grande que no sabes lo que vaa pasary tienes la-.", "oye, estás buscando algo, mientras tanto-.", "sí, claro.", "en todas partes.", "Mira...	[ "Doc Line 31 (Raw ID 30) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 33 (Raw ID 32) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 39 (Raw ID 38) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]", "Doc Line 45 (Raw ID 44) - A: [\"ANNOTATION SYMBOL NORM...
0100.cha	"A: sí.\nA: .\nB: es, impresionante como le pasa.\nB: y el otro también.\nB: pero más le pasaa Ju(...TRUNCATED)	["sí.",".","es, impresionante como le pasa.","y el otro también.","pero más le pasaa Juan Enrique(...TRUNCATED)	["sí.","crying.","es, impresionante como le pasa.","y el otro también.","pero más le pasaa Juan E(...TRUNCATED)	["Doc Line 2 (Raw ID 1) - A: [\"ANNOTATION ARTIFACT REMOVED: ' crying '\", 'WHITESPACE NORMALIZATION(...TRUNCATED)
0291.cha	"A: se supone que hay mucho ganado, pero yo no vi nada...\nB: ah, sí?\nA: quien sabe por donde ande(...TRUNCATED)	["se supone que hay mucho ganado, pero yo no vi nada...","ah, sí?","quien sabe por donde ande...","(...TRUNCATED)	["se supone que hay mucho ganado, pero yo no vi nada +...","ah, sí?","quien sabe por donde ande +..(...TRUNCATED)	["Doc Line 1 (Raw ID 0) - A: [\"ANNOTATION SYMBOL NORMALIZED/REMOVED: ' +... '\"]","Doc Line 3 (Raw (...TRUNCATED)
0616.cha	"B: mismo no, con lo de maría josé porque me voya lo de los montes blancos esos.\nA: ya ya.\nB: bu(...TRUNCATED)	["mismo no, con lo de maría josé porque me voya lo de los montes blancos esos.","ya ya.","bueno pu(...TRUNCATED)	["mismo no, con lo de maría josé porque me voya lo de los montes blancos esos.","ya ya.","bueno pu(...TRUNCATED)	[ "Doc Line 277 (Raw ID 276) - B: [\"CODE SWITCHING: 'vis_a_vis.' -> 'vis a vis.'\"]" ]

End of preview. Expand in Data Studio

CallHome Spanish Transcripts

A dataset consisting of cleaned transcripts from the CallHome Spanish corpus.

Quick Dataset Facts

Contains 140 documents where each document is a fully reconstructed transcript from CallHome
Each document averages about 1,800 words
The dataset contains a total of about 257,000 words across the dataset

Intended Use Case

This dataset is intended to be used as part of a Continued Pretraining (CPT) corpus for exposing a base model to highly informal and conversational Spanish.

Dataset Map

The dataset is a parquet file consisting of columns for the main Continued Pretraining documents, original CallHome utterances, and cleaning history for each document.

file_path: Contains the name of the .cha file from the spa corpus the transcript is associated with.
reconstructed_document: The reconstructed document that can be fed directly into a CPT pipeline. Documents are reconstructed by appending the speaker label (for instance A:) to the start of the cleaned utterance, and seperating cleaned utterances by a single newline.
cleaned_utterances: The list of utterances consisting of the document after they went through cleaning.
original_utterances: Utterances as they originally appeared after being parsed by pylangacq chats.utterances.
audit_trail: Shows what was cleaned in the document. For example, consider Doc Line 34 (Raw ID 33) - B1: ["ANNOTATION ARTIFACT REMOVED: 'background noise'"]. Line 34 tells us this applies to the 34th line of the clean utterances, and the 33rd line of the uncleaned utterances. The action tells us the string "background noise" was removed from the utterance.

Dataset Creation

Downloading & Loading

Spa.zip containing the transcripts for 140 recorded calls in Spanish was downloaded from TalkBank here. Spa.zip was then loaded with pylangacq for inspection.

Analysis

Next the dataset was analyzed for English tokens to ensure the data was uniformally Spanish. This Spanish-English Language ID model was used to create a list of potential English leakage into the dataset. The model returned hits for English and "other" tokens across the corpus. Notes are provided about the results of this process below.

### Discoveries About the Contamination

1198.cha contains 200 hits for "noise" on ctrl + f inspection
has is flagging on benign Spanish words like "hasta", "muchas", and "has" is a legitmate form of haber in reference to tu (you informal)
1255.cha yields 52 hits for "crying" on ctrl + f inspection indicating it is a major source of the contamination for this word
NOTE: leaked annotations like "noise" and "crying" appear to almost exclusively come at the beginning or end of an utterance
oye is a conjugation of "oír" and legitmate Spanish
clear is an artifact of pylangacq not parsing &=throat clear correctly, can be dropped in entirety without causing linguistic damage
vocalization appears to be an artifact of parsing from annotations like &=child vocalization as demonstrated throughout 0731.cha. Can confidently drop with regex filter
NOTE: After removing the offending annotation artifact some lines may be completely blank, these turns should be completely omitted from the final corpus
Keep once instances as these are either extracted from "entonces" or refer to the number "once" (11)
Uses of dime seem to be legitimate and most of the time appears alone as "dime" (tell me)
Ellipses ... are a part of standard speech representing silence, the ellipses can stay in the corpus without modification
+/. seems to represent almost "half baked" thoughts, we can remove them from the dataset with regex filter (meaning of text won't change)
Additonal: instances of underscored English not being split correctly, for instance "British_Airways", 124 instances of English phrases seperated by 1 or more "_" across the dataset

Response Plan

Keep upstream data "pure" until after this cell
Ensure Removal Phase tracks the diff between original utterance and newly cleaned utterance to ensure proper Spanish is not being broken by our cleaning strategy (audit logging)
Replace all instances of "background noise" in text with "", then replace all instances of "noise" with "" ONLY if it is surrounded by whitespace
Replace all instances of "crying" in text with ""
Replace all instances of "clear" with ""
Replace all instances of "vocalization" with ""
Rerun LID post cleaning and analyze results

Cleaning

All cleaning actions are noted in the audit_trail column of the dataset (see explanation in Dataset Map Section above).

Code Switching: Somtimes legitimate code switching between Spanish and English occured in the dataset. These code switching phrases would appear with underlines instead of spaces seperating words. For instance, "green card" would appear as green_card in the raw corpus. During this step the raw English phrases were retained, but we swaped _'s for ' '.
Both the strings "background noise" and "noise" were found to be contaminating the dataset. First we replaced all "background noise" instances with an empty string ("").
A few hundred instances of stray annotation marks were observed including: "crying", "clear", "vocalization", and "noise". These instances were only stripped and removed if they were "alone" (surrounded by whitespace characters) or at the beginning or end of an utterance. Surrounding whitespace was consumed to avoid leaving stray double spaces upon removal.
Next, the two most agressive symbols from the "other" category were cleaned. First we replaced instances of +... with a standard ellipses (...). Then, replaced all instances of + remaining with nothing.
Finally, whitespace normalization was conducted on the utterances replacing all blocks of 1 or more whitespace with a single space ( ).

GitHub

The full code and methodology of the cleaning pipeline can be found here

Acknowledgements

TalkBank Citation:

Linguistic Data Consortium (2008). CABank Spanish CallHome Corpus. TalkBank. doi:10.21415/T51K54

Canavan, A., & Zipperlen, G. (1996). CALLHOME Spanish Speech LDC96S35. Philadelphia: Linguistic Data Consortium.

Thank you to sargosarker for providing the Spanish/English LangID model used for analysis.

Downloads last month: 18