{ "cells": [ { "cell_type": "code", "execution_count": 24, "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "CSV file created successfully!\n" ] } ], "source": [ "import pandas as pd\n", "\n", "# Read the text file into a list\n", "sentences = []\n", "with open(\"data/train/graphemeTrsTrain.txt\", \"r\", encoding=\"utf8\") as f:\n", " for line in f:\n", " sentences.append(line.strip()) # Remove trailing newlines\n", "\n", "# Create a DataFrame with one column named \"transcription\"\n", "df = pd.DataFrame({\"transcription\": sentences})\n", "\n", "# Save the DataFrame as a CSV file\n", "df.to_csv(\"transcriptions.csv\", index=False)\n", "\n", "print(\"CSV file created successfully!\")\n" ] }, { "cell_type": "code", "execution_count": 27, "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "CSV file created successfully!\n" ] } ], "source": [ "import pandas as pd\n", "\n", "# Read the text file into a list\n", "sentences = []\n", "with open(\"data/valid/graphemeTrsTest.txt\", \"r\", encoding=\"utf8\") as f:\n", " for line in f:\n", " sentences.append(line.strip()) # Remove trailing newlines\n", "\n", "# Create a DataFrame with one column named \"transcription\"\n", "df = pd.DataFrame({\"transcription\": sentences})\n", "\n", "# Save the DataFrame as a CSV file\n", "df.to_csv(\"transcriptionTest.csv\", index=False)\n", "\n", "print(\"CSV file created successfully!\")\n" ] }, { "cell_type": "code", "execution_count": 41, "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "CSV file updated successfully!\n" ] } ], "source": [ "import os\n", "\n", "df_s = pd.read_csv(\"transcriptionTest.csv\")\n", "audio_dir = \"data/valid\"\n", "df= df_s.drop(df_s.index[90:])\n", "\n", "# Get the list of audio files in their original order\n", "audio_files = sorted(os.listdir(audio_dir))\n", "\n", "# Add the full file paths to the CSV\n", "df[\"audio\"] = [os.path.join(audio_dir, file) for file in audio_files]\n", "\n", "# Save the modified CSV file\n", "df.to_csv(\"updated_csv.csv\", index=False)\n", "\n", "print(\"CSV file updated successfully!\")" ] }, { "cell_type": "code", "execution_count": 42, "metadata": {}, "outputs": [ { "data": { "text/html": [ "
\n", "\n", "\n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", "
transcriptionaudio
0የኢንተርኔት አገልግሎትንም በተመለከተ በክልሎች በዞኖችና በአዲስ አበባ በ...data/valid\\01_d501021.wav
1በዚህም አነስተኛ መስኖዎችን በማስፋፋት አገሪቱን በተደጋጋሚ ከሚያጠቃት ድ...data/valid\\01_d501022.wav
2ይህ እንዳይሆን በህይወታቸው መስዋእትነት ያስገኙትን የኢትዮጵያዊነት ክብር...data/valid\\01_d501023.wav
3የመጀመሪያው ነጥብ በተቃዋሚ ሀይሎች ሰፈር በጋራ አቋም ላይ በጋራ ለማቆም...data/valid\\01_d501024.wav
4አቅም በሚፈቅደው መሰረት አስቀድሞ መዘጋጀት ስለሚፈልጉ የሚያጠራጥር አይሆ...data/valid\\01_d501025.wav
5ከለ ቀስተኞቹ መካከል አብዛኛዎቹ ጸሀዩ ዛሬ ተገለጠ ሀይለስላሴ ማሩን አለ...data/valid\\01_d501026.wav
6ከዚህ ጋር ለሰብአዊ አገልግሎት መሰለፏም ውጤታማ መሆኗም አድናቆትን አትር...data/valid\\01_d501027.wav
7የኮሚሽኑ ውሳኔና የቤተ ክህነቱ ተቃውሞdata/valid\\01_d501028.wav
8ይህንንም ባድመንና ሽራሮን በመውረር እውን አርጓልdata/valid\\01_d501029.wav
9ጋዜጠኞችን መለያየታቸው ብዙዎችን አሳዝኗልdata/valid\\01_d501030.wav
\n", "
" ], "text/plain": [ " transcription \\\n", "0 የኢንተርኔት አገልግሎትንም በተመለከተ በክልሎች በዞኖችና በአዲስ አበባ በ... \n", "1 በዚህም አነስተኛ መስኖዎችን በማስፋፋት አገሪቱን በተደጋጋሚ ከሚያጠቃት ድ... \n", "2 ይህ እንዳይሆን በህይወታቸው መስዋእትነት ያስገኙትን የኢትዮጵያዊነት ክብር... \n", "3 የመጀመሪያው ነጥብ በተቃዋሚ ሀይሎች ሰፈር በጋራ አቋም ላይ በጋራ ለማቆም... \n", "4 አቅም በሚፈቅደው መሰረት አስቀድሞ መዘጋጀት ስለሚፈልጉ የሚያጠራጥር አይሆ... \n", "5 ከለ ቀስተኞቹ መካከል አብዛኛዎቹ ጸሀዩ ዛሬ ተገለጠ ሀይለስላሴ ማሩን አለ... \n", "6 ከዚህ ጋር ለሰብአዊ አገልግሎት መሰለፏም ውጤታማ መሆኗም አድናቆትን አትር... \n", "7 የኮሚሽኑ ውሳኔና የቤተ ክህነቱ ተቃውሞ \n", "8 ይህንንም ባድመንና ሽራሮን በመውረር እውን አርጓል \n", "9 ጋዜጠኞችን መለያየታቸው ብዙዎችን አሳዝኗል \n", "\n", " audio \n", "0 data/valid\\01_d501021.wav \n", "1 data/valid\\01_d501022.wav \n", "2 data/valid\\01_d501023.wav \n", "3 data/valid\\01_d501024.wav \n", "4 data/valid\\01_d501025.wav \n", "5 data/valid\\01_d501026.wav \n", "6 data/valid\\01_d501027.wav \n", "7 data/valid\\01_d501028.wav \n", "8 data/valid\\01_d501029.wav \n", "9 data/valid\\01_d501030.wav " ] }, "execution_count": 42, "metadata": {}, "output_type": "execute_result" } ], "source": [ "fil= pd.read_csv('updated_csv.csv')\n", "fil.head(10)" ] }, { "cell_type": "code", "execution_count": 43, "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "CSV file updated successfully!\n" ] } ], "source": [ "import os\n", "\n", "df_s = pd.read_csv(\"../transcriptions.csv\")\n", "audio_dir = \"data/train\"\n", "df= df_s.drop(df_s.index[500:])\n", "\n", "# Get the list of audio files in their original order\n", "audio_files = sorted(os.listdir(audio_dir))\n", "\n", "# Add the full file paths to the CSV\n", "df[\"audio\"] = [os.path.join(audio_dir, file) for file in audio_files]\n", "\n", "# Save the modified CSV file\n", "df.to_csv(\"transcriptionsTrain.csv\", index=False)\n", "\n", "print(\"CSV file updated successfully!\")" ] }, { "cell_type": "code", "execution_count": 45, "metadata": {}, "outputs": [ { "data": { "text/html": [ "
\n", "\n", "\n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", "
transcriptionaudio
0ያንደኛ ደረጃ ትምህርታቸውን ጐንደር ተምረዋልdata/train\\tr_100_tr01100.wav
1የተለቀቁት ምርኮኞች በአካባቢያቸው ሰላማዊ ኑሮ እንዲኖሩ የትራንስፖርትና ...data/train\\tr_101_tr02001.wav
2በአዲስ አበባው ስታዲየም በተካሄዱት ሁለት ግጥሚያዎች በመጀመሪያ የተገናኙ...data/train\\tr_102_tr02002.wav
3ወሬውን ወሬ ያደረጉ ምስጢረኞች ናቸውdata/train\\tr_103_tr02003.wav
4ኢትዮጵያዊቷ በብሄራዊ ባህላዊ አለባበስ ከአለም አንደኝነትን ተቀዳጀችdata/train\\tr_104_tr02004.wav
5ከትምክህት እንዳይቆጠርብን እንጂ በአለም ታሪክ ውስጥ በነጮች ያልተረገጠች...data/train\\tr_105_tr02005.wav
6እህቶቹ የኤርትራ ዜጐችና የሻእቢያ ደጋፊዎች ናቸውdata/train\\tr_106_tr02006.wav
7እናንተም መቀበሪያ እንዳታጡ ተጠንቀቁdata/train\\tr_107_tr02007.wav
8አንቶኔሊ በአጼምንሊክ ፊት የፈጸመው ድፍረት በኢጣሊያን ምክር ቤት አስተቸውdata/train\\tr_108_tr02008.wav
9ግን ወደ ኋላው ላይ ኢሳያስ እንደልማዳቸው ሁሉንም የመልከፍ ዲፕሎማሲያቸው...data/train\\tr_109_tr02009.wav
\n", "
" ], "text/plain": [ " transcription \\\n", "0 ያንደኛ ደረጃ ትምህርታቸውን ጐንደር ተምረዋል \n", "1 የተለቀቁት ምርኮኞች በአካባቢያቸው ሰላማዊ ኑሮ እንዲኖሩ የትራንስፖርትና ... \n", "2 በአዲስ አበባው ስታዲየም በተካሄዱት ሁለት ግጥሚያዎች በመጀመሪያ የተገናኙ... \n", "3 ወሬውን ወሬ ያደረጉ ምስጢረኞች ናቸው \n", "4 ኢትዮጵያዊቷ በብሄራዊ ባህላዊ አለባበስ ከአለም አንደኝነትን ተቀዳጀች \n", "5 ከትምክህት እንዳይቆጠርብን እንጂ በአለም ታሪክ ውስጥ በነጮች ያልተረገጠች... \n", "6 እህቶቹ የኤርትራ ዜጐችና የሻእቢያ ደጋፊዎች ናቸው \n", "7 እናንተም መቀበሪያ እንዳታጡ ተጠንቀቁ \n", "8 አንቶኔሊ በአጼምንሊክ ፊት የፈጸመው ድፍረት በኢጣሊያን ምክር ቤት አስተቸው \n", "9 ግን ወደ ኋላው ላይ ኢሳያስ እንደልማዳቸው ሁሉንም የመልከፍ ዲፕሎማሲያቸው... \n", "\n", " audio \n", "0 data/train\\tr_100_tr01100.wav \n", "1 data/train\\tr_101_tr02001.wav \n", "2 data/train\\tr_102_tr02002.wav \n", "3 data/train\\tr_103_tr02003.wav \n", "4 data/train\\tr_104_tr02004.wav \n", "5 data/train\\tr_105_tr02005.wav \n", "6 data/train\\tr_106_tr02006.wav \n", "7 data/train\\tr_107_tr02007.wav \n", "8 data/train\\tr_108_tr02008.wav \n", "9 data/train\\tr_109_tr02009.wav " ] }, "execution_count": 45, "metadata": {}, "output_type": "execute_result" } ], "source": [ "fil= pd.read_csv('transcriptionsTrain.csv')\n", "fil.head(10)" ] }, { "cell_type": "code", "execution_count": 5, "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "Audio paths saved to CSV file successfully!\n" ] } ], "source": [ "import os\n", "import csv\n", "\n", "audio_dir = \"../output_data_dir\" # Replace with your actual folder path\n", "csv_file = \"audio_paths.csv\" # Name of the output CSV file\n", "\n", "unique_id = 1 # Starting unique ID\n", "\n", "with open(csv_file, \"w\", newline=\"\") as csvfile:\n", " writer = csv.writer(csvfile)\n", " writer.writerow([\"unique-id\", \"audio-path\"]) # Write header row\n", "\n", " for filename in sorted(os.listdir(audio_dir)):\n", " if filename.endswith(('.mp3', '.wav', '.ogg')): # Adjust for your audio formats\n", " audio_path = os.path.join(audio_dir, filename)\n", " writer.writerow([unique_id, audio_path])\n", " unique_id += 1\n", "\n", "print(\"Audio paths saved to CSV file successfully!\")\n" ] }, { "cell_type": "code", "execution_count": null, "metadata": {}, "outputs": [], "source": [ "import csv\n", "\n", "text_file = \"train.txt\" # Replace with your actual file path\n", "csv_file = \"text.csv\" # Name of the output CSV file\n", "\n", "unique_id = 1 # Starting unique ID\n", "\n", "with open(text_file, \"r\",encoding=\"utf8\") as textfile, open(csv_file, \"w\", encoding=\"utf8\",newline=\"\") as csvfile:\n", " reader = csv.writer(csvfile)\n", " reader.writerow([\"unique_id\", \"transcription\"]) # Write header row\n", "\n", " for line in textfile:\n", " transcription = line.strip() # Remove trailing newline\n", " reader.writerow([unique_id, transcription])\n", " unique_id += 1\n", "\n", "print(\"Transcriptions saved to CSV file successfully!\")\n" ] }, { "cell_type": "code", "execution_count": 8, "metadata": {}, "outputs": [ { "data": { "text/html": [ "
\n", "\n", "\n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", "
unique_idtranscription
01ያንደኛ ደረጃ ትምህርታቸውን ጐንደር ተምረዋል
12የተለቀቁት ምርኮኞች በአካባቢያቸው ሰላማዊ ኑሮ እንዲኖሩ የትራንስፖርትና ...
23በአዲስ አበባው ስታዲየም በተካሄዱት ሁለት ግጥሚያዎች በመጀመሪያ የተገናኙ...
34ወሬውን ወሬ ያደረጉ ምስጢረኞች ናቸው
45ኢትዮጵያዊቷ በብሄራዊ ባህላዊ አለባበስ ከአለም አንደኝነትን ተቀዳጀች
56ከትምክህት እንዳይቆጠርብን እንጂ በአለም ታሪክ ውስጥ በነጮች ያልተረገጠች...
67እህቶቹ የኤርትራ ዜጐችና የሻእቢያ ደጋፊዎች ናቸው
78እናንተም መቀበሪያ እንዳታጡ ተጠንቀቁ
89አንቶኔሊ በአጼምንሊክ ፊት የፈጸመው ድፍረት በኢጣሊያን ምክር ቤት አስተቸው
910ግን ወደ ኋላው ላይ ኢሳያስ እንደልማዳቸው ሁሉንም የመልከፍ ዲፕሎማሲያቸው...
\n", "
" ], "text/plain": [ " unique_id transcription\n", "0 1 ያንደኛ ደረጃ ትምህርታቸውን ጐንደር ተምረዋል\n", "1 2 የተለቀቁት ምርኮኞች በአካባቢያቸው ሰላማዊ ኑሮ እንዲኖሩ የትራንስፖርትና ...\n", "2 3 በአዲስ አበባው ስታዲየም በተካሄዱት ሁለት ግጥሚያዎች በመጀመሪያ የተገናኙ...\n", "3 4 ወሬውን ወሬ ያደረጉ ምስጢረኞች ናቸው\n", "4 5 ኢትዮጵያዊቷ በብሄራዊ ባህላዊ አለባበስ ከአለም አንደኝነትን ተቀዳጀች\n", "5 6 ከትምክህት እንዳይቆጠርብን እንጂ በአለም ታሪክ ውስጥ በነጮች ያልተረገጠች...\n", "6 7 እህቶቹ የኤርትራ ዜጐችና የሻእቢያ ደጋፊዎች ናቸው\n", "7 8 እናንተም መቀበሪያ እንዳታጡ ተጠንቀቁ\n", "8 9 አንቶኔሊ በአጼምንሊክ ፊት የፈጸመው ድፍረት በኢጣሊያን ምክር ቤት አስተቸው\n", "9 10 ግን ወደ ኋላው ላይ ኢሳያስ እንደልማዳቸው ሁሉንም የመልከፍ ዲፕሎማሲያቸው..." ] }, "execution_count": 8, "metadata": {}, "output_type": "execute_result" } ], "source": [ "import pandas as pd\n", "fil= pd.read_csv('text.csv')\n", "fil.head(10)" ] } ], "metadata": { "kernelspec": { "display_name": "Python 3", "language": "python", "name": "python3" }, "language_info": { "codemirror_mode": { "name": "ipython", "version": 3 }, "file_extension": ".py", "mimetype": "text/x-python", "name": "python", "nbconvert_exporter": "python", "pygments_lexer": "ipython3", "version": "3.12.0" } }, "nbformat": 4, "nbformat_minor": 2 }