{ "cells": [ { "cell_type": "code", "execution_count": 1, "id": "aafbced3", "metadata": {}, "outputs": [], "source": [ "import os\n", "os.chdir(\"/home/datht163/ModernBERT\")" ] }, { "cell_type": "code", "execution_count": 5, "id": "55e5400f", "metadata": {}, "outputs": [ { "data": { "application/vnd.microsoft.datawrangler.viewer.v0+json": { "columns": [ { "name": "index", "rawType": "int64", "type": "integer" }, { "name": "Emotion", "rawType": "object", "type": "string" }, { "name": "Sentence", "rawType": "object", "type": "string" } ], "conversionMethod": "pd.DataFrame", "ref": "be1eeff9-701b-4cd0-ba78-01ac78d86aa1", "rows": [ [ "188", "Other", "cho mình xin bài nhạc tên là gì với ạ" ], [ "166", "Disgust", "cho đáng đời con quỷ . về nhà lôi con nhà mày ra mà đánh 😡" ], [ "1345", "Disgust", "lo học đi . yêu đương lol gì hay lại thích học sinh học" ], [ "316", "Enjoyment", "uớc gì sau này về già vẫn có thể như cụ này :))" ], [ "1225", "Enjoyment", "mỗi lần có video của con là cứ coi đi coi lại hoài . cưng con quá ." ] ], "shape": { "columns": 2, "rows": 5 } }, "text/html": [ "
\n", "\n", "\n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", "
EmotionSentence
188Othercho mình xin bài nhạc tên là gì với ạ
166Disgustcho đáng đời con quỷ . về nhà lôi con nhà mày ...
1345Disgustlo học đi . yêu đương lol gì hay lại thích học...
316Enjoymentuớc gì sau này về già vẫn có thể như cụ này :))
1225Enjoymentmỗi lần có video của con là cứ coi đi coi lại ...
\n", "
" ], "text/plain": [ " Emotion Sentence\n", "188 Other cho mình xin bài nhạc tên là gì với ạ\n", "166 Disgust cho đáng đời con quỷ . về nhà lôi con nhà mày ...\n", "1345 Disgust lo học đi . yêu đương lol gì hay lại thích học...\n", "316 Enjoyment uớc gì sau này về già vẫn có thể như cụ này :))\n", "1225 Enjoyment mỗi lần có video của con là cứ coi đi coi lại ..." ] }, "execution_count": 5, "metadata": {}, "output_type": "execute_result" } ], "source": [ "import pandas as pd\n", "\n", "train_path = \"classification/data/UIT-VSMEC/train.csv\"\n", "test_path = \"classification/data/UIT-VSMEC/test.csv\"\n", "val_path = \"classification/data/UIT-VSMEC/valid.csv\"\n", "\n", "train_df = pd.read_csv(train_path, encoding=\"utf-8\", index_col=0)\n", "test_df = pd.read_csv(test_path, encoding=\"utf-8\", index_col=0)\n", "val_df = pd.read_csv(val_path, encoding=\"utf-8\", index_col=0)\n", "\n", "train_df.head()" ] }, { "cell_type": "code", "execution_count": 7, "id": "fb342f0a", "metadata": {}, "outputs": [ { "data": { "application/vnd.microsoft.datawrangler.viewer.v0+json": { "columns": [ { "name": "index", "rawType": "int64", "type": "integer" }, { "name": "text", "rawType": "object", "type": "string" }, { "name": "label", "rawType": "int64", "type": "integer" } ], "conversionMethod": "pd.DataFrame", "ref": "7a39d8ea-d87b-4a89-92e1-a93c646b5d16", "rows": [ [ "188", "cho mình xin bài nhạc tên là gì với ạ", "0" ], [ "166", "cho đáng đời con quỷ . về nhà lôi con nhà mày ra mà đánh 😡", "1" ], [ "1345", "lo học đi . yêu đương lol gì hay lại thích học sinh học", "1" ], [ "316", "uớc gì sau này về già vẫn có thể như cụ này :))", "2" ], [ "1225", "mỗi lần có video của con là cứ coi đi coi lại hoài . cưng con quá .", "2" ], [ "1220", "thằng kia sao mày bắt vợ với bồ tao dọn thế kia . nhà mày ở đâu tao đến thịt mày chết", "3" ], [ "44", "một lí do trog muôn vàn lí do", "0" ], [ "1951", "thật hay đùa ác vậy . không thể tin được", "4" ], [ "1249", "ko phải con mình , mà xem còn thấy đau như vậy huống gì người trong cuộc . thật là phẫn nộ mà . cơ quan chức năng làm việc quá chậm trễ , đến giờ mà vẫn chưa tìm ra người chịu trách nhiệm . 😠😠😠😠😠😠", "3" ], [ "1063", "per nghe đi rồi khóc 1 trận cho thoải mái . đừng cố gồng mình lên nữa", "5" ], [ "1523", "công nhận sáng tạo thật đấy", "2" ], [ "1785", "đòn tấn công cực gắt và cục sút của anh 😂😂😂", "1" ], [ "1069", "trời nắng nóng thế này mình muốn bán nước không biết thu nhập có cao không ạ :3", "0" ], [ "776", "minh biết nữa ne", "2" ], [ "1398", "mấy thằng củ lol việt nam nhảm nhí :))", "1" ], [ "497", "tui thi ́ ch va ̉ i lă ́ mày ma ̀ ăn nhỉ ̀ u no ́ người lă ́ mày mọi người anh ̣ , bi ̣ lơ ̉ miê ̣ người", "5" ], [ "562", "bếp dầu , nhiều nhà vẫn dùng", "0" ], [ "327", "nếu thấy phụ nữ quá phức tạp để hiểu và chinh phục thì đây là cách giải quyết vấn đề", "0" ], [ "191", "thời buổi bây chừ chuyện gì cũng có thể xảy ra , vậy nên thôi trất , đừng nên tin ai", "6" ], [ "298", "sau em này mà làm cô giáo ngồi kể chuyện hs lại há mồm ra nghe 😁", "2" ], [ "1750", "con chó đăng video , mày bị ngu à mà mỗi mẩu lại hiện chữ ăn cặc à", "3" ], [ "303", "coi video chưa hiểu gì đã làm ầm lên", "1" ], [ "569", "chả mong gì nhiều chỉ mong về già được như hai ông bà ! 😊😊😊", "2" ], [ "860", "yêu chết đi được .", "2" ], [ "1503", "mày định lướt qua rồi nhưng khi đọc bình luận của các bạn và xem kĩ lại thì mày đã rớt nước mắt 😭😭😭.... người cha thật vĩ đại", "5" ], [ "419", "xin đi chơi với bạn ngày tổng kết không cho cứ bắt học miết :)) khá mệt", "5" ], [ "1272", "cá nhân mình nghĩ nó dừng hay đỗ đúng sai thì đã có ca pạt còn nó đỗ trước cửa nhà mình mà oto hay xe không ra vào được thì lúc đó mới ý kiến . công nhận bọn oto đỗ trước nhà nhìn chỉ muốn đốt", "3" ], [ "29", "từ đầu năm giờ chắc chụp 10 lần rồi huhu sợ quá 😭😭😭", "6" ], [ "337", "t gặp quả này thì bỏ xe mà chạy ??", "6" ], [ "180", "thế con trai là của ai cho", "0" ], [ "1782", "per đây mí chính là cụ tổ của những chiếc sừng này", "4" ], [ "205", "muốn share về mà sợ bị bạn nè phẫn nộ quá", "6" ], [ "1080", "hồi học lớp 5 bảo bố đi mua sgk cho , xong bố đi mua nguyên bộ lớp 4 đầy đủ từ sgk đến vở bài tập 😂", "5" ], [ "831", "nay buồn :(((", "5" ], [ "298", "cv không áp lực , môi trường xung quanh mới dễ tạo áp lực", "6" ], [ "192", "ai có link nhạc mấy bài trên không ạ hay vãi ra", "2" ], [ "632", "đây người ta gọi là . khi đại thánh nhập hoặc là múa lân đầu năm", "0" ], [ "925", "phải bồi thường thiệt hại bị trầy xước thân tàu . tiền sơn lại mấy toa tàu chắc cũng bộn .", "0" ], [ "1410", "làm công nhân đã bị vắt kiệt sức khỏe cho đến khi bị thải", "5" ], [ "1774", "khi nào phường có chế độ phát chồng khi mang thân đến đăng kí kết hôn tự nguyện 😊", "2" ], [ "1573", "đéo được tích sự gì 😂", "3" ], [ "986", "haizzz ... thế là chưa có kq gì tốt đẹp cả ..", "5" ], [ "1453", "bản thân cố gắng cũng chẳng dễ dàng gì :((", "5" ], [ "875", "nói chung là 1 lũ lừa gạt thôi , việt nam mình là vậy đó", "1" ], [ "498", "thế em ăn cơm chưa ?", "0" ], [ "1122", "thu trăm tỷ phạt 5tr , lại qua tỉnh khác hành nghề ha ha", "0" ], [ "789", "chủ yếu là bọn trẻ đú với bọn dân trí thấp mà thích thể hiện bác nhỉ", "1" ], [ "1848", "mày coi chừng có ngày tao dã dô mặt mày như dzầy", "3" ], [ "1733", "canh thời gian đăng đúng vãi !", "4" ], [ "168", "quan trọng mấy thằng đó có chọn mj không . ngồi đó mà ảo tưởng", "1" ] ], "shape": { "columns": 2, "rows": 5548 } }, "text/html": [ "
\n", "\n", "\n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", "
textlabel
188cho mình xin bài nhạc tên là gì với ạ0
166cho đáng đời con quỷ . về nhà lôi con nhà mày ...1
1345lo học đi . yêu đương lol gì hay lại thích học...1
316uớc gì sau này về già vẫn có thể như cụ này :))2
1225mỗi lần có video của con là cứ coi đi coi lại ...2
.........
1332đường của nhà cụ hay sao mà cụ cấm người ta đỗ...1
825nhìn mặt héo queo luôn0
165tao đi xe máy mỗi lần muốn để xe đi đâu là phi...0
363thích thân hình boss rồi nhan 😌2
1242ước mơ nhỏ nhoi của tao là được làm chị mà khô...5
\n", "

5548 rows × 2 columns

\n", "
" ], "text/plain": [ " text label\n", "188 cho mình xin bài nhạc tên là gì với ạ 0\n", "166 cho đáng đời con quỷ . về nhà lôi con nhà mày ... 1\n", "1345 lo học đi . yêu đương lol gì hay lại thích học... 1\n", "316 uớc gì sau này về già vẫn có thể như cụ này :)) 2\n", "1225 mỗi lần có video của con là cứ coi đi coi lại ... 2\n", "... ... ...\n", "1332 đường của nhà cụ hay sao mà cụ cấm người ta đỗ... 1\n", "825 nhìn mặt héo queo luôn 0\n", "165 tao đi xe máy mỗi lần muốn để xe đi đâu là phi... 0\n", "363 thích thân hình boss rồi nhan 😌 2\n", "1242 ước mơ nhỏ nhoi của tao là được làm chị mà khô... 5\n", "\n", "[5548 rows x 2 columns]" ] }, "execution_count": 7, "metadata": {}, "output_type": "execute_result" } ], "source": [ "labels = train_df['Emotion'].unique()\n", "label2id = {label: i for i, label in enumerate(labels)}\n", "id2label = {i: label for i, label in enumerate(labels)}\n", "\n", "train_df = train_df.rename(columns={'Sentence': 'text'})\n", "train_df['label'] = train_df['Emotion'].map(label2id)\n", "train_df = train_df[['text', 'label']]\n", "\n", "test_df = test_df.rename(columns={'Sentence': 'text'})\n", "test_df['label'] = test_df['Emotion'].map(label2id)\n", "test_df = test_df[['text', 'label']]\n", "\n", "val_df = val_df.rename(columns={'Sentence': 'text'})\n", "val_df['label'] = val_df['Emotion'].map(label2id)\n", "val_df = val_df[['text', 'label']]\n", "\n", "train_df" ] }, { "cell_type": "code", "execution_count": 8, "id": "67c8209a", "metadata": {}, "outputs": [], "source": [ "train_df.to_csv(\"classification/process_data/UIT-VSMEC/train.csv\", index=False)\n", "test_df.to_csv(\"classification/process_data/UIT-VSMEC/test.csv\", index=False)\n", "val_df.to_csv(\"classification/process_data/UIT-VSMEC/val.csv\", index=False)\n", "\n", "import json\n", "with open(\"classification/process_data/UIT-VSMEC/label2id.json\", \"w\") as f:\n", " json.dump(label2id, f, ensure_ascii=False)\n", "with open(\"classification/process_data/UIT-VSMEC/id2label.json\", \"w\") as f:\n", " json.dump(id2label, f, ensure_ascii=False)" ] } ], "metadata": { "kernelspec": { "display_name": ".venv", "language": "python", "name": "python3" }, "language_info": { "codemirror_mode": { "name": "ipython", "version": 3 }, "file_extension": ".py", "mimetype": "text/x-python", "name": "python", "nbconvert_exporter": "python", "pygments_lexer": "ipython3", "version": "3.10.12" } }, "nbformat": 4, "nbformat_minor": 5 }