case_id stringlengths 8 8 | source stringlengths 58 78 | meta stringlengths 167 220 | task stringlengths 609 1.48k | events stringlengths 5.63k 24.5k | stages stringlengths 3.66k 8.37k | failure_tags stringclasses 10
values |
|---|---|---|---|---|---|---|
case-001 | {"benchmark": "AMA-Bench", "orig_id": 60, "license": "MIT"} | {"domain": "OPENWORLD_QA", "orig_task_type": "gaia_level1", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 29} | {"goal": {"text": "Trong video BBC Earth 'Top 5 Silliest Animal Moments', loài chim nào được giới thiệu? Cho biết loài, chapter/clip liên quan, và nguồn xác nhận.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"species": "string", "video_chapter": "string", "confirming_source": "string"}, "constra... | [{"event_id": "e1", "turn_ref": [0], "type": "api", "speaker": "agent", "language": "en", "modality": "text", "content": "Search for the original BBC Earth video on YouTube.", "media": null, "runtime": {"tool": "tavily_search", "args": {"query": "BBC Earth \"Top 5 Silliest Animal Moments\" YouTube"}, "response": "Found... | [{"stage_id": "s1", "title": "Recall: dịch vụ text-mirror", "covers_events": ["e8", "e16"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Agent dùng dịch vụ text-mirror nào để đọc được trang YouTube?", "lang": "vi", "answer_schema": {"service": "string"}}, "ground_truth": {"answer": {"serv... | ["attention_dilution", "stalling", "cascading_failure", "regression"] |
case-002 | {"benchmark": "AMA-Bench", "orig_id": 61, "license": "MIT"} | {"domain": "OPENWORLD_QA", "orig_task_type": "gaia_level1", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 42} | {"goal": {"text": "Trong bài thơ 'Father Son and Holy Ghost' của Audre Lorde, khổ thơ (stanza) nào có các dòng bị thụt lề? Cho số khổ.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"stanza_number": "string", "indented_line_cue": "string", "authoritative_source": "string"}, "constraints": []}, "fi... | [{"event_id": "e1", "turn_ref": [0], "type": "api", "speaker": "agent", "language": "en", "modality": "text", "content": "Search for 'The Collected Poems of Audre Lorde'.", "media": null, "runtime": {"tool": "tavily_search", "args": {"query": "\"The Collected Poems of Audre Lorde\" \"Father Son and Holy Ghost\""}, "res... | [{"stage_id": "s1", "title": "Recall: mirror vượt JavaScript block", "covers_events": ["e13"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Agent dùng mirror/dịch vụ nào ở e13 để vượt qua JavaScript block của Poetry Foundation?", "lang": "vi", "answer_schema": {"service": "string"}}, "gro... | ["attention_dilution", "stalling", "cascading_failure", "regression"] |
case-003 | {"benchmark": "AMA-Bench", "orig_id": 62, "license": "MIT"} | {"domain": "OPENWORLD_QA", "orig_task_type": "gaia_level1", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 38} | {"goal": {"text": "Trong Series 9, Tập 11 của Doctor Who, mê cung mà Doctor bị nhốt được gọi là gì trong kịch bản chính thức? Cho đúng bối cảnh như xuất hiện ở scene heading đầu tiên.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"setting": "string", "first_scene_heading": "string", "confirming_d... | [{"event_id": "e1", "turn_ref": [0], "type": "api", "speaker": "agent", "language": "vi", "modality": "text", "content": "Bắt đầu: cần tìm shooting script chính thức của 'Heaven Sent' trên BBC Writersroom, không lấy nguồn fan-mirror.", "media": null, "runtime": {"tool": "tavily_search", "args": {"query": "Heaven Sent s... | [{"stage_id": "s1", "title": "Recall: scene heading đầu tiên", "covers_events": ["e12"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Scene heading đầu tiên trong kịch bản chính thức (PDF ở e12) ghi chính xác là gì?", "lang": "en", "answer_schema": {"heading": "string"}}, "ground_truth": ... | ["attention_dilution", "regression", "cascading_failure", "stalling"] |
case-004 | {"benchmark": "LongMemEval", "orig_id": "6a1eabeb", "license": "MIT"} | {"domain": null, "orig_task_type": "knowledge-update", "capabilities": ["recall", "state_update", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 25} | {"goal": {"text": "Thời gian cá nhân tốt nhất (personal best) của người dùng trong giải chạy charity 5K là bao nhiêu?", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"pb_time": "string", "race": "string", "later_goal": "string"}, "constraints": []}, "final_answer": {"answer": {"pb_time": "25 phút 5... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "I'm planning my fitness schedule. Can you remind me when my next soccer game with coworkers is?", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": [0, 1], "type": "message", "sp... | [{"stage_id": "s1", "title": "Recall: thời gian PB 5K", "covers_events": ["e5"], "capability": "recall", "anchor": null, "probe": {"question": "Thời gian cá nhân tốt nhất của người dùng trong giải charity 5K là bao nhiêu?", "lang": "vi", "answer_schema": {"pb_time": "string"}}, "ground_truth": {"answer": {"pb_time": "2... | ["attention_dilution", "regression", "cascading_failure"] |
case-005 | {"benchmark": "LongMemEval", "orig_id": "0a995998", "license": "MIT"} | {"domain": null, "orig_task_type": "multi-session", "capabilities": ["recall", "abstraction", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 35} | {"goal": {"text": "Tổng cộng người dùng cần lấy hoặc trả lại bao nhiêu món quần áo/đồ từ cửa hàng?", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"count": "string", "items": "string[]", "stores": "string[]"}, "constraints": []}, "final_answer": {"answer": {"count": "3", "items": ["navy blue blazer... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "Help me organize my closet — tips to declutter and categorize clothes? Also I still need to pick up my dry cleaning.", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": [0, 1], "... | [{"stage_id": "s1", "title": "Recall: món dry cleaning cần lấy", "covers_events": ["e11"], "capability": "recall", "anchor": null, "probe": {"question": "Món đồ dry cleaning mà người dùng cần đi lấy là gì?", "lang": "vi", "answer_schema": {"item": "string"}}, "ground_truth": {"answer": {"item": "navy blue blazer"}, "fi... | ["attention_dilution", "stalling", "cascading_failure", "regression"] |
case-006 | {"benchmark": "LongMemEval", "orig_id": "gpt4_2655b836", "license": "MIT"} | {"domain": null, "orig_task_type": "temporal-reasoning", "capabilities": ["recall", "causal", "state_update", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 37} | {"goal": {"text": "Vấn đề đầu tiên mà người dùng gặp với chiếc xe mới sau lần bảo dưỡng (service) đầu tiên là gì?", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"first_issue": "string", "fixed_by": "string", "status": "string"}, "constraints": []}, "final_answer": {"answer": {"first_issue": "GPS s... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": ["vi", "en"], "modality": "text", "content": "Mình định đi detailing xe. Có gợi ý detailer tốt không? À, mình vừa mới đi service (bảo dưỡng) chiếc xe lần đầu hôm 15/3 xong.", "media": null, "runtime": null}, {"event_id": "e2", "tu... | [{"stage_id": "s1", "title": "Recall: lần bảo dưỡng đầu tiên", "covers_events": ["e1"], "capability": "recall", "anchor": null, "probe": {"question": "Ở đầu hội thoại, người dùng vừa thực hiện việc gì với chiếc xe mới?", "lang": "vi", "answer_schema": {"event": "string"}}, "ground_truth": {"answer": {"event": "vừa mang... | ["attention_dilution", "cascading_failure", "regression"] |
case-007 | {"benchmark": "LoCoMo", "orig_id": "conv-26", "license": "CC BY-NC 4.0"} | {"domain": null, "capabilities": ["recall", "state_update", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text", "image"], "horizon": 36} | {"goal": {"text": "Dựa trên cuộc trò chuyện nhiều phiên giữa Caroline và Melanie, ai là người đang nghiên cứu các agency nhận con nuôi, và họ theo đuổi hướng nghề nghiệp nào?", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"adopter": "string", "career": "string", "identity": "string", "agency_focus... | [{"event_id": "e1", "turn_ref": ["D1:1"], "type": "message", "speaker": "speaker_a", "language": "en", "modality": "text", "content": "Hey Mel! Good to see you! How have you been?", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": ["D1:2"], "type": "message", "speaker": "speaker_b", "language": "en", "mo... | [{"stage_id": "s1", "title": "Recall: bản dạng của Caroline", "covers_events": ["e3", "e5"], "capability": "recall", "anchor": null, "probe": {"question": "Caroline tự nhận mình thuộc nhóm bản dạng nào?", "lang": "vi", "answer_schema": {"identity": "string"}}, "ground_truth": {"answer": {"identity": "transgender woman"... | ["attention_dilution", "regression", "cascading_failure"] |
case-008 | {"benchmark": "LoCoMo", "orig_id": "conv-43", "license": "CC BY-NC 4.0"} | {"domain": null, "capabilities": ["recall", "causal", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text", "image"], "horizon": 40} | {"goal": {"text": "Dựa trên hội thoại nhiều phiên giữa John và Tim: ai vừa ký hợp đồng với đội bóng rổ Minnesota Wolves, và đam mê chính của người còn lại là gì?", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"signer": "string", "team": "string", "signer_position": "string", "other_passion": "stri... | [{"event_id": "e1", "turn_ref": ["D1:1"], "type": "message", "speaker": "John", "language": "en", "modality": "text", "content": "Hey Tim, nice to meet you! Anything new happening?", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": ["D1:2"], "type": "message", "speaker": "Tim", "language": "vi", "modalit... | [{"stage_id": "s1", "title": "Recall: đội John ký hợp đồng", "covers_events": ["e5"], "capability": "recall", "anchor": null, "probe": {"question": "John vừa ký hợp đồng với đội bóng rổ nào?", "lang": "vi", "answer_schema": {"team": "string"}}, "ground_truth": {"answer": {"team": "Minnesota Wolves"}, "fields": [{"key":... | ["attention_dilution", "regression", "cascading_failure", "stalling"] |
case-009 | {"benchmark": "LoCoMo", "orig_id": "conv-44", "license": "CC BY-NC 4.0"} | {"domain": null, "capabilities": ["recall", "causal", "state_update", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text", "image"], "horizon": 51} | {"goal": {"text": "Dựa trên hội thoại nhiều phiên: Audrey hiện có bao nhiêu con chó và tên chúng là gì, và loài chim nào mê hoặc Andrew?", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"dog_count": "string", "dog_names": "string[]", "new_dog": "string", "andrew_bird": "string"}, "constraints": []},... | [{"event_id": "e1", "turn_ref": ["D1:1"], "type": "message", "speaker": "Audrey", "language": "en", "modality": "text", "content": "Hey Andrew! Good to see ya! What's been up since we last talked?", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": ["D1:2"], "type": "message", "speaker": "Andrew", "langua... | [{"stage_id": "s1", "title": "Recall: tên 3 con chó đầu", "covers_events": ["e7"], "capability": "recall", "anchor": null, "probe": {"question": "Tên ba con chó ban đầu của Audrey là gì?", "lang": "vi", "answer_schema": {"names": "string[]"}}, "ground_truth": {"answer": {"names": ["Pepper", "Precious", "Panda"]}, "fiel... | ["attention_dilution", "regression", "cascading_failure"] |
case-010 | {"benchmark": "AMA-Bench", "orig_id": 63, "license": "MIT"} | {"domain": "OPENWORLD_QA", "orig_task_type": "gaia_level1", "capabilities": ["recall", "causal", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 18} | {"goal": {"text": "Ai là người đề cử (nominator) bài Featured Article duy nhất về một loài khủng long trên Wikipedia tiếng Anh được thăng hạng (promoted) trong tháng 11 năm 2016? Cho biết người đề cử, tên bài khủng long, và trang nguồn xác nhận.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"nomi... | [{"event_id": "e1", "turn_ref": [0], "type": "api", "speaker": "agent", "language": "en", "modality": "text", "content": "Parse the question and output constraints; plan to find the dinosaur Featured Article promoted in November 2016 and its FAC nominator.", "media": null, "runtime": {"tool": "mark_step", "args": {"ste... | [{"stage_id": "s1", "title": "Recall (early): kết quả truy vấn đầu tiên", "covers_events": ["e2"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Kết quả tìm kiếm đầu tiên (e2) trả về trang Wikipedia nào, và nó có phải là trang FAC promotion log không?", "lang": "vi", "answer_schema": {"top... | ["attention_dilution", "stalling", "cascading_failure", "regression"] |
case-011 | {"benchmark": "AMA-Bench", "orig_id": 64, "license": "MIT"} | {"domain": "OPENWORLD_QA", "orig_task_type": "gaia_level1", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 36} | {"goal": {"text": "Trong bài báo của University of Leicester 'Can Hiccup Supply Enough Fish to Maintain a Dragon's Diet?', thể tích (m^3) của túi đựng cá được tính ra là bao nhiêu? Cho biết giá trị thể tích, nguồn/mirror mà agent đọc được toàn văn, và câu định nghĩa dung tích trong bài.", "lang": "vi"}, "output_spec": ... | [{"event_id": "e1", "turn_ref": [0], "type": "api", "speaker": "agent", "language": "en", "modality": "text", "content": "Initial search for the paper and the fish bag volume.", "media": null, "runtime": {"tool": "tavily_search", "args": {"query": "How to Train Your Dragon fish bag volume m^3 University of Leicester"},... | [{"stage_id": "s1", "title": "Recall (early): nguồn/mirror đọc được toàn văn", "covers_events": ["e12"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Agent đọc được toàn văn bài báo (parse PDF thành công) từ mirror/nguồn nào?", "lang": "vi", "answer_schema": {"source_mirror": "string"}}, ... | ["attention_dilution", "cascading_failure", "stalling", "regression"] |
case-012 | {"benchmark": "AMA-Bench", "orig_id": 65, "license": "MIT"} | {"domain": "OPENWORLD_QA", "orig_task_type": "gaia_level1", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 44} | {"goal": {"text": "Ngày 6/6/2023, Carolyn Collins Petersen đăng một bài trên Universe Today; bài này dẫn tới một paper ở cuối trang. Tìm paper đó và cho biết: dưới số hiệu giải thưởng (award number) nào của NASA mà công việc của R. G. Arendt được tài trợ? Nêu kèm bài báo gốc, mã arXiv của paper, và tác giả được tài trợ... | [{"event_id": "e1", "turn_ref": [0], "type": "api", "speaker": "agent", "language": "en", "modality": "text", "content": "Search for the June 6, 2023 Universe Today article by Carolyn Collins Petersen.", "media": null, "runtime": {"tool": "tavily_search", "args": {"query": "Universe Today Carolyn Collins Petersen June ... | [{"stage_id": "s1", "title": "Recall (early): truy vấn tìm bài Universe Today", "covers_events": ["e1"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Ở event đầu tiên, agent dùng truy vấn tìm kiếm chính xác nào để tìm bài báo Universe Today?", "lang": "vi", "answer_schema": {"query": "str... | ["attention_dilution", "cascading_failure", "stalling", "regression"] |
case-013 | {"benchmark": "AMA-Bench", "orig_id": 177, "license": "MIT"} | {"domain": "WEB", "orig_task_type": "webarena", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 24} | {"goal": {"text": "Trong Magento Admin, tìm tên các khách hàng đã bày tỏ sự không hài lòng (dissatisfaction) với sản phẩm 'Chloe tank'. Cho biết các khách hàng đó, module/trang đúng để tra cứu, và kết luận dựa trên dữ liệu thực tế.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"dissatisfied_custo... | [{"event_id": "e1", "turn_ref": [0], "type": "action", "speaker": "agent", "language": "en", "modality": "text", "content": "Open the CATALOG menu from the Magento Admin dashboard.", "media": null, "runtime": {"tool": "click", "args": {"element_id": "96", "label": "link 'CATALOG'"}, "response": "RootWebArea 'Dashboard ... | [{"stage_id": "s1", "title": "Recall (early): module mở đầu tiên cho ý định 'khách hàng'", "covers_events": ["e3", "e4"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Sau khi vào Catalog/Products, agent chuyển sang module nào và mở trang nào để bắt đầu tìm khách hàng? Cho biết element ID ... | ["attention_dilution", "regression", "cascading_failure", "stalling"] |
case-014 | {"benchmark": "AMA-Bench", "orig_id": 178, "license": "MIT"} | {"domain": "WEB", "orig_task_type": "webarena", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 31} | {"goal": {"text": "Trên GitLab, mở một merge request đưa nhánh 'redesign' của a11yproject.com vào nhánh 'master', và gán Justin Armstrong làm reviewer. Cho biết MR có được tạo không, reviewer có được gán thành công không, và lý do gốc nếu thất bại.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"m... | [{"event_id": "e1", "turn_ref": [0], "type": "action", "speaker": "agent", "language": "en", "modality": "text", "content": "Open the a11yproject.com project from the dashboard.", "media": null, "runtime": {"tool": "click", "args": {"element_id": "568", "label": "link 'The A11Y Project / a11yproject.com'"}, "response":... | [{"stage_id": "s1", "title": "Recall (early): nhánh nguồn của merge request", "covers_events": ["e6", "e7"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Nhánh nguồn (source branch) mà agent chọn cho merge request là nhánh nào, và được chọn qua element ID nào?", "lang": "vi", "answer_sche... | ["attention_dilution", "regression", "stalling", "cascading_failure"] |
case-015 | {"benchmark": "AMA-Bench", "orig_id": 180, "license": "MIT"} | {"domain": "WEB", "orig_task_type": "webarena", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 31} | {"goal": {"text": "Trong Magento Admin, soạn một Cart Price Rule mới cho 'Thanksgiving Sale' giảm $40 khi checkout cho tất cả khách hàng. Cho biết loại rule đúng, tab chứa giá trị giảm giá, và lý do trajectory này thất bại.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"rule_type": "string", "dis... | [{"event_id": "e1", "turn_ref": [0], "type": "action", "speaker": "agent", "language": "en", "modality": "text", "content": "Open the MARKETING menu from the admin sidebar.", "media": null, "runtime": {"tool": "click", "args": {"element_id": 108, "label": "MARKETING"}, "response": "Dashboard / Magento Admin; MARKETING ... | [{"stage_id": "s1", "title": "Causal: chọn đúng loại price rule (cart vs catalog)", "covers_events": ["e1", "e2"], "capability": "causal", "anchor": {"ama_type": "B"}, "probe": {"question": "Vì sao agent phải vào 'Cart Price Rules' [364] chứ không phải 'Catalog Price Rule' [361] để đáp ứng yêu cầu giảm giá 'on checkout... | ["cascading_failure", "attention_dilution", "regression", "stalling"] |
case-016 | {"benchmark": "AMA-Bench", "orig_id": 48, "license": "MIT"} | {"domain": "EMBODIED_AI", "orig_task_type": "alfworld", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 65} | {"goal": {"text": "Trong môi trường text-adventure ALFWorld này, hãy theo dõi toàn bộ trajectory của agent (lấy bút chì rồi đặt lại) và trả lời chính xác: vật phẩm mục tiêu cuối cùng được đặt ở đâu, lịch sử inventory thay đổi ra sao, và agent đã tương tác với những container nào. Chỉ dùng dữ kiện có trong các observati... | [{"event_id": "e1", "turn_ref": [0], "type": "action", "speaker": "agent", "language": "en", "modality": "text", "content": "Initial look around the room.", "media": null, "runtime": {"tool": "action", "args": {"command": "look"}, "response": "You are in the middle of a room. Looking quickly around you, you see nothing... | [{"stage_id": "s1", "title": "Recall (early): actions on drawer 1 before step 38", "covers_events": ["e10", "e11"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Trước step 38 (e39), những hành động nào đã thực hiện trên drawer 1 và ở step nào?", "lang": "vi", "answer_schema": {"drawer1_ac... | ["attention_dilution", "cascading_failure", "regression", "stalling"] |
case-017 | {"benchmark": "AMA-Bench", "orig_id": 47, "license": "MIT"} | {"domain": "EMBODIED_AI", "orig_task_type": "alfworld", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 72} | {"goal": {"text": "Trong môi trường ALFWorld, agent phải di chuyển HAI bánh xà phòng (soapbar) vào cabinet. Hãy theo dõi trajectory và báo cáo: nhiệm vụ hoàn tất ở turn nào, cabinet đích là cái nào, và hai bánh soapbar kết thúc ở đâu.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"target_cabinet"... | [{"event_id": "e1", "turn_ref": [0], "type": "api", "speaker": "agent", "language": "vi", "modality": "text", "content": "Khởi đầu: quan sát căn phòng (look) — chưa thấy vật thể nào.", "media": null, "runtime": {"tool": "look", "args": {}, "response": "You are in the middle of a room. Looking quickly around you, you se... | [{"stage_id": "s1", "title": "Recall (dau horizon): hanh dong tren cabinet 1 truoc khi cam banh thu hai", "covers_events": ["e7", "e8", "e9", "e10"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Ở giai đoạn đầu, agent đã thực hiện thao tác nào với cabinet 1 ngay trước khi đặt soapbar 2 và... | ["attention_dilution", "regression", "cascading_failure", "stalling"] |
case-018 | {"benchmark": "AMA-Bench", "orig_id": 5, "license": "MIT"} | {"domain": "Game", "orig_task_type": "babaisai", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 20} | {"goal": {"text": "Trong puzzle kiểu Baba Is You, agent di chuyển trên lưới và đẩy các text block để chuẩn bị thao tác luật. Hãy xác định: text block nào agent đẩy xuống trong chuỗi 'down', luật xấu nào bị ngăn hình thành, và hàng (rule) nào agent canh thẳng tới Step 6.", "lang": "vi"}, "output_spec": {"format": "json"... | [{"event_id": "e1", "turn_ref": [], "type": "message", "speaker": "user", "language": ["vi", "en"], "modality": "text", "content": "Đề bài: agent điều khiển baba (rule 'baba is you'). Mục tiêu thắng là chạm key hoặc door (rule 'key is win', 'door is win'). LƯU Ý ràng buộc: TUYỆT ĐỐI không để hình thành rule 'wall is st... | [{"stage_id": "s1", "title": "Recall (đầu): luật win active ban đầu", "covers_events": ["e2"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Ở đầu trajectory (e2), những win-condition nào đang active trên bảng?", "lang": "vi", "answer_schema": {"win_rules": "string[]"}}, "ground_truth": {"... | ["attention_dilution", "stalling", "cascading_failure", "regression"] |
case-019 | {"benchmark": "AMA-Bench", "orig_id": 17, "license": "MIT"} | {"domain": "Game", "orig_task_type": "minihack", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 28} | {"goal": {"text": "Trong dungeon NetHack (level 1, The Dungeons of Doom), agent khởi đầu cạnh 'stairs up' và phải khám phá để tìm lối xuống tầng dưới. Hãy cho biết: tile mục tiêu để đi xuống, toạ độ của nó, toạ độ mà từ đó lần đầu nhìn thấy mục tiêu, và số bước south cần để tiếp cận.", "lang": "vi"}, "output_spec": {"f... | [{"event_id": "e1", "turn_ref": [0], "type": "action", "speaker": "agent", "language": "en", "modality": "text", "content": "Move south from the starting tile beside the up-stairs.", "media": null, "runtime": {"tool": "step_env", "args": {"action": "south"}, "response": "stairs up adjacent north; dark area near south. ... | [{"stage_id": "s1", "title": "Recall (early): hành động đầu tiên bị tường chặn", "covers_events": ["e5"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Ở giai đoạn đầu, hành động đầu tiên thất bại với thông báo 'It's solid stone' là hướng nào, và tại toạ độ nào?", "lang": "vi", "answer_sch... | ["attention_dilution", "cascading_failure", "stalling", "regression"] |
case-020 | {"benchmark": "AMA-Bench", "orig_id": 90, "license": "MIT"} | {"domain": "TEXT2SQL", "orig_task_type": "spider2", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 25} | {"goal": {"text": "Trong database Snowflake FINANCE__ECONOMICS (schema CYBERSYN), viết một câu SQL trả về top 10 ngân hàng đang hoạt động (active) có tổng tài sản vượt 10 tỷ USD tính đến 31/12/2022, xếp hạng theo tỷ lệ tài sản KHÔNG được bảo hiểm cao nhất, trong đó tỷ lệ này = 1 trừ giá trị biến '% Insured (Estimated)'... | [{"event_id": "e1", "turn_ref": [2], "type": "api", "speaker": "agent", "language": "en", "modality": "text", "content": "List the CYBERSYN schema directory to enumerate available artifacts.", "media": null, "runtime": {"tool": "execute_bash", "args": {"command": "ls -la /workspace/NL2SQL/Spider2/spider2-snow/resource/... | [{"stage_id": "s1", "title": "Recall (early): first schema-exploration action", "covers_events": ["e1"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Hành động khám phá hệ thống file đầu tiên (ở turn 2) mà agent thực thi để bắt đầu kiểm tra thư mục schema là gì?", "lang": "vi", "answer_sc... | ["attention_dilution", "stalling", "cascading_failure", "regression"] |
case-021 | {"benchmark": "AMA-Bench", "orig_id": 151, "license": "MIT"} | {"domain": "SOFTWARE", "orig_task_type": "swebench", "capabilities": ["recall", "causal", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 47} | {"goal": {"text": "Trong repo django__django__4.1, sửa lỗi: trên SQLite, AlterField khi chỉ thêm/đổi 'choices' vẫn sinh SQL tái tạo bảng (postgres thì noop). Cho biết file + symbol được sửa, cơ chế làm cho thao tác thành noop, và bài test backend nào được chạy cuối cùng để xác nhận không hồi quy.", "lang": "vi"}, "outp... | [{"event_id": "e1", "turn_ref": [0], "type": "api", "speaker": "agent", "language": "en", "modality": "text", "content": "Inspect the /workspace root to orient.", "media": null, "runtime": {"tool": "str_replace_editor", "args": {"command": "view", "path": "/workspace"}, "response": "Lists /workspace/django__django__4.1... | [{"stage_id": "s1", "title": "Recall (early): guard early-return trong SQLite schema editor", "covers_events": ["e11", "e12"], "capability": "recall", "anchor": {"ama_type": "A"}, "probe": {"question": "Trong django/db/backends/sqlite3/schema.py, method nào gọi guard quyết định có alter field hay không, và guard đó tên... | ["attention_dilution", "cascading_failure", "regression", "stalling"] |
case-022 | {"benchmark": "LongMemEval", "orig_id": "6aeb4375", "license": "MIT"} | {"domain": null, "orig_task_type": "knowledge-update", "capabilities": ["recall", "state_update", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 25} | {"goal": {"text": "Tính đến phiên hội thoại gần nhất, người dùng đã thử bao nhiêu nhà hàng Hàn Quốc trong thành phố của mình?", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"korean_restaurants_tried": "integer", "earlier_count": "integer", "example_dishes": "string[]"}, "constraints": ["Trả về kor... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "I'm planning a dinner party and need some help with the menu. Can you suggest some popular Korean BBQ dishes that are easy to make in large quantities?", "media": null, "runtime": null}, {"eve... | [{"stage_id": "s1", "title": "Recall (early): số nhà hàng Korean nêu lần đầu", "covers_events": ["e9"], "capability": "recall", "anchor": null, "probe": {"question": "Ở phiên đầu tiên (11/08), người dùng nói đã thử bao nhiêu nhà hàng Hàn Quốc?", "lang": "vi", "answer_schema": {"count": "integer"}}, "ground_truth": {"an... | ["attention_dilution", "regression", "stalling", "cascading_failure"] |
case-023 | {"benchmark": "LongMemEval", "orig_id": "830ce83f", "license": "MIT"} | {"domain": null, "orig_task_type": "knowledge-update", "capabilities": ["recall", "state_update", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 25} | {"goal": {"text": "Sau lần chuyển nhà gần đây nhất, bạn Rachel của người dùng đã chuyển đến đâu? Trả lời theo đúng ràng buộc định dạng nêu ở cuối hội thoại.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"rachel_location": "string", "previous_location": "string", "change_described_at_event": "even... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "I'm planning a trip with friends and we're deciding between a beach town in Florida and a hiking trip in Colorado. Can you give me some information about the best times to visit these places?"... | [{"stage_id": "s1", "title": "Recall (early): nơi Rachel ở theo phiên 1", "covers_events": ["e5"], "capability": "recall", "anchor": null, "probe": {"question": "Ở phiên đầu tiên, người dùng nói bạn Rachel đã chuyển đến thành phố nào?", "lang": "vi", "answer_schema": {"city": "string"}}, "ground_truth": {"answer": {"ci... | ["attention_dilution", "regression", "cascading_failure"] |
case-024 | {"benchmark": "LongMemEval", "orig_id": "852ce960", "license": "MIT"} | {"domain": null, "orig_task_type": "knowledge-update", "capabilities": ["recall", "state_update", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 25} | {"goal": {"text": "Số tiền người dùng được duyệt trước (pre-approved) cho khoản vay mua nhà từ Wells Fargo là bao nhiêu?", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"preapproval_amount": "string", "lender": "string", "house_price": "string"}, "constraints": ["Chỉ nêu con số tiền, kèm ký hiệu $,... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "I'm in the process of buying a new home and I'm trying to finalize my budget. Can you help me estimate how much I'll need for closing costs?", "media": null, "runtime": null}, {"event_id": "e2... | [{"stage_id": "s1", "title": "Recall (early): số pre-approval ban đầu", "covers_events": ["e3"], "capability": "recall", "anchor": null, "probe": {"question": "Ở phiên đầu, người dùng nói được Wells Fargo duyệt pre-approved bao nhiêu, và giá ngôi nhà định mua là bao nhiêu?", "lang": "vi", "answer_schema": {"initial_pre... | ["attention_dilution", "regression", "cascading_failure"] |
case-025 | {"benchmark": "LongMemEval", "orig_id": "6d550036", "license": "MIT"} | {"domain": null, "orig_task_type": "multi-session", "capabilities": ["recall", "abstraction", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 45} | {"goal": {"text": "Tổng hợp qua tất cả các phiên: người dùng đã lãnh đạo (led) hoặc đang lãnh đạo bao nhiêu dự án?", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"count": "string", "led_projects": "string[]", "not_led": "string[]"}, "constraints": ["Chỉ đếm dự án người dùng LÃNH ĐẠO/đang lãnh đạo,... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "I'm looking for some help with data visualization tools. I recently participated in a case competition hosted by a consulting firm, where we had to analyze a business case and present our reco... | [{"stage_id": "s1", "title": "Recall (early): case competition là tham gia hay lãnh đạo?", "covers_events": ["e1"], "capability": "recall", "anchor": null, "probe": {"question": "Ở phiên đầu, người dùng có vai trò gì trong cuộc thi case competition của công ty tư vấn?", "lang": "vi", "answer_schema": {"role": "string"}... | ["attention_dilution", "regression", "stalling", "cascading_failure"] |
case-026 | {"benchmark": "LongMemEval", "orig_id": "gpt4_59c863d7", "license": "MIT"} | {"domain": null, "orig_task_type": "multi-session", "capabilities": ["recall", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 47} | {"goal": {"text": "Tổng hợp qua cả 4 phiên: người dùng đã làm hoặc mua tất cả bao nhiêu bộ mô hình (model kit), và liệt kê tên cùng tỉ lệ (scale) của từng bộ.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"count": "string", "kits": "string[]", "scales": "string[]"}, "constraints": ["đếm mỗi bộ mô... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "I'm looking for some tips on weathering techniques for my model kits. I've been getting back into model building and I recently finished a simple Revell F-15 Eagle kit that I picked up on a wh... | [{"stage_id": "s1", "title": "Recall (early): bộ kit đầu tiên ở phiên 1", "covers_events": ["e1", "e7"], "capability": "recall", "anchor": null, "probe": {"question": "Ở phiên đầu tiên, người dùng nói vừa hoàn thành bộ mô hình nào, và mua ở đâu/khi nào?", "lang": "vi", "answer_schema": {"kit": "string", "where_when": "... | ["attention_dilution", "stalling", "regression"] |
case-027 | {"benchmark": "LongMemEval", "orig_id": "gpt4_2487a7cb", "license": "MIT"} | {"domain": null, "orig_task_type": "temporal-reasoning", "capabilities": ["recall", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 25} | {"goal": {"text": "Người dùng đã tham dự sự kiện nào TRƯỚC: workshop 'Effective Time Management' hay webinar 'Data Analysis using Python'? Trả về sự kiện diễn ra trước, kèm thời điểm tương ứng.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"first_event": "string", "first_event_when": "string", "s... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "I'm trying to get more organized and stay on top of my tasks. Can you recommend any apps or tools that can help me prioritize my tasks and avoid procrastination?", "media": null, "runtime": nu... | [{"stage_id": "s1", "title": "Recall (early): nguồn mất tập trung lớn nhất của người dùng", "covers_events": ["e7"], "capability": "recall", "anchor": null, "probe": {"question": "Ở đầu hội thoại, người dùng cho biết thứ gây mất tập trung lớn nhất khi cần tập trung làm việc là gì?", "lang": "vi", "answer_schema": {"dis... | ["attention_dilution", "cascading_failure", "regression"] |
case-028 | {"benchmark": "LongMemEval", "orig_id": "gpt4_76048e76", "license": "MIT"} | {"domain": null, "orig_task_type": "temporal-reasoning", "capabilities": ["recall", "causal", "state_update", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 25} | {"goal": {"text": "Trong tháng Hai, người dùng đã chăm sóc (sửa chữa/bảo dưỡng) phương tiện nào TRƯỚC — chiếc xe đạp (bike) hay chiếc ô tô (car)? Trả lời kèm mốc thời gian của mỗi phương tiện.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"first_vehicle": "string", "bike_date": "string", "car_dat... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": ["vi", "en"], "modality": "text", "content": "Mình định mua một cái bike rack mới cho xe ô tô. Có gợi ý gì không? À tiện thể, dạo này chiếc xe đạp của mình hơi trục trặc — hồi mid-February mình phải mang nó đi sửa vì bộ gears bị l... | [{"stage_id": "s1", "title": "Recall (early): sự cố xe đạp giữa tháng Hai", "covers_events": ["e1"], "capability": "recall", "anchor": null, "probe": {"question": "Ở đầu hội thoại, người dùng kể chiếc xe đạp gặp vấn đề gì và đã mang đi sửa vào thời điểm nào?", "lang": "vi", "answer_schema": {"bike_issue": "string", "bi... | ["attention_dilution", "regression", "cascading_failure"] |
case-029 | {"benchmark": "LongMemEval", "orig_id": "e47becba", "license": "MIT"} | {"domain": null, "orig_task_type": "single-session-user", "capabilities": ["recall", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 16} | {"goal": {"text": "Người dùng đã tốt nghiệp với tấm bằng (degree) chuyên ngành gì?", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"degree": "string", "field_of_study": "string", "stated_at_event": "event_id", "relevance": "string"}, "constraints": ["Chỉ nêu tên chuyên ngành, không kèm tên trường",... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "I'm trying to organize my life a bit better, can you recommend some task management apps that can help me prioritize my work and personal tasks? I've been using a planner, but I think I need s... | [{"stage_id": "s1", "title": "Recall (early): chuyên ngành tốt nghiệp + vị trí nêu", "covers_events": ["e5"], "capability": "recall", "anchor": null, "probe": {"question": "Người dùng đã tốt nghiệp với tấm bằng chuyên ngành gì, và họ tiết lộ điều đó ở event nào?", "lang": "vi", "answer_schema": {"degree": "string", "st... | ["attention_dilution", "cascading_failure", "stalling", "regression"] |
case-030 | {"benchmark": "LongMemEval", "orig_id": "118b2229", "license": "MIT"} | {"domain": null, "orig_task_type": "single-session-user", "capabilities": ["recall", "causal", "constraint_tracking", "abstraction"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 16} | {"goal": {"text": "Hành trình đi làm hằng ngày (daily commute) của người dùng dài bao lâu? Nêu thời gian mỗi chiều, tổng thời gian cả đi lẫn về, và lý do người dùng quan tâm tới khoảng thời gian này.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"one_way_minutes": "string", "round_trip_minutes": ... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "I'm looking for some new fiction audiobook recommendations. I've been enjoying audiobooks a lot lately, especially during my daily commute.", "media": null, "runtime": null}, {"event_id": "e2"... | [{"stage_id": "s1", "title": "Recall (early): cuốn người dùng đang đọc trên Kindle", "covers_events": ["e3"], "capability": "recall", "anchor": null, "probe": {"question": "Ở đầu hội thoại, người dùng nói đang đọc cuốn nào trên Kindle?", "lang": "vi", "answer_schema": {"book": "string"}}, "ground_truth": {"answer": {"b... | ["attention_dilution", "cascading_failure", "stalling", "regression"] |
case-031 | {"benchmark": "LongMemEval", "orig_id": "7161e7e2", "license": "MIT"} | {"domain": null, "orig_task_type": "single-session-assistant", "capabilities": ["recall", "state_update", "causal", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 20} | {"goal": {"text": "Trong bảng phân ca (shift rotation sheet) cho GM social media agents mà trợ lý đã lập, ca trực của Admon vào Chủ nhật (Sunday) là khung giờ nào?", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"admon_sunday_shift": "string", "shift_label": "string", "source_speaker": "string"}, "... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "can u create a shift rotation sheet for GM social media agents", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": [0, 1], "type": "message", "speaker": "assistant", "language": ... | [{"stage_id": "s1", "title": "Recall (early): các khung giờ ca user yêu cầu", "covers_events": ["e5"], "capability": "recall", "anchor": null, "probe": {"question": "Người dùng đã yêu cầu lịch trực gồm 4 ca với những khung giờ nào?", "lang": "vi", "answer_schema": {"shifts": "string[]"}}, "ground_truth": {"answer": {"s... | ["attention_dilution", "regression", "cascading_failure", "stalling"] |
case-032 | {"benchmark": "LongMemEval", "orig_id": "8a2466db", "license": "MIT"} | {"domain": null, "orig_task_type": "single-session-preference", "capabilities": ["recall", "abstraction", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 18} | {"goal": {"text": "Người dùng nhờ gợi ý vài tài nguyên (resources) để học thêm về dựng phim (video editing). Hãy đưa gợi ý sao cho TÔN TRỌNG sở thích mà người dùng đã bộc lộ trong hội thoại.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"software_focus": "string", "depth_level": "string", "honore... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "I'm trying to learn more about some advanced settings for video editing with Adobe Premiere Pro, which I enjoy to use. Can you give me some tips on where to start?", "media": null, "runtime": ... | [{"stage_id": "s1", "title": "Recall (early): phần mềm người dùng dùng và thích", "covers_events": ["e1"], "capability": "recall", "anchor": null, "probe": {"question": "Ngay đầu hội thoại, người dùng cho biết họ thích dùng phần mềm dựng phim nào?", "lang": "vi", "answer_schema": {"software": "string"}}, "ground_truth"... | ["attention_dilution", "stalling", "regression"] |
case-033 | {"benchmark": "LongMemEval", "orig_id": "gpt4_70e84552_abs", "license": "MIT"} | {"domain": null, "orig_task_type": "temporal-reasoning", "capabilities": ["recall", "abstraction", "constraint_tracking", "causal"], "languages": ["en", "vi"], "modalities": ["text"], "horizon": 25} | {"goal": {"text": "Người dùng đã hoàn thành việc nào TRƯỚC: sửa hàng rào, hay mua ba con bò từ Peter? Nếu lịch sử KHÔNG đủ dữ kiện thì phải nói rõ là không xác định được, không được bịa.", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"answerable": "boolean", "reason": "string", "supported_fact": "... | [{"event_id": "e1", "turn_ref": [0, 0], "type": "message", "speaker": "user", "language": "en", "modality": "text", "content": "I'm thinking of hosting a farm open house event soon and I want to make sure everything is perfect. Can you help me come up with some ideas for activities and tips to promote it on social medi... | [{"stage_id": "s1", "title": "Recall (early): việc sửa hàng rào", "covers_events": ["e1"], "capability": "recall", "anchor": null, "probe": {"question": "Người dùng đã sửa hàng rào ở đâu, và cách thời điểm nói chuyện bao lâu?", "lang": "vi", "answer_schema": {"location": "string", "when": "string"}}, "ground_truth": {"... | ["attention_dilution", "stalling", "regression", "cascading_failure"] |
case-034 | {"benchmark": "LoCoMo", "orig_id": "conv-30", "license": "CC BY-NC 4.0"} | {"domain": null, "capabilities": ["recall", "state_update", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text", "image"], "horizon": 45} | {"goal": {"text": "Dựa trên hội thoại hai phiên giữa Gina và Jon: Jon đang khởi nghiệp loại hình kinh doanh gì, anh hình dung không gian lý tưởng cho nó ra sao (gồm chi tiết nhìn thấy trong ảnh), và bản nhạc/tiết mục đoạt giải nhất khu vực là của AI? Trả lời đúng định dạng yêu cầu.", "lang": "vi"}, "output_spec": {"for... | [{"event_id": "e1", "turn_ref": ["D1:1"], "type": "message", "speaker": "Gina", "language": "en", "modality": "text", "content": "Hey Jon! Good to see you. What's up? Anything new?", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": ["D1:2"], "type": "message", "speaker": "Jon", "language": "en", "modalit... | [{"stage_id": "s1", "title": "Recall (early): loại hình kinh doanh Jon khởi nghiệp", "covers_events": ["e4", "e6"], "capability": "recall", "anchor": null, "probe": {"question": "Jon quyết định khởi nghiệp loại hình kinh doanh gì, và vì sao?", "lang": "vi", "answer_schema": {"business": "string", "reason": "string"}}, ... | ["attention_dilution", "regression", "cascading_failure"] |
case-035 | {"benchmark": "LoCoMo", "orig_id": "conv-41", "license": "CC BY-NC 4.0"} | {"domain": null, "capabilities": ["recall", "state_update", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text", "image"], "horizon": 44} | {"goal": {"text": "Dựa trên hội thoại nhiều phiên giữa Maria và John: John muốn dấn thân vào loại chính trị nào và hai trọng tâm của anh ấy là gì; Maria đã quyên góp gì cho mái ấm vô gia cư và vào ngày nào; và trong bức ảnh bữa tối (e36) có thương hiệu nước đóng chai nào xuất hiện trên bàn?", "lang": "vi"}, "output_spe... | [{"event_id": "e1", "turn_ref": ["D1:1"], "type": "message", "speaker": "Maria", "language": "en", "modality": "text", "content": "Hey John! Long time no see! What's up?", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": ["D1:2"], "type": "message", "speaker": "John", "language": "en", "modality": "text"... | [{"stage_id": "s1", "title": "Recall (1/3 đầu): loại chính trị + hai trọng tâm của John", "covers_events": ["e6", "e8"], "capability": "recall", "anchor": null, "probe": {"question": "John muốn dấn thân vào loại chính trị nào (phạm vi nào), và hai trọng tâm chính của anh ấy là gì?", "lang": "vi", "answer_schema": {"sco... | ["attention_dilution", "regression", "cascading_failure"] |
case-036 | {"benchmark": "LoCoMo", "orig_id": "conv-42", "license": "CC BY-NC 4.0"} | {"domain": null, "capabilities": ["recall", "state_update", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text", "image"], "horizon": 49} | {"goal": {"text": "Dựa trên hội thoại nhiều phiên giữa Nate và Joanna: bộ phim Joanna giới thiệu cho Nate có tên chính xác là gì (đọc từ ảnh), Joanna vừa hoàn thành tác phẩm gì và thuộc thể loại nào, và Nate nuôi con vật gì cùng số lượng? Chỉ liệt kê các con vật KHÔNG gây dị ứng cho Joanna.", "lang": "vi"}, "output_spe... | [{"event_id": "e1", "turn_ref": ["D1:1"], "type": "message", "speaker": "Nate", "language": "en", "modality": "text", "content": "Hey Joanna! Long time no see! What's up? Anything fun going on?", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": ["D1:2"], "type": "message", "speaker": "Joanna", "language"... | [{"stage_id": "s1", "title": "Recall (early, 1/3): game Nate thắng giải", "covers_events": ["e3", "e7"], "capability": "recall", "anchor": null, "probe": {"question": "Nate đã thắng giải đấu video game đầu tiên với trò chơi tên gì?", "lang": "vi", "answer_schema": {"game": "string"}}, "ground_truth": {"answer": {"game"... | ["attention_dilution", "regression", "cascading_failure"] |
case-037 | {"benchmark": "LoCoMo", "orig_id": "conv-47", "license": "CC BY-NC 4.0"} | {"domain": null, "capabilities": ["recall", "state_update", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text", "image"], "horizon": 58} | {"goal": {"text": "Dựa trên hội thoại nhiều phiên giữa John và James: Hãy tổng hợp hồ sơ về James — hai con chó của anh ấy tên gì, anh ấy đã làm việc với những ngôn ngữ lập trình nào, ứng dụng di động anh ấy định xây cùng John là gì, và theo tấm ảnh ở event e47 thì chiếc thẻ tên đeo trên cổ chú chó ghi CHỮ gì?", "lang"... | [{"event_id": "e1", "turn_ref": ["D1:1"], "type": "message", "speaker": "John", "language": "en", "modality": "text", "content": "Hey! Glad to finally talk to you. I want to ask you, what motivates you?", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": ["D1:2"], "type": "message", "speaker": "James", "l... | [{"stage_id": "s1", "title": "Recall (early, 1/3): ngôn ngữ lập trình của James", "covers_events": ["e8"], "capability": "recall", "anchor": null, "probe": {"question": "James cho biết anh đã làm việc với những ngôn ngữ lập trình nào?", "lang": "vi", "answer_schema": {"languages": "string[]"}}, "ground_truth": {"answer... | ["attention_dilution", "regression", "cascading_failure"] |
case-038 | {"benchmark": "LoCoMo", "orig_id": "conv-48", "license": "CC BY-NC 4.0"} | {"domain": null, "capabilities": ["recall", "state_update", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text", "image"], "horizon": 50} | {"goal": {"text": "Dựa trên hai phiên hội thoại giữa Deborah và Jolene: hãy xác định Jolene nuôi loài thú cưng nào và tên chúng, món trang sức kỷ niệm mẹ tặng Jolene được tặng ở thành phố/quốc gia nào, và dòng chữ chính trong lá thư viết tay mà Deborah khoe (chỉ đọc được từ ẢNH). CHỈ TRẢ LỜI BẰNG TIẾNG VIỆT.", "lang": ... | [{"event_id": "e1", "turn_ref": ["D1:1"], "type": "message", "speaker": "Deborah", "language": "en", "modality": "text", "content": "Hey Jolene, nice to meet you! How's your week going? Anything fun happened?", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": ["D1:2"], "type": "message", "speaker": "Jole... | [{"stage_id": "s1", "title": "Recall (1/3 đầu): trang sức kỷ niệm mẹ tặng Jolene — năm & nơi tặng", "covers_events": ["e8"], "capability": "recall", "anchor": null, "probe": {"question": "Theo lời Jolene ở phiên 1: mẹ cô đã tặng cô chiếc mặt dây chuyền kỷ niệm vào năm nào và ở thành phố nào?", "lang": "vi", "answer_sch... | ["attention_dilution", "cascading_failure", "regression"] |
case-039 | {"benchmark": "LoCoMo", "orig_id": "conv-49", "license": "CC BY-NC 4.0"} | {"domain": null, "capabilities": ["recall", "state_update", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text", "image"], "horizon": 39} | {"goal": {"text": "Dựa trên hội thoại nhiều phiên giữa Sam và Evan: Evan lái loại xe gì và đã sở hữu mấy chiếc, hai chuyến road trip cùng gia đình của Evan đi tới đâu (và thuộc quốc gia nào), và sở thích giảm stress mà Evan đã theo đuổi vài năm nay là gì? Chỉ tính các sự kiện THỰC SỰ thuộc về Evan.", "lang": "vi"}, "ou... | [{"event_id": "e1", "turn_ref": ["D1:1"], "type": "message", "speaker": "Sam", "language": "en", "modality": "text", "content": "Hey Evan, good to see you! What's new since we last met? Anything cool happening?", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": ["D1:2"], "type": "message", "speaker": "Ev... | [{"stage_id": "s1", "title": "Recall (1/3): xe của Evan và số Prius đã sở hữu", "covers_events": ["e2", "e4"], "capability": "recall", "anchor": null, "probe": {"question": "Evan lái loại xe gì, và tính cả chiếc cũ bị hỏng lẫn chiếc mới thì Evan đã sở hữu mấy chiếc cùng loại đó?", "lang": "vi", "answer_schema": {"car":... | ["attention_dilution", "regression", "cascading_failure"] |
case-040 | {"benchmark": "LoCoMo", "orig_id": "conv-50", "license": "CC BY-NC 4.0"} | {"domain": null, "capabilities": ["recall", "state_update", "causal", "constraint_tracking"], "languages": ["en", "vi"], "modalities": ["text", "image"], "horizon": 40} | {"goal": {"text": "Dựa trên hội thoại nhiều phiên giữa Calvin và Dave: Calvin dự định ở Nhật bao lâu, chiếc xe sang Calvin mới mua thuộc hãng nào và phanh (caliper) trong ảnh màu gì, và ban nhạc Dave thích nhất ở liên hoan âm nhạc là ai?", "lang": "vi"}, "output_spec": {"format": "json", "answer_schema": {"calvin_japan... | [{"event_id": "e1", "turn_ref": ["D1:1"], "type": "message", "speaker": "Calvin", "language": "en", "modality": "text", "content": "Hey Dave! Nice to meet you! How's it going since we talked?", "media": null, "runtime": null}, {"event_id": "e2", "turn_ref": ["D1:2"], "type": "message", "speaker": "Dave", "language": "e... | [{"stage_id": "s1", "title": "Recall (1/3 đầu): Calvin ở Nhật bao lâu", "covers_events": ["e15"], "capability": "recall", "anchor": null, "probe": {"question": "Calvin dự định ở Nhật trong bao lâu trước khi sang Boston?", "lang": "vi", "answer_schema": {"duration": "string"}}, "ground_truth": {"answer": {"duration": "a... | ["attention_dilution", "regression", "cascading_failure"] |
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.