Xin bản full-face (trước bước crop miệng) của VASR cho nghiên cứu lip-sync tiếng Việt
Chào Thịnh và nhóm ViAVSP-LLM,
Mình là Chiến. Mình rất ấn tượng với VASR và pipeline của nhóm — đặc biệt khâu Active Speaker Detection (Light-ASD) để đảm bảo khẩu hình khớp tiếng; đây đúng là phần khó nhất khi làm data lip-sync tiếng Việt.
Mình đang fine-tune Ditto (audio→motion) để sinh khẩu hình tiếng Việt. Pipeline Ditto cần video full-face (trích chuyển động khuôn mặt bằng LivePortrait), nên bản visual/*.mp4 dạng crop miệng (phục vụ AV-HuBERT) của VASR mình chưa dùng trực tiếp được.
Mình thấy pipeline của nhóm có các stage full-face trước bước Cropper (ví dụ các tập vietnamese-speaker-video / vietnamese-speaker-clip). Cho mình hỏi:
- Nhóm có thể chia sẻ bản full-face / clip trung gian (sau ASD, trước crop miệng) không? Đây là thứ quý nhất với bọn mình.
- Nếu không tiện chia sẻ data, nhóm có thể cho tham khảo cách chạy pipeline để dừng ở stage full-face (bỏ
Cropper) để bọn mình tự tái tạo từ nguồn của mình? - Tiện thể, request truy cập VASR của mình (gửi 22/6) vẫn đang pending — nhờ nhóm duyệt giúp khi rảnh ạ.
- Bọn mình rất sẵn lòng hợp tác / trao đổi dữ liệu cho hướng lip-sync tiếng Việt
Bọn mình cam kết dùng cho nghiên cứu phi thương mại, không phát tán lại, tôn trọng quyền riêng tư người nói, và sẵn sàng ghi nhận đóng góp của nhóm.
Cảm ơn nhóm nhiều,
Chào bạn, cảm ơn bạn đã quan tâm đến nghiên cứu của nhóm mình. Mình xin được trả lời các câu hỏi của bạn như sau:
- Vì các vấn đề liên quan đến quyền riêng tư của những người trong dataset nên nhóm chúng mình đã xóa các bản full-face sau khi hoàn tất dataset và không thể chia sẻ với bạn được. Mong bạn thông cảm.
- Bạn có thể tham khảo thử code của tụi mình ở đây kết hợp với pipeline chúng mình đề cập trong paper để thu thập dữ liệu cho riêng mình.
- Mình đã duyệt request của bạn. Xin lỗi vì đã để bạn đợi.
- Cảm ơn các bạn. Chúng mình cũng hi vọng được hợp tác cùng các bạn nếu có điều kiện. Nhóm mình xin chúc các bạn thành công.