Missing words at the beginning and end of some samples in the test set

#5
by Darejkal - opened

Hi, chúc anh 1 ngày tốt lành. Hiện tại em đang có thấy data của mình ở tập test có vài sample bị missing từ ở đầu với cuối audio á. Điều này khiến wer khi benchmark bị đẩy lên khá cao.
Ví dụ:

hiệu thông thường mà thấy bất thường thì bạn phải đi khám ngay liên lạc ngay với bác sĩ để bác sĩ tư vấn

Hiện tại câu này bị thiếu từ dấu ở đầu.
Dạ không biết mình có cách gì khắc phục vấn đề này không ạ?

các real-world dataset vẫn luôn bị tình trạng như thế bởi vì dùng human annotator thay vì automated tool. Thông thường người ta có thể dùng forced alignment để concatenate các timestamp cho nó fit vào đầu câu và cuối câu. Nhưng team mình hiện tại không đủ nhân lực để làm điều đó nữa. Nếu bạn có thể làm được giúp mình thì hay quá, mình sẽ để credit của bạn nhé! Cảm ơn bạn nhiều!

Sign up or log in to comment