Tại Sao 20% Dữ Liệu Huấn Luyện Có Thể Đánh Bại 100% — Framework OST
by needhelp
ai
machine-learning
data-selection
training
arxiv
OST (One-Step-Train) đề xuất chọn dữ liệu dựa trên tiện ích cận biên thay vì chất lượng ngữ nghĩa.
Kết Quả
| Phương pháp | Dữ liệu | Δ so với Full-SFT |
|---|---|---|
| Full-SFT | 100% | 0 |
| OST (top-20) | 20% | +8.8 điểm |
Ý Nghĩa
Chất lượng dữ liệu > Số lượng dữ liệu.