DeepSeek ra DSpark: tăng tốc suy luận V4 tới 85%

DeepSeek vừa công bố DSpark, một framework speculative decoding nhằm tăng tốc suy luận cho dòng mô hình DeepSeek-V4. Theo model card chính thức trên Hugging Face, bản DeepSeek-V4-Pro-DSpark không phải một mô hình mới: nó dùng đúng checkpoint của V4-Pro nhưng gắn thêm một mô-đun speculative decoding. DeepSeek cho biết kỹ thuật này giúp tăng tốc suy luận tới 85%.

Speculative decoding là kỹ thuật dùng một draft model nhỏ để đoán trước nhiều token, rồi để mô hình đích lớn xác minh hàng loạt token đó cùng lúc. Nhờ giảm số bước giải mã tuần tự, tốc độ sinh token tăng lên trong khi chất lượng đầu ra được giữ nguyên — một hướng tối ưu quan trọng khi chi phí GPU và áp lực hạ tầng ngày càng lớn.

Ý chính

• DSpark = mô-đun speculative decoding gắn vào checkpoint V4-Pro, không thay đổi trọng số mô hình gốc.
• DeepSeek tuyên bố tăng tốc suy luận tới 85%, giảm tải cho khâu inference.
• DSpark là một thuật toán trong DeepSpec — bộ codebase mã nguồn mở đầy đủ cho việc huấn luyện và đánh giá draft model: từ chuẩn bị dữ liệu, cài đặt draft model, huấn luyện đến đánh giá.
• Repo có sẵn cấu hình cho Qwen3-4B và đánh giá trên loạt benchmark như gsm8k, math500, aime25, humaneval, mbpp, livecodebench, mt-bench, alpaca và arena-hard-v2.
• Bối cảnh dòng V4: V4-Pro 1.6 nghìn tỷ tham số (49B kích hoạt), V4-Flash 284B (13B kích hoạt), đều hỗ trợ ngữ cảnh 1 triệu token với kiến trúc hybrid attention (CSA + HCA).

Với lập trình viên, điểm đáng chú ý là DeepSeek mở luôn quy trình huấn luyện draft model thay vì chỉ phát hành kết quả — nghĩa là các nhóm khác có thể tự huấn luyện draft model cho mô hình của mình theo cùng công thức.

Câu hỏi thường gặp

DSpark có phải mô hình mới không? Không. Model card khẳng định đây là cùng checkpoint V4-Pro, chỉ gắn thêm mô-đun speculative decoding.

Vì sao nhanh hơn mà không mất chất lượng? Draft model nhỏ đoán trước nhiều token, mô hình đích xác minh song song; token nào không khớp sẽ bị loại, nên kết quả cuối tương đương như giải mã thông thường.

Có mở mã nguồn không? Có. DSpark nằm trong DeepSpec — codebase đầy đủ (chuẩn bị dữ liệu, huấn luyện, đánh giá) công khai trên GitHub, kèm cấu hình mẫu cho draft model.