DeepSeek R1 Distill Qwen 7B

DeepSeek-R1-Distill-Qwen-7B 是一款拥有 70 亿参数的稠密语言模型，通过 DeepSeek-R1 蒸馏而成，利用了 DeepSeek 更大规模模型生成的强化学习增强推理数据。蒸馏过程将先进的推理、数学和代码能力转移到了基于 Qwen2.5-Math-7B 的更小模型架构中。该模型在数学基准测试（MATH-500 pass@1 为 92.8%）、编程任务（Codeforces rating 为 1189）和通用推理（GPQA Diamond pass@1 为 49.1%）中表现出强劲性能。