DeepSeek-R1

DeepSeek-R1 to otwarty model rozumowania (reasoning model) wydany przez DeepSeek-AI 20 stycznia 2025. Architektonicznie jest to Mixture-of-Experts o łącznej liczbie 671 miliardów parametrów i 37 mld aktywnych na token, oparty na DeepSeek-V3-Base jako modelu źródłowym. R1 powstał w wyniku pipeline'u Reasoning RL z weryfikowalną nagrodą — GRPO (Group Relative Policy Optimization), gdzie nagrody pochodzą z reguł (poprawność matematyki, działanie kodu, format) zamiast wyuczonego modelu nagrody. Kontekst: 128 000 tokenów. Licencja: MIT na wagi, model dostępny publicznie na Hugging Face.

Razem z R1 opublikowano R1-Zero — wariant trenowany czystym RL bez żadnego SFT cold-startu, który dowiódł, że Reasoning RL może wyłaniać long chain-of-thought i samokorektę bezpośrednio z RL. Produkcyjny R1 dodał krótki SFT cold-start na kilkuset przykładach CoT, by uzyskać bardziej czytelne wyjścia. Opublikowano też serię dystylowanych wariantów na Llama 3.1 i Qwen 2.5 (1.5B, 7B, 8B, 14B, 32B, 70B), które przenoszą znaczną część zdolności R1 do modeli mieszczących się na pojedynczym GPU.

Wyniki: AIME 2024 79,8% pass@1, MATH-500 97,3%, Codeforces 96,3 percentyl, MMLU 90,8%, GPQA Diamond 71,5%, LiveCodeBench 65,9%, SWE-bench Verified 49,2% — porównywalne lub lepsze od OpenAI o1 przy ułamku kosztu inferencji. Model jest dostępny przez API DeepSeek, Hugging Face, Together AI, Fireworks, OpenRouter, Amazon Bedrock Marketplace i Vertex AI Model Garden. DeepSeek-R1 wraz z publikacją algorytmu GRPO ustanowił de-facto standard otwartego Reasoning RL i wywołał lawinę reprodukcji (TinyZero, Open-R1, SimpleRL).