DeepSeek R1，本地部署才是王道！支持WebUI

DeepSeek R1，本地部署才是王道！支持WebUI

016814

DeepSeek R1本地部署，享受無限制、高隱私的AI體驗！

核心內(nèi)容：

  1. DeepSeek全球下載榜單登頂，流量巨大。

  2. DeepSeek R1是什么？

  3. DeepSeek R1能做什么？

  4. 為何選擇本地部署DeepSeek R1及它有哪些優(yōu)勢

  5. 使用Ollama + Open-WebUI一鍵部署DeepSeek R1的詳細步驟

  6. 常見注意事項

  7. 使用建議

  8. 結(jié)束語

最近，一家名叫DeepSeek的初創(chuàng)公司經(jīng)過技術(shù)迭代與升級，發(fā)布了全新一代大模型，“DeepSeek-V3”。由于這款大模型太過好用，DeepSeek R1 更是直接免費開源，在AI發(fā)燒友圈子傳播后，傳到了海外社交平臺、技術(shù)論壇，引發(fā)了海外網(wǎng)友的連連稱贊。

0ca1c0838c20250125140830

各項性能指標更是和OpenAI-o1 模型不相上下，甚至做到了小部分的超越，關(guān)鍵是開源的，我們可以本地部署使用

d41da917e620250125141204

1、本地部署，我們可以通過Ollama來進行安裝

Ollama 官網(wǎng)：【點擊前往】

Web UI 控制端：【點擊安裝】

安裝命令

1.5B Qwen DeepSeek R1

ollama run deepseek-r1:1.5b

7B Qwen DeepSeek R1

ollama run deepseek-r1:7b

8B Llama DeepSeek R1

ollama run deepseek-r1:8b

14B Qwen DeepSeek R1

ollama run deepseek-r1:14b

32B Qwen DeepSeek R1

ollama run deepseek-r1:32b

70B Llama DeepSeek R1

ollama run deepseek-r1:70b

2. 更多模型下載

DeepSeek-R1

模型 #總參數(shù) #已激活參數(shù) 上下文長度 下載
DeepSeek-R1-Zero 671B 37B 128千 ?? HuggingFace
DeepSeek-R1 671B 37B 128千 ?? HuggingFace

DeepSeek-R1-Zero 和 DeepSeek-R1 基于 DeepSeek-V3-Base 進行訓(xùn)練。有關(guān)模型架構(gòu)的更多詳細信息，請參閱DeepSeek-V3存儲庫。

DeepSeek-R1-Distill 模型

模型 基礎(chǔ)模型 下載
DeepSeek-R1-Distill-Qwen-1.5B Qwen2.5-Math-1.5B ?? HuggingFace
DeepSeek-R1-Distill-Qwen-7B Qwen2.5-Math-7B ?? HuggingFace
DeepSeek-R1-Distill-Llama-8B Llama-3.1-8B ?? HuggingFace
DeepSeek-R1-Distill-Qwen-14B Qwen2.5-14B ?? HuggingFace
DeepSeek-R1-Distill-Qwen-32B Qwen2.5-32B ?? HuggingFace
DeepSeek-R1-Distill-Llama-70B Llama-3.3-70B-Instruct ?? HuggingFace

DeepSeek-R1-Distill 模型基于開源模型進行了微調(diào)，使用了 DeepSeek-R1 生成的樣本。我們對其配置和分詞器進行了輕微更改。請使用我們的設(shè)置來運行這些模型。

?

4.評估結(jié)果

DeepSeek-R1-評估

對于我們所有的模型，最大生成長度設(shè)置為 32,768 個 token。對于需要采樣的基準，我們使用的溫度為0.6，top-p 值為0.95，并為每個查詢生成 64 個響應(yīng)來估計 pass@1。

類別 基準（公制） 克勞德-3.5-十四行詩-1022 GPT-4o 0513 DeepSeek V3 OpenAI o1-mini OpenAI o1-1217 DeepSeek R1
? 建筑學(xué) – – 教育部 – – 教育部
? # 激活參數(shù) – – 37B – – 37B
? # 總參數(shù) – – 671B – – 671B
英語 MMLU（通過@1） 88.3 87.2 88.5 85.2 91.8 90.8
? MMLU-Redux（EM） 88.9 88.0 89.1 86.7 – 92.9
? MMLU-Pro（EM） 78.0 72.6 75.9 80.3 – 84.0
? 掉落 (3 發(fā) F1) 88.3 83.7 91.6 83.9 90.2 92.2
? IF-Eval（提示嚴格） 86.5 84.3 86.1 84.8 – 83.3
? GPQA-鉆石級 (Pass@1) 65.0 49.9 59.1 60.0 75.7 71.5
? SimpleQA（正確） 28.4 38.2 24.9 7.0 47.0 30.1
? 框架（配件） 72.5 80.5 73.3 76.9 – 82.5
? AlpacaEval2.0 (LC-勝率) 52.0 51.1 70.0 57.8 – 87.6
? ArenaHard（GPT-4-1106） 85.2 80.4 85.5 92.0 – 92.3
代碼 LiveCodeBench (Pass@1-COT) 33.8 34.2 – 53.8 63.4 65.9
? Codeforces（百分位數(shù)） 20.3 23.6 58.7 93.4 96.6 96.3
? Codeforces（評級） 717 759 1134 1820 2061 2029
? SWE 已驗證（已解決） 50.8 38.8 42.0 41.6 48.9 49.2
? Aider-Polyglot (Acc.) 45.3 16.0 49.6 32.9 61.7 53.3
數(shù)學(xué) AIME 2024（通行證@1） 16.0 9.3 39.2 63.6 79.2 79.8
? 數(shù)學(xué)-500 (通過@1) 78.3 74.6 90.2 90.0 96.4 97.3
? CNMO 2024 (通行證@1) 13.1 10.8 43.2 67.6 – 78.8
中文 CLUEWSC（EM） 85.4 87.9 90.9 89.9 – 92.8
? C-評估（EM） 76.7 76.0 86.5 68.9 – 91.8
? C-SimpleQA（正確） 55.4 58.7 68.0 40.3 – 63.7

蒸餾模型評估

模型 AIME 2024 通行證@1 AIME 2024 缺點@64 MATH-500 通過@1 GPQA 鉆石通行證@1 LiveCodeBench 通行證@1 CodeForces 評級
GPT-4o-0513 9.3 13.4 74.6 49.9 32.9 759
克勞德-3.5-十四行詩-1022 16.0 26.7 78.3 65.0 38.9 717
o1-迷你 63.6 80.0 90.0 60.0 53.8 1820
QwQ-32B-預(yù)覽 44.0 60.0 90.6 54.5 41.9 1316
DeepSeek-R1-Distill-Qwen-1.5B 28.9 52.7 83.9 33.8 16.9 954
DeepSeek-R1-Distill-Qwen-7B 55.5 83.3 92.8 49.1 37.6 1189
DeepSeek-R1-Distill-Qwen-14B 69.7 80.0 93.9 59.1 53.1 1481
DeepSeek-R1-Distill-Qwen-32B 72.6 83.3 94.3 62.1 57.2 1691
DeepSeek-R1-Distill-Llama-8B 50.4 80.0 89.1 49.0 39.6 1205
DeepSeek-R1-Distill-Llama-70B 70.0 86.7 94.5 65.2 57.5 1633

更多詳細內(nèi)容，請移步：【DeepSeek R1，本地部署才是王道！支持WebUI】

會員全站資源免費獲取，點擊查看會員權(quán)益

普通用戶可在上方??單獨購買課程！

? 版權(quán)聲明
THE END
AI課程
# DeepSeek
文章不錯？點個贊唄！
點贊14贊賞 分享
評論 搶沙發(fā)

請登錄后發(fā)表評論

    暫無評論內(nèi)容