北京大學《DeepSeek內(nèi)部研討系列》（PDF文件）-AI教程攻略

《DeepSeek原理與落地應用》是北京大學青鳥人工智能研究院、計算機學院元宇宙技術(shù)研究所和教育學院學習科學實驗室聯(lián)合推出的內(nèi)部手冊。詳細介紹DeepSeek技術(shù)的原理及其在各領(lǐng)域的落地應用。展示DeepSeek在教育領(lǐng)域的廣泛應用，如教學設(shè)計、教學活動、作業(yè)批改、個性化教案、醫(yī)學專業(yè)病理診斷、論文全流程輔助、學術(shù)研究、知識付費和作業(yè)輔導等，提供具體的提示詞示例，幫助用戶更好地基于DeepSeek提升工作效率和學習效果。探討DeepSeek在推理密集型任務(wù)、文檔分析與長上下文理解、開放領(lǐng)域問答與寫作等方面的應用潛力，為AI技術(shù)的普惠化和國產(chǎn)化生態(tài)繁榮提供了有力支持。

《DeepSeek 私有化部署和一體機》是北大青鳥人工智能研究院和北大計算機學院元宇宙技術(shù)研究所推出的關(guān)于 DeepSeek 模型部署的指導手冊。詳細介紹 DeepSeek 模型的私有化部署方法，包括個人用戶和企業(yè)級用戶的部署方案。涵蓋從模型選型到具體部署的全過程，提供針對不同硬件環(huán)境和業(yè)務(wù)需求的優(yōu)化建議。重點介紹 DeepSeek 一體機，一種集成高性能硬件和預裝模型的設(shè)備，為企業(yè)和教育機構(gòu)提供開箱即用的 AI 解決方案。提供不同配置的一體機的詳細規(guī)格和性能數(shù)據(jù)，幫助企業(yè)根據(jù)自身需求選擇合適的型號。

人工智能與DeepSeek

• 大模型相關(guān)術(shù)語：介紹多模態(tài)、AI工具（如DeepSeek、豆包等）、通用模型（包括大語言模型、生成模型、推理模型等）以及行業(yè)模型（如教育、醫(yī)療、金融等領(lǐng)域的模型）。

• 大模型的前世今生：回顧人工智能的發(fā)展歷程，包括運算推理、知識工程、機器學習、人工神經(jīng)網(wǎng)絡(luò)、深度神經(jīng)網(wǎng)絡(luò)、Transformer架構(gòu)等，及生成式人工智能（GenAI）的興起，列舉國內(nèi)外多種大模型。

• 大模型的發(fā)展階段：對比生成模型與推理模型的定位、推理能力、多模態(tài)支持、應用場景和用戶交互體驗。

• 生成模型與推理大模型的對比：生成模型擅長多模態(tài)內(nèi)容生成和通用任務(wù)，適合大眾化應用；推理模型在復雜邏輯推理和專業(yè)領(lǐng)域表現(xiàn)出色，適合高精度推理需求。

• 自2024年起，AI肖睿團隊便接入DeepSeek V2：介紹AI肖睿團隊對DeepSeek技術(shù)體系的研究和應用，包括V2（MoE架構(gòu)）、V3（MTP）和R1（推理模型）的演進，及知識蒸餾在各版本中的應用。

• DeepSeek快速出圈：講述DeepSeek V3和R1模型的發(fā)布及其對行業(yè)的影響，DeepSeek公司和R1模型在2025年春節(jié)后的“出圈”現(xiàn)象。

• 公司簡介：介紹DeepSeek公司的成立背景、團隊分布、模型系列及與其他中國大模型企業(yè)的關(guān)系。

• 模型的演進歷史和特點：對比DeepSeek V2、V3和R1三個主要模型的核心架構(gòu)、訓練方法、關(guān)鍵特性和性能表現(xiàn)。

• DeepSeek模型優(yōu)勢：總結(jié)DeepSeek模型的特點，如開源生態(tài)、模型蒸餾支持、低成本訓練等。

• DeepSeek模型特點總結(jié)：詳細介紹DeepSeek模型的基礎(chǔ)架構(gòu)（如MoE、MLA、RL等）、訓練及框架（如FP8混合精度訓練、TTC等）和社會價值。

• DeepSeek-R1全家桶：列舉DeepSeek-R1的各個蒸餾模型及其來源和特點。

• 蒸餾模型-概念：解釋模型蒸餾的定義、原理、優(yōu)勢以及在DeepSeek中的應用。

• DeepSeek-R1蒸餾模型-能力對比：提供蒸餾模型的選擇經(jīng)驗，包括不同參數(shù)量模型的適用場景和性能表現(xiàn)。

• DeepSeek模型應用場景：介紹DeepSeek在邊緣計算、復雜數(shù)學與編程任務(wù)、中文場景等領(lǐng)域的應用優(yōu)勢。

• 使用方式：總結(jié)DeepSeek的多種使用方式，包括直接使用官方服務(wù)、第三方服務(wù)與API調(diào)用、個人部署和企業(yè)部署。

個人部署DeepSeek

• 模型部署：

• 硬件配置-推薦：提供不同參數(shù)量模型的推薦硬件配置，包括CPU、內(nèi)存、顯存和硬盤空間要求。

• 硬件配置-最低：提供不同參數(shù)量模型的最低硬件配置要求。

• 硬件選擇建議：根據(jù)需求、預算和性能平衡，給出了硬件選擇的建議。

• Ollama功能特點：介紹Ollama工具的特點，如開源免費、簡單易用、模型豐富等。

• 軟件安裝步驟：詳細說明Ollama客戶端和Docker的安裝方法。

• 環(huán)境變量配置：解釋Ollama環(huán)境變量的配置方法和建議。

• 網(wǎng)絡(luò)配置：介紹如何訪問Ollama服務(wù)，包括本地部署和遠程部署的網(wǎng)絡(luò)配置注意事項。

• 環(huán)境準備：

• Ollama常用命令：列舉Ollama的常用命令，如下載模型、運行模型、查看模型信息等。

• 使用Ollama命令下載模型：介紹下載模型的命令格式、下載過程監(jiān)控和下載失敗處理方法。

• 使用Ollama命令運行模型：介紹運行模型的命令格式、運行狀態(tài)檢查和停止運行模型的方法。

• 模型運行效果：展示模型運行后的效果。

• Ollama常見問題：討論Ollama常見的安全漏洞、未經(jīng)授權(quán)訪問風險以及模型升級后性能退化問題的解決方案。

• 前端展示：

• 前端展示：介紹PageAssist、Chatbox、OpenWebUI等前端展示工具的特點、適用場景和使用方法。

• 三款界面總結(jié)：對比PageAssist、Chatbox和OpenWebUI的特點和適用場景。

企業(yè)部署DeepSeek

• Transformers簡介：介紹Transformers庫的功能和特點，包括支持的模態(tài)任務(wù)、框架互操作性等。

• Transformers部署模型：詳細說明使用Transformers部署DeepSeek模型的步驟，包括安裝依賴包、加載模型、運行模型和其他框架調(diào)用。

• 生成時常用參數(shù)：列舉模型生成時常用的參數(shù)及其含義和注意事項。

• vLLM簡介：介紹vLLM框架的特點，如PagedAttention技術(shù)、性能提升、與Transformers的無縫集成等。

• vLLM部署模型：說明使用vLLM部署DeepSeek模型的步驟，包括安裝依賴包、加載并啟動模型。

• vLLM參數(shù)說明：詳細解釋vLLM啟動命令中的各個參數(shù)及其作用。

• vLLM實際并發(fā)性能測試：提供vLLM在不同設(shè)備和模型配置下的并發(fā)性能測試數(shù)據(jù)。

• vLLM常見問題及解決方案：討論vLLM在部署過程中可能遇到的注意力機制兼容性問題及其解決方案。

• 企業(yè)級70B模型部署案例分享：分享企業(yè)級70B模型部署案例，包括服務(wù)器配置、部署方案和經(jīng)驗總結(jié)。

• 部署方案簡介：介紹DeepSeek R1滿血版模型的部署方案，包括硬件需求和成本分析。

• 方案實現(xiàn)：詳細說明硬件環(huán)境配置、模型下載和三種低成本部署方案（llama.cpp、KTransformers、Unsloth動態(tài)量化）的實現(xiàn)步驟。

• 方案一、llama.cpp：介紹llama.cpp項目的背景、安裝步驟、推理步驟和測試結(jié)果。

• 方案二、KTransformers：介紹KTransformers項目的背景、安裝步驟、運行模型方法和單并發(fā)實測效果。

• 方案三、Unsloth動態(tài)量化+Ollama：介紹如何基于llama.cpp工具合并Unsloth動態(tài)量化模型的權(quán)重文件，借助Ollama工具進行模型注冊與調(diào)用。

• 性能測評總結(jié)：對比三種低成本部署方案在不同硬件配置下的性能表現(xiàn)。

• 部署方案總結(jié)：對三種低成本部署方案的適用性、優(yōu)勢和局限性進行總結(jié)。

DeepSeek一體機

• DeepSeek一體機：介紹DeepSeek一體機的概念、優(yōu)勢和適用場景。

• 國產(chǎn)DeepSeek一體機廠商一覽表：列舉截止至2025年2月的國產(chǎn)DeepSeek一體機廠商及其產(chǎn)品特點。

• DeepSeek國產(chǎn)一體機671B推薦配置：提供不同配置的DeepSeek一體機的硬件規(guī)格和適用場景。

• DeepSeek一體機數(shù)據(jù)分享：分享DeepSeek一體機在不同配置下的性能數(shù)據(jù)，包括并發(fā)能力和用戶支持數(shù)量。

• 北大青鳥AI實驗室案例分享：介紹北大青鳥為院校提供的AI實驗室建設(shè)方案，包括DeepSeek一體機的配置和應用場景。

• 北大青鳥AI實驗室建設(shè)方案：詳細說明AI實驗室建設(shè)方案的系統(tǒng)層、容器層、業(yè)務(wù)層、監(jiān)控層和應用層的特點和功能。

• 北大青鳥AI實驗室（DeepSeek一體機）：分別介紹DeepSeek基礎(chǔ)版、標準版和旗艦版一體機的詳細配置和性能報價。