清華大學《DeepSeek與AI幻覺》（PDF文件）-AI教程攻略

《DeepSeek與AI幻覺》由清華大學新聞與傳播學院新媒體研究中心和人工智能學院的張家鋮博士后撰寫，文檔詳細探討了AI幻覺的定義、成因、評測方法以及應對策略，分析了AI幻覺在特定場景下的潛在風險和創造力價值。AI幻覺是模型生成與事實不符或邏輯斷裂的內容，產生與數據偏差、泛化困境、知識固化和意圖誤解等因素有關。提出了使用聯網搜索、雙AI驗證、提示詞工程等技術手段來減緩AI幻覺。深入分析了AI幻覺的多面性，強調在技術局限性與創新可能性之間找到平衡的重要性。

什么是AI幻覺

• AI幻覺是指模型生成與事實不符、邏輯斷裂或脫離上下文的內容，本質是統計概率驅動的“合理猜測”。分為事實性幻覺（生成內容與現實世界事實不一致）和忠實性幻覺（生成內容與用戶指令或上下文不一致）。例如錯誤地回答“糖尿病患者可以通過吃蜂蜜代替糖”或生成與問題無關的內容。

DeepSeek為什么會產生幻覺

• 數據偏差：訓練數據中的錯誤或片面性被模型放大。

• 泛化困境：模型難以處理訓練集外的復雜場景。

• 知識固化：模型過度依賴參數化記憶，缺乏動態更新能力。

• 意圖誤解：用戶提問模糊時，模型易“自由發揮”。

AI幻覺評測

• 通用性測試：通過隨機生成通用提示語，人工判斷標注幻覺率。

• 事實性測試：通過抽取多領域測試題，比對正確答案標注幻覺類型。

• 評測結果：DeepSeekV3、DeepSeekR1、Qianwen2.5-Max、豆包等模型的幻覺率對比。

如何減緩AI幻覺

• 技術方案：

• 利用聯網搜索降低幻覺率。

• 雙AI驗證或大模型協作進行交叉驗證。

• 提示詞工程，如知識邊界限定、對抗性提示等。

• 用戶應對方式：

• 三角驗證法，交叉比對多個AI回答或權威來源。

• 警惕“過度合理”的回答。

• 理解幻覺，享受幻覺帶來的創意靈感。

AI幻覺的創造力價值

• 科學發現：AI幻覺啟發新型蛋白質結構設計，助力科學突破。

• 文藝與設計：作為“超現實引擎”，突破人類思維定式，提供創意靈感。

• 娛樂與游戲：生成虛擬環境、角色設計、故事、對話和詩歌，增強沉浸感。

• 技術創新：從“缺陷”到方法論的轉化，如AI幻覺提升自動駕駛系統識別精度。