什么是AI幻覺(jué)
學(xué)術(shù)：指模型生成與事實(shí)不符、邏輯斷裂或脫離上下文的內(nèi)容，本質(zhì)是統(tǒng)計(jì)概率驅(qū)動(dòng)的“合理猜測(cè)”
說(shuō)人話：一本正經(jīng)地胡說(shuō)八道
事實(shí)性幻覺(jué)：指模型生成的內(nèi)容與可驗(yàn)證的現(xiàn)實(shí)世界事實(shí)不一致
忠實(shí)性幻覺(jué)：指模型生成的內(nèi)容與用戶的指令或上下文不一致
AI為什么會(huì)產(chǎn)生幻覺(jué)
數(shù)據(jù)偏差：訓(xùn)練數(shù)據(jù)中的錯(cuò)誤或片面性被模型放大（如醫(yī)學(xué)領(lǐng)域過(guò)時(shí)論文導(dǎo)致錯(cuò)誤結(jié)論）
泛化困境：模型難以處理訓(xùn)練集外的復(fù)雜場(chǎng)景（如南極冰層融化對(duì)非洲農(nóng)業(yè)的影響預(yù)測(cè)）
知識(shí)固化：模型過(guò)度依賴參數(shù)化記憶，缺乏動(dòng)態(tài)更新能力（如2023年后的事件完全虛構(gòu)）
意圖誤解：用戶提問(wèn)模糊時(shí)，模型易“自由發(fā)揮”（如“介紹深度學(xué)習(xí)”可能偏離實(shí)際需求）
AI幻覺(jué)的潛在風(fēng)險(xiǎn)
信息污染風(fēng)險(xiǎn)：由于DeepSeek的低門檻和普及度高，大量AI生成內(nèi)容涌入中文互聯(lián)網(wǎng)，加劇
了虛假信息傳播的“雪球效應(yīng)”
，甚至污染下一代模型訓(xùn)練數(shù)據(jù)
信任危機(jī)：普通用戶難以辨別AI內(nèi)容的真實(shí)性，可能對(duì)醫(yī)療建議、法律咨詢等專業(yè)場(chǎng)景的可
靠性產(chǎn)生長(zhǎng)期懷疑
控制欠缺：DeepSeek的對(duì)齊工作較其他閉源大模型有所欠缺，其開源特性也允許使用者隨意
使用，可能會(huì)成為惡意行為的工具
安全漏洞：若錯(cuò)誤信息被用于自動(dòng)化系統(tǒng)（如金融分析、工業(yè)控制），可能引發(fā)連鎖反應(yīng)
……
附件：DeepSeek與AI幻覺(jué),普通用戶難以辨別AI內(nèi)容的真實(shí)性,對(duì)醫(yī)療建議、法律咨詢等專業(yè)場(chǎng)景的可靠性產(chǎn)生懷疑
DeepSeek技術(shù)突破與應(yīng)用場(chǎng)景,冷啟動(dòng)數(shù)據(jù)與多階段優(yōu)化,本地部署與端云協(xié)同,垂直領(lǐng)域深耕（醫(yī)療、金融、教育）;智能協(xié)作與自動(dòng)化轉(zhuǎn)型,消費(fèi)決策與商業(yè)研究賦能
你想要生成什么樣的文案？ 這樣的文案具備哪些特征？ 你要針對(duì)什么生成類似文案？ 篇幅、用詞、結(jié)構(gòu)優(yōu)化;批量生成新媒體文案
提示語(yǔ)（Prompt）是用戶輸入給AI系統(tǒng)的指令或信息,包括指令、上下文和期望,為了更有效地進(jìn)行任務(wù)分解，可以采用SPECTRA模型,能夠掃描讀取各類文件及圖片中的文字內(nèi)容
講座為DeepSeek原理和應(yīng)用系列研討的講座之一，聚焦提示詞工程與產(chǎn)業(yè)實(shí)踐兩大核心模塊，延續(xù)前序?qū)IGC底層邏輯的探討，系統(tǒng)拆解如何通過(guò)自然語(yǔ)言交互充分釋放DeepSeek潛能
進(jìn)一步探討大模型和AIGC的底層工作機(jī)制，旨在幫助讀者突破工具應(yīng)用的局限，理解DeepSeek和AIGC的深層次價(jià)值。最后，介紹如何科學(xué)選擇與高效使用 AI 工具，為大家提供更具深度與實(shí)用性的應(yīng)用場(chǎng)景的指導(dǎo)，給聽眾帶來(lái)更落地的AI應(yīng)用價(jià)值
基于長(zhǎng)思維鏈的推理可以在一定程度上提高模型的可解釋性,提供顯式的推理路徑，讓人類可以追蹤模型如何從輸入推導(dǎo)出輸出，從而追蹤模型的決策過(guò)程，減少黑箱推理
一是 DeepSeek 或宣告此前的美國(guó)對(duì)華芯片限制可能適得其反;二是 A 股 AI 能否出現(xiàn)有壁壘的應(yīng)用和消費(fèi)端龍頭;三是算力需求會(huì)增加還是減少
DeepSeek-R1入冷啟動(dòng)數(shù)據(jù)和多階段訓(xùn)練流程,開源的蒸餾模型在推理基準(zhǔn)測(cè)試中創(chuàng)下新紀(jì)錄,驗(yàn)證了純強(qiáng)化學(xué)習(xí)在 LLM 中顯著增強(qiáng)推理能力的可行性
輕量化架構(gòu)配合量化剪枝技術(shù)，使Al推理首次真正突破硬件限制， 部署成本從高端GPU擴(kuò)展至消費(fèi)級(jí)GPU;云廠商是DeepSeek 能力的“放大器”:充足的算力“彈藥”與用戶覆蓋能力
清華大學(xué)團(tuán)隊(duì)介紹了DeepSeek的功能、應(yīng)用場(chǎng)景和使用方法，并提供了關(guān)于如何高效利用AI模型的深入指導(dǎo);提出了多種提示語(yǔ)策略,提供了具體的提示語(yǔ)設(shè)計(jì)建議
可交互內(nèi)容平臺(tái)的市場(chǎng)規(guī)模將達(dá)到500億元人民幣；AI伴侶有望打開百億級(jí)別的市場(chǎng)空間；全球互聯(lián)網(wǎng)社區(qū)的市場(chǎng)規(guī)模將達(dá)到1.5萬(wàn)億美元；機(jī)器人的市場(chǎng)規(guī)模將達(dá)到2000億美元
未來(lái)的AI搜索將更加智能，能夠?qū)崿F(xiàn)多輪對(duì)話交互;AI搜索將滲透到更多行業(yè);AI搜索將采用更先進(jìn)的加密技術(shù)，確保用戶數(shù)據(jù)的安全;從技術(shù)突破到應(yīng)用場(chǎng)景拓展
