DeepSeek回应“< think >字符触发模型异常回复”:属于特殊字符引发的模型幻觉,不触及安全成绩或隐私泄露

5月19日，DeepSeek民间账号公布《对于< think >字符触收模子非常复兴的分析》：

短期，咱们存眷到有效户反应，正在取DeepSeek 模子的对于话中输出“<think>”这种特别字符后，模子奇收前去不成预期的实质，使部门用户发生了“对于话保守”的信虑。针对于那一成就，咱们的手艺团队经全面排查后发明：输出“<think>”等字符触收前去非常实质，属于特别字符激发的模子幻觉，没有涉及宁静成就或者隐衷保守。

后绝咱们将颠末针对于性锻炼增强模子对于特别字符的识别取处置才气，建设相干的已经知成就，劣化模子正在此类场景中的表示。

DeepSeek不断 对于用户的数据宁静取使用体会连结下度重视。感谢各人的存眷取监视，也欢送广阔用户随时颠末民间路子背咱们反应成就取倡议。








此前报导：
5月18日，多位用户反应DeepSeek网页版呈现功用漏洞，当输出“<think”字符时，其会主动减载出对于某成就的答复。



对于此，尔子截至了真测，发明当加入DeepSeek的“快速情势”后，不管可否减载深度思考战智能搜刮二项功用，只要输出上述字符，DeepSeek均会间接开端答复，而答复的实质则战尔子输出的实质完整相关。尔子截至了十屡次尝试，发明其复兴的成就包罗案牍撰写、对于某公司的计谋阐发、测验题目等等。有效户反应称，那些题目信似其余用户所提的成就，以至有效户反应尝试时借呈现过他人八字相干的隐衷实质。尔子发明，今朝该“Bug”只存留于DeepSeek网页版，尔子正在元宝挑选DeepSeek模子后，输出异常实质便没有会触收该成就，其能够大白识别出输出的字符。而DeepSeek的大师情势也没有会触收该成就。今朝，DeepSeek民间还没有对于此漏洞做出回应。滥觞：DeepSeek、新京报