当前位置:首页 > Deepseek最新资讯 > 正文内容

热议!DeepSeek V3.1惊现神秘「极」字 Bug,模型故障了?

  上周三,DeepSeek 开源了新的基础模型,但不是万众期待的 V4,而是 V3.1-Base,而更早时候,DeepSeek-V3.1 就已经上线了其网页、App 端和小程序。

  经过这差不多一周时间的真实用户测试,DeepSeek-V3.1 却被发现存在一个相当让人无语的问题:其某些输出 token 会被随机替换为「极」。

  具体来说,据知乎用户 Fun10165 描述,她在调用火山引擎版 DeepSeek V3.1 帮助整理一份物理试卷时发现,该模型的输出中会莫名出现一些「极」字。

  有意思的是,她还尝试了调用官方 API 修复这个问题。结果,在修复的过程中又出现了这个问题。

  她表示:「实测deepseek,官方网页 / API 能复现,概率不高,但多试几次就能出来。VolcEngine API 复现概率非常高。」

  比如知乎用户「去码头整点薯条」分享说 R1 也存在类似的问题,他还简单猜想了原因:「使用 R1 0528 的时候就遇到了很多次,我观察到的现象更离谱,会在代码里面插入 “极客园”,而且遇到不止一次,怀疑是不是学习的时候吃进去了什么电子水印吃坏肚子了。」

  知乎用户「琪洛」则发现 V3-0324 也存在类似问题,只不过这一次输出的是「极速赛车开奖直播」字符串。

  她猜想道:「怀疑可能数据没洗干净,即便重新训了 base 这个问题还是留下了,题主和其他回答所述「极」和「极速」可能就是这个词的残余痕迹。」

  发帖者用户 u/notdba 表示,在测试 DeepSeek V3.1 时,他发现模型会莫名地在某些意料之外的位置输出如下 token:

  他继续描述到,除了这 3 种「极」 token 在贪婪解码中成为首选的情况之外,这些「极」 token 也经常在其他意想不到的地方潜伏为第二或第三选择。

  他的猜测是该问题可能会被 MTP(多 token 预测)掩盖,并且当推理堆栈不支持 MTP 时就会变得更加明显,比如 llama.cpp 就还不支持 MTP。这个猜想的合理之处在于支持 MTP 的 DeepSeek 官方 API 更不容易遇到这种情况,而第三方部署的同款模型则更容易出现这个问题。

  他给出的可能解释是:「极」的 token 是 2577,而省略号「...」的 token 是 2576。这两者可能被模型混淆了。

  还不只是「极」,也有用户发现 DeepSeek-V3.1 还存在多语言混用的问题,u/Kitano_o 分享说:「我使用 3.1 从中文翻译成俄语时,遇到一些奇怪的行为。它开始混合多种语言 —— 添加英文词,也留下些中文词。有时这些问题会占到文本的 5%,有时只占 1%,甚至 0%。而且使用 OpenRouter 的不同提供商都会出现这个问题,即使我使用 DeepSeek 作为提供商也会。」

  总体而言,对于 DeepSeek-V3.1 这个可以说相当严重的问题的原因,网友给出的猜测更多还是「数据污染」。

  比如阶跃星辰黄哲威表示:「我认为是本身 sft 数据合成甚至是构造预训练数据的时候没洗干净引入了 “极长的数组” 这种怪东西(从 R1 的行为看,似乎大量使用了 RAG 方法来造难题的解答),然后 RL 的时候模型直接把这个字当某种终止符或者语言切换标记使用了。」

  他还提到:「其实推理出 bug,大概率都是数据问题,很多人都知道。只是 R1 的其它 bug 没有这么高频发生,社区不太关注而已。」

  这次事件也给所有模型开发者敲响了警钟:在追求更高性能的 AI 模型时,最基础的数据质量,才是决定 AI 是否会「行为异常」的关键。原文出处:热议!DeepSeek V3.1惊现神秘「极」字 Bug,模型故障了?,感谢原作者,侵权必删!

标签: deepseek
返回列表

上一篇:DeepSeek掷出FP8骰子

没有最新的文章了...

“热议!DeepSeek V3.1惊现神秘「极」字 Bug,模型故障了?” 的相关文章

曾结束中国无“芯”历史,老牌芯片公司启动IPO,国产工艺芯片8颗能跑满血版Dee

曾结束中国无“芯”历史,老牌芯片公司启动IPO,国产工艺芯片8颗能跑满血版Dee

  据上市辅导备案报告,中星微技术成立于2007年4月3日,注册资本约5.66亿元,法定代表人为张韵东。公司控股股东系堆龙中星微管理咨询有限公司,持股比例20.24%。...

中工互联主编《DeepSeek驱动工业智能》重磅发布,上市一周荣登京东图书双榜第

中工互联主编《DeepSeek驱动工业智能》重磅发布,上市一周荣登京东图书双榜第

  2025年7月30日晚,由中工互联科技集团、机械工业出版社、宁波和利时信息安全研究院有限公司联合主办的“工业大模型赋能新型工业化暨《DeepSeek驱动工业智能》新书发布会”在北京隆重...

广大特材:暂未考虑引入deepseek为公司控股股东

广大特材:暂未考虑引入deepseek为公司控股股东

  金融界8月6日消息,有投资者在互动平台向广大特材提问:董秘您好deepseek,贵司管理层多年没能将市值提上去,是否考虑引入deepseek为公司控股股东,让他借壳上市,我们全体股民非...

服务行业数智化,共创AI新时代 华为中国政企用户峰会2025成功举办

服务行业数智化,共创AI新时代 华为中国政企用户峰会2025成功举办

  7月24日,以“倾听·践行 服务行业数智化 共创AI新时代”为主题的华为中国政企用户峰会2025在山东青岛举办,与会的行业智库、客户和伙伴针对智能时代ICT服务的发展趋势与行业热点发表...

招商证券部门总被曝与DeepSeek母公司高管非法套佣 涉及金额过亿

招商证券部门总被曝与DeepSeek母公司高管非法套佣 涉及金额过亿

  财富管理及机构业务总部机构业务部总经理高翔因涉嫌严重违纪违法,正接受招商局集团纪委和中山市监委联合调查。据各方报道,其涉案线索直指此前量化巨头幻方量化市场总监李橙的亿元返佣案。...

DeepSeek母公司员工被抓 6年非法套取上亿佣金

DeepSeek母公司员工被抓 6年非法套取上亿佣金

  【TechWeb】8月11日消息,据21世纪经济报道deepseek,近日,国内顶级量化私募机构幻方量化陷入一场牵涉金额高达1.18亿元的返佣案件。此案涉及幻方量化市场总监李橙,时间跨...