当前位置:首页 > Deepseek最新资讯 > 正文内容

清华团队推出“安全增强版DeepSeek”

7个月前 (02-24)Deepseek最新资讯354

人民网北京2月24日电 (记者赵竹青)2月23日,清华大学计算机系相关研究团队宣布推出大语言模型RealSafe-R1。该模型基于DeepSeek R1进行深度优化与后训练,在确保性能稳定的基础上,显著提升了安全性,为开源大模型的安全发展与风险治理提供了创新性解决方案。

近日来,国产开源大模型DeepSeek在自然语言处理和多任务推理方面展现了强大的技术实力,但在面对越狱攻击等安全性挑战时仍存在一定局限性。为此,清华团队提出了基于模型自我提升的安全对齐方式,将安全对齐与内省推理相结合,使大语言模型能够通过具有安全意识的思维链分析来检查潜在风险,实现基础模型自身能力的自主进化。

基于该方法,团队对DeepSeek-R1系列模型进行后训练,正式推出RealSafe-R1系列大模型。实验数据表明,RealSafe-R1安全性提升显著,在多个基准测试中有效增强了对各种越狱攻击的抵抗力,并减轻了安全与性能之间的“跷跷板”现象。

据悉,RealSafe-R1各尺寸模型及数据集将于近期向全球开发者开源。


“清华团队推出“安全增强版DeepSeek”” 的相关文章

快速写新闻、数字人互动,DeepSeek运用到宣教领域了!| 智能宣教篇

快速写新闻、数字人互动,DeepSeek运用到宣教领域了!| 智能宣教篇

从信息传递到资源整合从单一宣传到多元服务数据驱动、智能分析、精准触达AI大模型让宣教工作更加数智化来看看具体实践场景及案例~算法推荐活动+数字人上岗科普公众参与度粘性又深了……快速生成新闻稿+智能校对...

号称行业首家,MagicOS 9.0荣耀文档接入DeepSeek模型满血版

号称行业首家,MagicOS 9.0荣耀文档接入DeepSeek模型满血版

IT之家 3 月 14 日消息,IT之家从荣耀手机官方获悉,荣耀 MagicOS 的荣耀文档应用现已正式接入 DeepSeek 模型满血版。官方宣称实现“行业首家”,荣耀文档目前已在搜索问答、文本创作...

100个经常用的DeepSeek提示词

100个经常用的DeepSeek提示词

写作与内容生产1. 写一篇关于人工智能伦理的议论文大纲。  2. 生成一段科幻小说的开头,主题是时间旅行。  3. 为环保产品写一段吸引人的广告文案。  4. 将以下技术...

深夜突袭,DeepSeek-Prover-V2加冕数学王者!671B数学推理逆天狂飙

深夜突袭,DeepSeek-Prover-V2加冕数学王者!671B数学推理逆天狂飙

来源:新智元  【新智元导读】就在刚刚,DeepSeek-Prover-V2技术报告也来了!34页论文揭秘了模型的训练核心——递归+强化学习,让数学推理大提升。有人盛赞:DeepSeek已找到通往AG...

deepseek目前帮到你的行业了吗?

deepseek目前帮到你的行业了吗?

帮到了,帮孩子分析数学题,教孩子怎么写作文,让孩子感觉写作文就是在做选择题写评论豪言片语北京 10小时前我之前是做开发的。公司强制要求所有开发人员必须装AI辅助编程的插件,确实可以提高一部分效率,我觉...

江苏多地宣布接入DeepSeek 专家:加速“数智江苏”建设

江苏多地宣布接入DeepSeek 专家:加速“数智江苏”建设

央广网南京2月18日消息(记者庄滨滨)近日,江苏省数据集团完成DeepSeek模型本地化部署,在已有QWen2.5、ChatGLM3等大模型的基础上,全面接入大模型能力开发平台,进一步增强大模型综合方...