当前位置:首页 > 绿巨人最新热点 > 正文内容

DeepSeek论文登上《自然》封面,R1成为首个严格学术审查大模型

admin3个月前 (09-18)绿巨人最新热点25

9月18日,由DeepSeek(深度求索)团队共同完成、梁文锋担任通讯作者的DeepSeek-R1推理模型研究论文,登上了国际权威期刊《自然(Nature)》的封面。

DeepSeek R1成为首个通过同行评议的主要大语言模型,发表在《自然》杂志的新版DeepSeek-R1论文,与今年1月未经同行评审的初版有较大差异。

在同行评议过程中,DeepSeek团队根据评审意见减少了对模型的拟人化描述,并增加了模型训练的技术细节说明,包括模型训练数据类型和安全性考虑等,并回应了此前关于知识蒸馏的质疑。

DeepSeek明确否认了此前关于其使用OpenAI模型输出进行训练的质疑。在长达64页的同行评审文件中,DeepSeek介绍,DeepSeek-V3 Base(DeepSeek-R1的基座模型)使用的数据全部来自互联网,虽然可能包含GPT-4生成的结果,但绝非有意而为之,更没有专门的蒸馏环节。

DeepSeek还透露,为了防止基准测试数据污染,对DeepSeek-R1的预训练和后训练数据都实施了全面的去污染措施。

开源之后,R1在Hugging Face下载量破1090万次,成为全球最受欢迎的开源推理模型。

DeepSeek首次公开了仅靠强化学习,就能激发大模型推理能力的重要研究成果,从而启发全球AI研究者。DeepSeek R1的核心创新在于采用了“纯强化学习”这一自动化试错方法,R1通过奖励模型达到正确答案的行为来学习推理策略,而非传统模仿人类预设的推理模式。

在补充材料中,DeepSeek团队还首次公开了R1训练成本仅为29.4万美元。这个金额即使加上约600万美元的基础模型成本,也远低于OpenAI、谷歌训练AI的成本。

今年1月,当DeepSeek R1模型发布时,其卓越的推理能力和极低的开发成本曾引发全球科技股大幅下跌。

作为全球首个通过同行评审的主流大语言模型,《自然》期刊不但将该篇论文作为封面论文,还在评论报道文章中用了“里程碑式论文揭示 DeepSeek AI 模型的秘密”、“创造历史”表达赞赏和肯定,此次论文发表标志着中国在大模型基础研究领域取得重要突破。

在AI行业快速发展中,未经证实的说法和炒作不在少数。《自然》杂志认为,随着AI技术日渐普及,大模型厂商们无法验证的宣传可能对社会带来真实风险。依靠独立研究人员进行的同行评审,是抑制AI行业过度炒作的一种有效方式。而DeepSeek所做的一切,是非常值得欢迎的先例。

8月21日,DeepSeek正式发布了最新大语言模型DeepSeek-V3.1。

据DeepSeek介绍,新升级版本的变化主要体现在三个方面:混合推理架构、更高的思考效率、更强的Agent(智能体)能力。DeepSeek-V3.1实现了一个模型同时支持思考模式与非思考模式。

DeepSeek是2023年成立于杭州的人工智能公司,由幻方量化孵化。创始团队由梁文锋领衔,成员来自顶尖高校与国际机构技术专家。

 

相关文章

哈马斯发言人:加沙停火条件不变,美以合谋破坏谈判进程

哈马斯发言人:加沙停火条件不变,美以合谋破坏谈判进程

当地时间9月11日,巴勒斯坦伊斯兰抵抗运动(哈马斯)发言人法齐·巴尔胡姆在电视讲话中表示,9日以方对在卡塔尔多哈的哈马斯高层官员发动袭击,不会改变哈马斯结束加沙地带冲突的条件。巴尔胡姆称,以方袭击目标...

砥砺奋进七十载天山南北谱华章|一粒种子的科技逆袭将优良性状“写入”种子的核心

砥砺奋进七十载天山南北谱华章|一粒种子的科技逆袭将优良性状“写入”种子的核心

砥砺奋进七十载 天山南北谱华章 |一粒种子的科技逆袭 将优良性状 " 写入 " 种子的核心打开 砥砺奋进七十载 天山南北谱华章 |一粒种子的科技逆袭 将优良性状 " 写入 " 种子的核心丝路视听 09...

国内金饰价格继续走高,克价接近1080元

国内金饰价格继续走高,克价接近1080元

9月11日,国内多家品牌金饰价格上涨,接近1080元/克。其中,周生生足金饰品价格报1079元/克,较前一日上涨6元/克;周大福、老凤祥、六福珠宝等足金饰品价格升至1078元/克。 万得数据显示...

传音控股:控股股东询价转让定价81.81元/股,可套现约18.66亿元

传音控股:控股股东询价转让定价81.81元/股,可套现约18.66亿元

传音  视觉中国 资料图9月12日,有着“非洲手机之王”称号的深圳传音控股股份有限公司(传音控股,688036.SH)发布股东询价转让定价情况提示性公告。公告称,根据9月12日询价申购情况,...

十一假期前多地机票“骨折价”,成都飞曼谷单程20元

十一假期前多地机票“骨折价”,成都飞曼谷单程20元

随着中秋国庆假期的临近,旅游出行预订正逐渐进入高峰期。而暑运刚过、十一假期未到,9月出行机票成了“价格洼地”,不少航线低至1到2折,平台数据显示酒店价格也大幅回落,适合“捡漏”出游。 据上游新闻...