精选即时国际

Nvidia平台上线DeepSeek

(华盛顿1日综合电)辉达(Nvidia)在官方网站宣布,DeepSeek R1模型可作为NVIDIA NIM微服务预览版使用。

中新社报导,辉达网站显示,DeepSeek-R1模型已作为NVIDIA NIM微服务预览版在辉达面向开发者的网站上发布。

Advertisement

目前,辉达面向开发者的网站已将DeepSeek R1模型纳入「最受欢迎的模型」栏目,且已经可在NVIDIA NIM微服务上使用。

辉达网站介绍称,DeepSeek R1模型是最先进、高效的大型语言模型,在推理、数学和编码方面表现出色。完美示例,证明了加速计算对于代理AI推理的需求至关重要。

另据中国基金报报导,辉达官网发布消息显示,DeepSeek-R1是一款具有先进推理能力的开源模型。与直接提供答案不同,像DeepSeek-R1这样的推理模型会对一个问题进行多次推理,透过思考链、共识和搜寻方法来产生最佳答案。

辉达称,执行这一系列推理过程(使用推理得出最佳答案)称为测验时间扩展。

ADVERTISEMENT

DeepSeek-R1是此扩展定律的完美范例,证明了加速计算对于代理AI推理的需求至关重要。

为了帮助开发者安全地实验这些功能并建立自己的专业代理,拥有6710亿参数的DeepSeek-R1模型现已作为NVIDIA NIM微服务预览版在build.nvidia.com上线。 DeepSeek-R1 NIM微服务可以在单一NVIDIA HGX H200系统上实现每秒3872个Token的处理能力。

標籤
你也可能感兴趣...
Close