訂閱電子報∣ 友善列印字體大小 文章分享-Facebook 文章分享-Plurk 文章分享-Twitter
這廂圍剿 那廂結交!輝達搶先上線DeepSeek R1
鉅亨網新聞中心
獲取產業訊息零時差!立即訂閱電電公會電子報。

有別於 OpenAI 、Anthropic 和微軟 (MSFT-US) 等科技業巨頭對 DeepSeek 的圍剿 (詳見報導),輝達走內捲路線,搶先上線備受爭議的開放模型 DeepSeek R1。

輝達 (NVDA-US) 官網 30 日顯示,推理開放模型 DeepSeek R1 現已在 NVIDIA NIM(輝達推理微服務)平台上提供預覽版。

DeepSeek R1 是具備領先推理能力的開放模型,專為需要複雜邏輯推理、數學計算、編碼及語言理解任務設計。該模型採用了一系列高級方法,如思路鏈、共識和搜索等,以確保能夠生成最優質的答案。不同於直接響應查詢的傳統模型,DeepSeek R1 通過多次推理來優化結果,這種測試時間擴展的方法對於實現實時推理和更高質量的響應至關重要。

開發人員現可透過 build.nvidia.com 上的 NIM 微服務訪問具 6710 億參數的 DeepSeek R1 模型,不僅可安全試驗這些功能,也可構建自己的專用代理。

此外,DeepSeek R1 NIM 微服務能夠在單個 NVIDIA HGX H200 系統上每秒處理多達 3,872 個令牌,極大提升了效率和響應速度。

為了簡化部署流程,DeepSeek R1 NIM 微服務兼容行業標準 API,並作為 NVIDIA AI Enterprise 軟件平台的一部分提供給用戶。企業可以通過在其選擇的加速計算基礎設施上運行 NIM 微服務,最大化保障數據隱私和安全性。同時,利用 NVIDIA AI Foundry 和 NVIDIA NeMo 軟件,企業還能定製化開發專門的 AI 代理服務。

訂閱電子報 友善列印 字體大小:
獲取產業訊息零時差!立即訂閱電電公會電子報。