RM新时代手机版-首页

DeepVerse系列

云端大算力推理芯片

DeepVerse100P

針對百萬(wàn)長(cháng)上下文Prefill性能優(yōu)化 高并行計算，大顯存容量

DeepVerse100D

針對 Decode 吞吐優(yōu)化 大帶寬、高吞吐

DeepVerse100L

針對 Decode FFN 計算路徑 極低延時(shí)

PRODUCT FORM

超節點(diǎn)方案

DV100P 超節點(diǎn)

DV100P 超節點(diǎn)

為百萬(wàn)級長(cháng)上下文 Prefill 而生

最大支持256卡Scale-Up，構建統一可擴展的Prefill Pool，融合高密算力、大容量?jì)却媾c高帶寬互聯(lián)。面向超長(cháng)Prompt、RAG、多輪Agent等場(chǎng)景優(yōu)化，顯著(zhù)提升長(cháng)上下文推理效率，降低部署成本，支撐大規模高并發(fā)AI應用。

  • 把Prefill做成超節點(diǎn)把Prefill做成超節點(diǎn)
  • 面向百萬(wàn)長(cháng)上下文面向百萬(wàn)長(cháng)上下文
  • 為萬(wàn)億級MoE而準為萬(wàn)億級MoE而準
  • 開(kāi)放異構擴展能力開(kāi)放異構擴展能力
DV100D超節點(diǎn)

DV100D超節點(diǎn)

面向高吞吐Decode的推理引擎

DV100L超節點(diǎn)

DV100L超節點(diǎn)

面向Decode FFN加速的極低時(shí)延推理底座

這不只是更大的集群，而是
一套面向百億Token一分錢(qián)長(cháng)期愿景的推理工廠(chǎng)

P超節點(diǎn)+D超節點(diǎn)+L超節點(diǎn)打造面向萬(wàn)卡/十萬(wàn)卡異構集群的分離式推理基礎設施。它把 Prefill、Decode 和 Decode FFN 分別運行在
更適合的芯片上，把推理拆開(kāi)、把階段做透、把資源組織成基礎設施。

RM新时代手机版-首页