aiDAPTIV TM

更快速的 AI 推論效能與更大規模的 LLM 訓練,全程於本地部署(On-Prem)私有環境完成

使用 Pascari aiDAPTIV™ 打造 

Build with 
Pascari aiDAPTIV™ 

為客戶實際擁有的機器打造 

終端使用者不在乎瓶頸是 GPU 記憶體、統一記憶體、DRAM、KV 快取,還是MoE 專家未命中。 

他們關心的是產品能否在眼前的機器上運作。 

aiDAPTIV 讓應用程式與平台團隊可以因應客戶實際部署之系統的記憶體限制進行建置。 

針對 ISV 

產品可能在實驗室中表現良好,但卻受到客戶本機 PC、工作站、邊緣裝置或私有 GPU 伺服器限制。 

記憶體容量可決定:

應用程式可執行的模型

可以保留的上下文

可重複使用的 RAG 資料

Agent可以保留的狀態

可以支援的作用中工作流程數量

更大型的 MoE 模型是否可行

微調能否完成

對於私有知識助理、長文件與 RAG 工作流程、程式設計與開發者工具、代理工作流程、本機或混合 AI 應用程式,以及有針對性的私有推論服務,這都很重要。 

 

若要討論潛在的應用方式,請與 Phison 聯絡,並且提供模型、執行階段、目標平台、記憶體架構與記憶體限制。

aiDAPTIV Middleware 資源

需要現行中介軟體設定或微調工作流程資源嗎?

針對 OEM 與系統製造商 

對於 AI 系統,記憶體是使用者體驗的一部分

平台不僅是由處理器、GPU 或儲存容量定義。使用者會透過平台能執行的模型、可保留的上下文量,以及在處理長文件、工具、Agent或重複上下文時是否仍具實用性,感受其實際使用體驗。

aiDAPTIV 可以幫助平台團隊在原本需要更多 GPU 記憶體、系統記憶體、更高階的平台級別或雲端執行的系統上,擴充實用的模型容量與上下文。

這適用於支援 aiDAPTIV 的獨立 GPU、整合式 GPU 與統一記憶體平台設計。

請與 Phison 聯絡,討論平台架構、執行階段整合與目標組態。 

SEAMLESS INTEGRATION

  • Optimized middleware to extends GPU memory capacity
  • 2x 2TB aiDAPTIVCache to support 70B model
  • 低延遲

HIGH ENDURANCE

  • 業界領先,高達100次的五年內每日寫入次數(DWPD)
  • 採用業界先進NAND 糾錯算法的SLC NAND

aiDAPTIV+ BENEFITS

  • 隨插即用,無縫整合
  • 無需修改現有 AI 應用
  • Reuse existing HW or add nodes

aiDAPTIV+ MIDDLEWARE

  • 模型自動分割與 GPU 資源調度
  • Hold pending slices on aiDAPTIVCache
  • Swap pending slices w/ finished slices on GPU

FOR SYSTEM INTEGRATORS

  • Access to ai100E SSD
  • Middleware library license

  • Full Phison support to bring up