aiDAPTIV TM

更快速的 AI 推論效能與更大規模的 LLM 訓練,全程於本地部署(On-Prem)私有環境完成

技術資源 

只有在了解基準測試結果如何產生時,測試結果才有意義。

每項已發布的結果都會標示工作負載、系統、執行環境、比較與限制。

What to show
Includes
工作負載
模型、精度、提示詞或資料集、任務
系統
CPU/GPU、統一記憶體或獨立記憶體架構、作業系統、快取記憶體配置
執行環境
版本、量化、相關設定
比較
基準線、指標、條件、取捨、限制
What to show

工作負載

Includes

模型、精度、提示詞或資料集、任務

What to show

系統

Includes

CPU/GPU、統一記憶體或獨立記憶體架構、作業系統、快取記憶體配置

What to show

執行環境

Includes

版本、量化、相關設定

What to show

比較

Includes

基準線、指標、條件、取捨、限制

白皮書與技術指南

超越 VRAM 與 DRAM:擴充與重複使用 KV 快取 

了解 Pascari aiDAPTIV™ 如何延長符合條件的 KV 快取保留時間,並跨文件、RAG、程式設計與Agent工作流程重新使用相容的共用輸入。

aiDAPTIV Middleware 資源

查閱目前的aiDAPTIV Middleware安裝指南、環境要求與微調工作流程資源。

SEAMLESS INTEGRATION

  • Optimized middleware to extends GPU memory capacity
  • 2x 2TB aiDAPTIVCache to support 70B model
  • 低延遲

HIGH ENDURANCE

  • 業界領先,高達100次的五年內每日寫入次數(DWPD)
  • 採用業界先進NAND 糾錯算法的SLC NAND

aiDAPTIV+ BENEFITS

  • 隨插即用,無縫整合
  • 無需修改現有 AI 應用
  • Reuse existing HW or add nodes

aiDAPTIV+ MIDDLEWARE

  • 模型自動分割與 GPU 資源調度
  • Hold pending slices on aiDAPTIVCache
  • Swap pending slices w/ finished slices on GPU

FOR SYSTEM INTEGRATORS

  • Access to ai100E SSD
  • Middleware library license

  • Full Phison support to bring up