aiDAPTIV TM

更快的 AI 推理性能与更大规模的 LLM 训练,全程在本地部署(On-Prem)私有环境中完成

技术资源 

只有知道基准测试是如何进行的,测试结果才有意义。

每项公开发布的测试结果都会说明所使用的工作负载、系统、运行时、对比方案及限制。

显示的信息
包括
工作负载
模型、精度、提示词或数据集、任务
系统
CPU/GPU、统一内存或独立内存架构、操作系统、缓存内存配置
运行时
版本、量化方式、相关设置
对比方案
基准方案、指标、测试条件、权衡、限制
显示的信息

工作负载

包括

模型、精度、提示词或数据集、任务

显示的信息

系统

包括

CPU/GPU、统一内存或独立内存架构、操作系统、缓存内存配置

显示的信息

运行时

包括

版本、量化方式、相关设置

显示的信息

对比方案

包括

基准方案、指标、测试条件、权衡、限制

白皮书和技术指南

不局限于显存和 DRAM:扩展和复用 KV 缓存 

了解 Pascari aiDAPTIV™ 如延长符合条件的 KV 缓存保留时间,并在文档处理、RAG、编程和智能体工作流中复用兼容的共享输入。

aiDAPTIV 中间件资源

访问最新 aiDAPTIVLink 2 安装指南、环境要求和微调工作流资料。

SEAMLESS INTEGRATION

  • Optimized middleware to extends GPU memory capacity
  • 2x 2TB aiDAPTIVCache to support 70B model
  • 低延迟

HIGH ENDURANCE

  • 业界领先,高达100次的五年内每日写入次数(DWPD)
  • 采用业界先进NAND 纠错算法的SLC NAND

aiDAPTIV+ BENEFITS

  • 即插即用,无缝集成
  • 无需修改现有 AI 应用
  • Reuse existing HW or add nodes

aiDAPTIV+ MIDDLEWARE

  • 模型自动分割与 GPU 资源调度
  • Hold pending slices on aiDAPTIVCache
  • Swap pending slices w/ finished slices on GPU

FOR SYSTEM INTEGRATORS

  • Access to ai100E SSD
  • Middleware library license

  • Full Phison support to bring up