aiDAPTIV™ で、ビジネスのAI推論を再定義

日常的に使用するデバイスで高速かつプライベートな LLM 推論が可能になります。もう、無駄なクラウド料金に依存する必要はありません。

技術的な詳細

推論を高速化。オンプレミスのまま

Pascari aiDAPTIV は、ローカルPCやワークステーション、IoTエッジ機器を、簡単な設定でプライベートかつ高効率なAI推論エンジンに変えます。クラウドの遅延なし。データ漏洩の心配なし。仕事や学習の現場で、すぐに使えるAIを実現します。

ファイソンのテスト結果によると、aiDAPTIVはノートPC環境において、推論応答時間を最大10倍、Time to First Token（TTFT）を最大102倍高速化します。

クラウドに依存しないことが、本当のコスト上の利点です。

aiDAPTIV を使用すると、カスタムトレーニングされた AI モデルをローカルデバイス上でスムーズに実行できるようになり、シンプルで安全、かつコスト効率に優れた推論ソリューションが提供されます。
  • プラグアンドプレイ、簡単な導入
  • 費用対効果が高い
  • 複数のデバイスタイプをサポート
  • 100% オンプレミスデータプライバシー

aiDAPTIV が日常的なデバイスで AI 推論を実現する仕組み

このソリューションは、aiDAPTIV キャッシュメモリとスマートソフトウェアを組み合わせ、PC、ワークステーション、エッジシステムなどの一般的なデバイス上で、高速かつ安定した LLM 推論を実現します。

LLMの対話内容が増え続けるにつれ、モデルはより多くの直近の「記憶」（KVキャッシュ）を保存する必要があります。 データ量がGPUのVRAM容量を超えると、再計算やGPUの待ち時間により、システム性能は大きく低下します。 aiDAPTIV はフラッシュメモリを活用してGPUがアクセス可能なメモリ空間を拡張し、GPUが必要とするタイミングで即座に利用できるよう、データをインテリジェントに管理します。トークンを毎回再計算するのではなく再利用することで、aiDAPTIV は長いコンテキストのプロンプトにおいて、応答の遅延と Time to First Token（TTFT）を大幅に改善します。

これにより、GPUは常に高効率で動作し、 推論レイテンシは予測可能な範囲に保たれ、長いプロンプトやエージェント型ワークフローにおいても、ユーザーはよりスムーズで、より強力なインタラクション体験を得ることができます。

  • より長いコンテキストでより速い応答
  • 推論の精度と関連性が向上
  • データのプライバシーと主権の制御
  • 推論プロセスの再設計やモデル アーキテクチャの調整が不要になります

アプリケーション シナリオ

ドメイン固有のCopilotとチャットボット

RAG とドキュメント理解
コード アシスタントと開発ツール
エージェントとロングコンテキストワークフロー
学習と実験

How aiDAPTIV helps

ローカルデータを使用して、企業や教育コンテンツのニーズに合わせたAIアシスタントを構築します。 サードパーティのクラウド環境にデータを公開する必要はありません
検索拡張生成 (RAG) プロセスをオンプレで実行し、コンテンツがプライベートのまま漏洩しないことを保証しながら、内部ドキュメント、マニュアル、調査資料、または記録からの質問に答えます。
安全なワークステーション環境に Copilot ローカル コードを展開し、コード リポジトリ、ビルド システム、内部ライブラリを理解できるようにします。
モデルにより多くのワーキングメモリを提供することで、推論の​​レイテンシを犠牲にすることなく、マルチステップエージェント、より長い対話プロセス、そしてより豊富なツールの使用をサポートします。
チームや学生に対して、実際のワークロードを用いながら、ローカル環境のハードウェア上で大規模言語モデル（LLM）の動作、セキュリティ、評価手法を検証・学習できる実践的な環境を提供します。

アプリケーション シナリオ

aiDAPTIV™ の活用方法

ドメイン固有のCopilotとチャットボット

ローカルデータを使用して、企業や教育コンテンツのニーズに合わせたAIアシスタントを構築します。 サードパーティのクラウド環境にデータを公開する必要はありません

RAG とドキュメント理解
検索拡張生成 (RAG) プロセスをオンプレで実行し、コンテンツがプライベートのまま漏洩しないことを保証しながら、内部ドキュメント、マニュアル、調査資料、または記録からの質問に答えます。
コード アシスタントと開発ツール
安全なワークステーション環境に Copilot ローカル コードを展開し、コード リポジトリ、ビルド システム、内部ライブラリを理解できるようにします。
エージェントとロングコンテキストワークフロー
モデルにより多くのワーキングメモリを提供することで、推論の​​レイテンシを犠牲にすることなく、マルチステップエージェント、より長い対話プロセス、そしてより豊富なツールの使用をサポートします。
学習と実験
チームや学生に対して、実際のワークロードを用いながら、ローカル環境のハードウェア上で大規模言語モデル（LLM）の動作、セキュリティ、評価手法を検証・学習できる実践的な環境を提供します。

推論構成を選択する

aiDAPTIV™ は、GPUの利用可能なメモリ空間を拡張することで、様々なPCとワークステーションのフォームファクターでオンプレAI推論を可能にします。これにより、実際のワークロードに応じて、コスト、パフォーマンス、容量の適切なバランスを実現できます。

ノートPC

小規模から中規模のLLMやインタラクティブなユースケースに適したポータブルなローカル AI 推論。

デスクトップPC

チーム、ラボ、小規模部門に安定した信頼性の高いローカル AI 推論を提供します。

デスクトップワークステーション

大規模なモデル、より長いコンテキスト、または複数のユーザーが同時に推論する大容量システムに適しています。

AI推論ソリューションについてご相談ください

パフォーマンス、モデルサイズ、ハードウェア構成についてご不明点はありますか？ ファイソンのテクニカルサポートチームが最適な構成の選定をサポートし、実際のワークロードにおける想定パフォーマンスの把握をお手伝いします。

お問い合わせ

お客様の環境におけるaiDAPTIV™ の動作についてご質問がありますか？最適なソリューションの選択やパフォーマンスに関するご期待についてサポートが必要ですか？

技術的なご質問からご購入に関するご相談まで、私たちがサポートいたします。フォームにご記入いただければ、aiDAPTIV™チームの担当者より迅速にご連絡いたします。

SEAMLESS INTEGRATION

  • Optimized middleware to extends GPU memory capacity
  • 2x 2TB aiDAPTIVCache to support 70B model
  • 低遅延

HIGH ENDURANCE

  • 業界をリードするDWPD 5 年以内に 1 日あたり 100 回の書き込み
  • 高度な NAND 修正アルゴリズムを備えた SLC NAND

aiDAPTIV+ BENEFITS

  • 簡単に実装
  • AI アプリケーションを変更する必要はありません
  • Reuse existing HW or add nodes

aiDAPTIV+ MIDDLEWARE

  • モデルを分割して各GPUに割り当てる
  • Hold pending slices on aiDAPTIVCache
  • Swap pending slices w/ finished slices on GPU

FOR SYSTEM INTEGRATORS

  • Access to ai100E SSD
  • Middleware library license

  • Full Phison support to bring up