xPU-IO 项目
构建高性能的 GPU 中心存储基础设施，消除 CPU 瓶颈，为 AI 工作负载释放 NVMe SSD 的全部潜力。
加速器中心存储生态系统
Tutti 和 Phoenix 是 xPU-IO 生态系统中的互补项目，从不同的系统范围和设计角度探索加速器中心存储。它们解决 AI 工作负载存储挑战的不同方面，可以根据具体的基础设施需求独立采用。
AI / LLM 工作负载
↓
加速器中心存储
↓
↓
加速器中心存储
↓
Tutti
工作负载感知存储
• KV 缓存管理
• 多层架构
• 前缀缓存
• 控制 + 数据路径
工作负载感知存储
• KV 缓存管理
• 多层架构
• 前缀缓存
• 控制 + 数据路径
Phoenix
直接 I/O 优化
• GPU 直接存储
• 消除伪缓冲区
• POSIX + io_uring
• 数据路径聚焦
直接 I/O 优化
• GPU 直接存储
• 消除伪缓冲区
• POSIX + io_uring
• 数据路径聚焦
↓
存储基础设施
存储基础设施
Tutti
LLM 服务的 GPU 中心 KV 缓存存储
Tutti 为长上下文 AI 智能体提供工作负载感知的 KV 缓存管理。通过多层架构（HBM/DRAM/NVMe）和智能前缀缓存，Tutti 在 SWE-bench Pro 追踪中实现了 94.2% 的缓存命中率，支持 256K+ 令牌上下文。