周宜波

字节跳动火山引擎 - AI基础设施架构师

AI Agent专家 | GPU池化 | LLM推理优化

技术专长

AI Agent

GPU池化

推理优化

高性能虚拟化

大模型部署

容器化AI

分布式推理

模型压缩

AI Agent架构设计
大模型推理优化
GPU资源池化
分布式训练系统

推理加速技术
模型压缩优化
内存管理策略
计算图优化

云原生AI平台
弹性GPU服务
高性能计算集群
AI容器编排

articles

产生背景作为协议主要发起方，intel在2019年首次提出了cxl协议并联合国内外一众芯片和硬件公司组成了cxl联盟。在cxl协议之前，pcie作为节点设备之间常用的连接协议。cxl的提出主要是希望填补一下pcie在异构计算和分离式数据中心方面的不足。cxl的优势可以总结如下：...

cxl cxl device

获取最新的AI基础设施技术文章和深度解析