2023-09-22 19:17:17 发布人:hao333 阅读( 2063)
站长之家9月22日 消息:华为在全联接大会上发布了高性能 AI 知识库存储解决方案 ——OceanStor A800。该解决方案针对大模型训练和推理过程中的数据...
站长之家9月22日 消息:华为在全联接大会上发布了高性能 AI 知识库存储解决方案 ——OceanStor A800。该解决方案针对大模型训练和推理过程中的数据处理效率瓶颈提供了三大关键能力,包括超高性能、超快恢复和超强推理。
OceanStor A800通过创新的数控分离架构提升了小文件处理性能,存储单框 IOPS 达到2400万,训练数据加载效率是业界的4倍。采用创新的盘控协同技术和 NFS + 并行客户端,实现了500GB/s 的超高带宽,TB 级 Checkpoint 大文件读写仅需十几秒,断点续训恢复速度是业界的3倍。
此外,OceanStor A800还通过存储内生高速向量知识库和智能向量检索引擎提升了大模型行业知识深度、精度和时效性,消除了 AI “幻觉”,实现了25万 + QPS 的毫秒级推理响应。
华为的这一解决方案旨在提升 AI 大模型训练 / 推理效率,优化成本,加速推动 AI 在各行业的应用。
相关阅读
RelatedReading猜你喜欢
Guessyoulike