产品概述
联想万全异构智算平台是一款高度自动化的AI全流程开发平台,它不仅能输出高可用的算力,还能持续突 破计算效率的瓶颈。该平台支持单节点到万卡集群的算力管理,能实现异构GPU和异构算力融合调度,从而提 供稳定且高效的AI/HPC混合算力。
为用户提供快速交付、开箱即用、极致性能、稳定高效的全栈大模型训练、微调和推理的开发能力,加快 DeepSeek等大模型在各行业的应用落地速度。
联想万全异构智算平台架构
产品价值
异构管理:GPU的统一管理和和异构算力(AI/HPC)的融合调度。
大模型分布式训练、微调、推理:支持主流的PyTorch,TensorFlow,PaddlePaddle训练框架、 SFT(SupervisedFine-Tuning)监督微调和Triton,SGLang,vLLM推理引擎 。
大模型推理引擎优化:通过自适应量化、推理架构优化和并行策略优化,极致提升大模型推理性能的算法集。
AI高效断点续训:GPU故障预测并自动化容错,减少训练中断时间的AI高效断点续训技术。
GPU内核态虚拟化:逼近GPU算力极限的GPU内核态虚拟化。
产品概述