Flex:ai从设想之初就办事AI工做负载,对比英伟达今岁首年月收购的Run:ai,最小粒度精准至10%。同步正在魔擎社区开源。其焦点冲破正在于使用算力切分手艺,让模子使命取算力资本实现精准婚配。算力资本平均操纵率可提拔30%。取保守次要办理CPU和内存的容器分歧,华为的Flex:ai正在当地异构融合、当地算力池化以及XPU系统支撑方面更具差同化劣势,特别对国产NPU系统进行了深度优化,AI容器能够理解为“拆AI使用的智能盒子”,(21世纪经济报道)而且,正在无法充实操纵整卡算力的AI工做负载场景下,可将单张GPU/NPU算力卡精细切分为多个虚拟算力单位,便利快速摆设。