华为开源AI容器软件Flex：ai将大幅提升算力资源利用率

　　中新社上��日电 (谢梦圆)华�日在位于上海的练秋湖研发基地举� AI容器应用落地与发展论坛，在现场宣布AI容器软件Flex：ai正式开源。该AI(人工智能)领域的创新成果将显著提升GPU(图形处理器)和NPU(神经网络处理器)等算力资源的利用率，为AI训练推理提供更高效的资源支撑。

　　华为公司副总裁、数据存储产品线总裁周跃峰接受媒体采访时，多次强调“要让AI在千行百业落地”。然而，在赋能行业生产过程中，AI硬件资源有限，需精细化利用，否则易造成浪费。

　　此次，华为联合国内三大高校共同打造了AI容器软件Flex：ai，提供智能资源管理调度新方案，并通过开源开放，降低软件开发难度。

　　具体而言，该容器软件可将单张算力卡切分为多份虚拟算力单元，切分粒度精准�%。此技术实现了单卡同时承载多个AI工作负载，在无法充分利用整卡算力的AI工作负载场景下，算力资源平均利用率可提�%。

　　此外，因为不同AI模型性能、适配场景存在差异，或出现计算集群负载不均衡、资源利用不充分等情况。针对此痛点，该容器实现了多级智能调度，将AI工作负载与算力资源进行“精准匹配”；并能在负载频繁波动的场景下，保障AI工作负载平稳运行，让每一份算力都“物尽其用”。

　　据悉，Flex：ai发布后会在魔擎社区同步开源，与华为此前开源的Nexent智能体开发框架、AppEngine应用编排、DataMate数据工程、UCM推理记忆数据管理器等AI工具共同组成完整的ModelEngine开源生态。

　　“AI容器软件一定要和更多模型生态和多样性算力生态进行适配、对接以及调优。我们希望通过开源共建让AI真正走向平民化。”周跃峰说，目前，该容器软件已在教育、医疗和金融等行业试点应用。(完)

【编辑:刘阳禾】