润和软件发布AIRUNS 2.0,领航AI软硬一体化新时代
2024/9/27 16:40:55
AI 2.0 时代,企业愈发注重 AI 技术的场景化和商业化。然而,在实际落地过程中,企业面临着资源管理、运维监控、资源调度以及团队协作等多方面挑战,市场迫切需要一款具备强大管理能力,既能有效管控又能灵活调度的 AI 研发平台级产品。江苏润和软件股份有限公司(以下简称“润和软件”)秉承创新驱动理念,重磅推出全新 AI 软硬一体化平台—— AIRUNS 2.0,通过增强全栈 AI 能力,助力企业 AI 快速落地。
润和软件发布全新AI软硬一体化平台——AIRUNS 2.0
AIRUNS 2.0的发布,进一步提升了数据、算力等AI核心要素的管理能力,,相较1.0版本,着重强化了AI软硬一体化、端到端数据管理、AI算力调度、AI训推加速、云-边-端模型部署五大能力,使AI应用落地更便捷,帮助企业快速实现商业价值。
AIRUNS 2.0功能首页
AI软硬一体化能力:
AIRUNS 2.0可以实现从芯片到应用的全栈优化。其核心功能包括深入了解硬件架构的深度集成、润和软件自研的 HopeOS 操作系统优化智能计算场景以及兼容昇腾和英伟达平台的异构能力,优化 CUDA 及 CANN 框架。
AIRUNS 2.0 AI软硬一体化能力架构图
业务价值:
大化发挥硬件潜能,提高系统的整体性能和能效,减少计算资源浪费,确保复杂计算任务能够完成;带来了更流畅的用户体验,减少性能瓶颈,且能够处理大规模计算任务,提升AI研发和应用的整体效率;在高性能的基础上,硬件选择更加自由,减少了技术锁定的风险,提升了系统的适应性。
端到端数据管理:
统一架构设计的数据链管理,覆盖数据采集、传输、存储和分析;数据安全控制,通过加密和访问控制确保数据安全与隐私;以及支持跨云、边缘和终端设备的数据共享与协同。
业务价值:
减少数据在各个环节中的中断和延迟,提升数据流转效率,使得模型训练和推理的时间大幅缩短;确保数据的完整性、准确性及安全性,尤其在处理敏感数据时提供了更高的合规性保障,降低了数据泄露和误用的风险;在不同的计算环境中灵活调度和处理数据,提供更广泛的应用支持,提升业务流程的协同效率和灵活性。
AI算力调度:
统一管理所有AI算力(CPU、GPU、NPU)并进行策略调度;支持动态调用、优先调用、任务抢占和叠加等特性;实现算力资源的精细化切分,支持进程级封装和虚拟显存扩展;采用热加载、动态选举机制和职责链模式优化调度策略。
AIRUNS 2.0算力调度架构图
业务价值:
各种算力资源得到充足利用,避免算力孤岛,优化资源分配,避免资源浪费,同时降低管理复杂度;AI业务共享算力集群,用完即释放,充分复用底层算力资源,大化提升AI算力能效;以少的硬件资源,满足更多的AI业务;提升业务并发量、吞吐量,提升集群算力能效,保证业务的连续性;灵活应对多环境下的不同业务调度需求,提升系统的扩展性、容错能力和实时性。
AI训推加速套件:
针对主流开源大模型的显存和算子深度优化、支持数据和模型并行计算的并行架构、动态资源调度与负载均衡、根据负载变化自动调整计算任务、全面的监控、故障诊断、容错机制。
业务价值:
提高单卡运行大模型的效率,降低硬件需求和运营成本;支持数据和模型并行计算,显著缩短训练时间并提升模型推理吞吐量,快速响应市场需求;根据负载变化自动调整计算任务,确保资源利用大化,提高系统性能和稳定性;通过全面的故障诊断和监控机制,实现快速故障侦测与容错,确保业务持续稳定运行。
云-边-端的模型部署:
一键式自动化部署,迅速将模型从开发环境推送至生产环境;支持云-边-端的部
下一页
返回列表
返回首页
©2025 人工智能世界_专注人工智能领域,汇集人工智能技术资料 电脑版
Powered by iwms