您现在的位置是:热点 >>正文
国际最新AI基准测试SPEC ML首提模算效率,填补大模型计算效率评测空白
热点12人已围观
简介北京2025年1月8日 /美通社/ -- 日前,国际标准性能评估组织SPEC公布了AI基准测试SPEC ML最新进展,该基准已完成面向不同AI负载下的软硬件系统的性能、扩展性和模算效率三大关键指标构建 ...
北京2025年1月8日 /美通社/ -- 日前,国际国际标准性能评估组织SPEC公布了AI基准测试SPEC ML最新进展,最新该基准已完成面向不同AI负载下的基准软硬件系统的性能、扩展性和模算效率三大关键指标构建。测试测空其中模算效率首次纳入SPEC ML基准评测,首提算效将填补大模型计算效率评测基准领域的模算研究空白。
随着人工智能更加广泛的应用,为AI/ML建立强大的填补基准测试比以往任何时候都更加重要。SPEC ML基准委员会主席Arthur Kang表示,大模统一的率评基准评测方法不仅有助于简化模型比较,还将为注重效率、国际准确性和可持续性的最新创新铺平道路。目前AMD、基准英特尔、测试测空NVIDIA、首提算效浪潮信息、NetApp和Red Hat等科技企业正在共同参与开发 SPEC ML基准测试,SPEC呼吁更多伙伴参与到项目中,通过产业上下游的合作,为大模型的开发应用树立新的性能评估标杆,为AI技术的高效、绿色、可持续发展注入新动力,共创更加繁荣与可持续的AI新时代。
近年来,随着预训练模型的快速发展,人工智能领域迎来了显著的技术进步。这些模型通过大规模数据集的预训练,并结合微调技术来适应不同任务,在自然语言处理和计算机视觉等多个领域取得了显著成效。然而,随着模型结构和参数量的日益复杂,其在不同软件框架和硬件平台上的表现存在差异,如何全面、公正地比较模型、算力系统的综合性能变得愈加困难。为了在不增加大规模计算资源投入的情况下提升模型的准确性和效率,建立统一的基准测试体系已成为AI领域的迫切需求,这不仅可以帮助开发者选择最适合的技术方案,还能为优化计算资源利用、降低碳排放提供科学的参考依据。
但当前业界在模型、框架和硬件协同效能评估方面存在显著空白,缺乏统一的评估基准,评估过程难以量化,导致开发者难以做出最优的技术选择。尤其是在大型模型的训练和推理过程中,计算资源和能源的消耗成为行业面临的重要挑战。如何在满足性能需求的同时优化计算资源的利用,降低能源消耗,是当前研究和应用的关键所在。为此,SPEC ML首次提出将模算效率纳入基准评测,模型本身精度越高、在对应软件上对硬件性能利用率越高、推理及训练所需算力越小,模算效率越高。模算效率的评价对象涵盖了AI大模型、运行框架和硬件算力平台的一整套软硬件系统。
模算效率的首次提出,将增强不同预训练模型、软件框架和硬件系统之间的可比性,促进模型与硬件的协同优化,推动AI计算系统的能效提升和技术创新:
- 提升可比性与公正性:统一的基准测试标准能够提供公平的评估平台,帮助开发者、研究人员和企业通过可量化的指标对不同模型、框架和硬件平台进行公正比较。
- 促进模型与硬件的协同优化:通过标准化的基准测试,不仅能提高模型的效能,还能指导硬件平台与软件框架的协同发展。通过合理配置计算资源,可以在保证高效性和准确性的前提下,减少不必要的计算开销,从而降低成本和碳排放。
- 推动绿色发展与可持续性:随着模型规模和计算需求的增长,能源消耗和碳排放问题日益严峻。标准化的基准测试能够帮助行业识别效率低下的环节,促进绿色计算技术的发展,推动AI技术朝着更可持续的方向发展。
- 激发创新与优化:明确的评估标准为开发者提供了方向,能够帮助开发者识别现有技术的瓶颈,进一步推动技术突破和创新。通过标准化的测试,软硬件的开发中可以更加专注于如何提升模型的效能和计算效率,而不是陷入复杂且不一致的评估过程中。
Tags:
上一篇:希尔顿集团主厨季再度开启
下一篇:前海设专岗 招聘港澳毕业生
相关文章
如何让残障人士敢于出门,且无碍通行?
热点《北京市无障碍环境建设条例》中明确规定,视力残疾人持视力残疾人证、导盲犬工作证可以携带导盲犬进入公共场所、乘坐公共交通工具,有关单位和个人不得拒绝。11月1日起北京公共场所不得拒绝持证导盲犬相关条例实 ...
【热点】
阅读更多陕西省第四届家庭教育高峰论坛举行
热点陕西省第四届家庭教育高峰论坛12月7日在西安曲江国际会议中心隆重举行。与往届不同的是,今年适逢主办方西安博硕文化培训学校成立20周年,论坛的内容更加丰富多彩。君学中国教育集团、江苏环亚国际教育集团、苏 ...
【热点】
阅读更多四川旅游学院携手豪威马术俱乐部展示马术运动
热点4月11日下午,四川旅游学院第九届休闲运动文化节开幕式如期而至。学校副校长白洁、学工部学生处)副处长朱红萱、教务处副处长袁春平、团委副书记王也文、吕龙,运动与休闲学院党总支书记陈国林、院长许军、副院长 ...
【热点】
阅读更多
热门文章
最新文章
友情链接
- 租电深入大学校园,旨在实现充电宝真正的共享
- 岩韵芬芳 密云龙盛装亮相上海秋季茶博会
- 香港置地携手嘟嘟E家 畅想未来智能生活
- 未来三年将新建改扩建旅游厕所6.4万座 厕所质量会更好
- 国家品牌凉茶领跑者加多宝,开启“国民凉茶”新时代
- 向会计专业进发:香港理工大学专业会计硕士课程
- 天巡Skyscanner将联合Trip.com 为用户提供个性化旅行建议
- 用取暖器与秋裤作对,美的环电牵手金靖玩转电商直播
- 用取暖器与秋裤作对,美的环电牵手金靖玩转电商直播
- 微银理财:租房可贷款,你还买房吗?
- 切入医疗支付场景 快捷通为盈康护理院、养老院和永慈康复医院提
- 生物柴油B5试点启动 餐厨废弃油脂成为了资源
- 宁波市一所小学公共区域没有垃圾桶 但是卫生很好
- 宁波市一所小学公共区域没有垃圾桶 但是卫生很好
- 欧盟驻华代表团"环保好骑心2024"圆满落幕