昆仑芯全面适配智源AI硬件一体化评测引擎FlagPerf

发布时间:2023-08-25 09:50
作者:AMEYA360
来源:网络
阅读量:3685

  近日,昆仑芯与北京智源人工智能研究院(以下简称“智源”)面向多种AI硬件的一体化评测引擎FlagPerf完成阶段性适配。昆仑芯是FlagPerf首批生态伙伴,双方将强强联合,共同推进AI软硬件评测体系建设,赋能大模型技术创新能力提升,加速我国AI生态繁荣发展。

昆仑芯全面适配智源AI硬件一体化评测引擎FlagPerf

  FlagPerf是智源联合各大AI软硬件厂商建立的开源、开放、灵活、公正、客观的面向多种AI硬件的一体化评测引擎,可快速高效地对AI软硬件进行适配和评测,解决当前AI软硬件所面临的兼容性差、技术栈异构程度高、应用场景复杂多变等挑战。目前FlagPerf已经适配了涵盖CV、NLP、语音、大模型等领域的近20个经典模型,支持评测AI硬件的训练和推理能力,未来还将持续拓展支持模型数量和评测领域,包括不限于AI服务器、图计算各个场景,期望全面、立体地刻画厂商的软硬件实力,并通过不断迭代评测体系,紧跟AI产业发展浪潮。

  作为AI加速领域的领军企业,昆仑芯持续推进软硬协同技术创新,在短时间内高效完成了十数个模型的适配和调优工作,并在FlagPerf项目中全面开源。这批模型能非常高效地完成适配并发布,充分展现了昆仑芯优秀的泛化能力和软硬件兼容性,这主要得益于100%自研的昆仑芯XACC AI编译器(XPU AI Compiler Collection)。

  昆仑芯XACC AI编译器

  可自动帮助用户完成开源模型到XPU设备的迁移工作,并实现全自动性能优化,将XPU硬件算法发挥到极致;

  具有零代码侵入、零环境侵入的特点,用户无需修改模型代码,无需修改部署环境,即可将模型迁移到XPU设备;

  已全面支持Megatron、DeepSpeed等大模型训练框架,用户可以零成本适配最流行的LLM技术与模型。

  智源研究院是国际知名的人工智能前沿研究机构,在中国最早引领开展大模型研究,并率先倡导建设大模型开源生态。「悟道」人工智能大模型项目,连创“中国首个+世界最大”纪录,“悟道3.0”进入全面开源阶段。FlagOpen大模型技术开源体系,由智源联合多家企业、高校和科研机构共建,旨在共建共享大模型时代的“新Linux”开源开放生态。面向多种AI硬件的一体化评测引擎FlagPerf是FlagOpen的重要组成部分。

  针对智源大模型,昆仑芯已在悟道·天鹰(Aquila)语言大模型上完成了大规模推理性能验证,在悟道·视界EVA-CLIP视觉大模型上也实现了适配。

  此前,昆仑芯已正式加入智源FlagOpen(飞智)大模型技术开源体系,携手多家顶尖硬件企业与高校科研团队共建“北京国家新一代人工智能创新发展试验区AI开放生态实验室”,加速完善芯片软件生态建设。

  此次昆仑芯与智源FlagPerf完成适配是双方生态共建的又一重要里程碑。智源和昆仑芯将充分发挥各自优势,共同携手产业链上下游合作伙伴,促进技术、资源、场景等多方主体的合作,助力企业更好应对大模型应用时面临的算力不足、场景不够开放等问题,进一步推动我国大模型的技术研发和应用落地。

(备注:文章来源于网络,信息仅供参考,不代表本网站观点,如有侵权请联系删除!)

在线留言询价

相关阅读
昆仑芯与openEuler完成兼容性互认证,持续拓展国产算力生态协同
  近日,OpenAtom openEuler(简称 “openEuler” 或 “开源欧拉”)与昆仑芯P800系列产品完成兼容性互认证。双方围绕系统与设备识别、驱动及软件环境、链路与设备互联等关键环节开展验证,共七项子测试全部通过,验证了昆仑芯P800产品与openEuler在基础软硬件运行环境层面的兼容性,为国产算力产品在开源操作系统中的部署应用提供实践支撑。  此次认证是昆仑芯持续推进主流软硬件生态适配、深化生态协同的又一实践。通过与开源操作系统开展兼容性验证,进一步夯实算力产品与基础软件环境之间的协同基础,为后续开展AI框架适配、模型部署及业务验证创造条件。  深化软硬件适配,推动算力生态协同发展  随着AI算力应用不断拓展,算力产品的实际落地不仅依赖硬件能力,也需要操作系统、驱动、软件环境及设备互联等基础设施的协同支撑。软硬件兼容性是保障算力平台稳定部署和应用运行的重要基础。  本次兼容性互认证围绕系统识别、软件环境部署及链路互联等环节展开,重点验证openEuler对昆仑芯P800产品的识别能力、驱动与SDK部署情况,以及主机与设备、设备与设备之间的链路及互联能力。  测试结果显示,openEuler系统能够正确识别昆仑芯P800,驱动与SDK部署顺利,设备状态正常,设备互联相关测试均达到预期,七项子测试全部通过。  测试首先记录了操作系统基础信息,确认openEuler运行环境可用:  驱动安装完成后,系统可正确识别昆仑芯P800,并确认设备已绑定对应内核驱动、设备状态正常:  本轮验证覆盖基础运行环境中的多个关键环节,进一步打通国产AI加速卡与开源操作系统之间的软硬件协同通路,为算力产品融入多元化技术生态、拓展应用场景提供实践参考。  持续拓展主流生态适配,完善国产AI软硬件协同体系  人工智能产业的快速发展,正在推动算力生态从单一硬件能力竞争,向芯片、操作系统、AI框架、模型及应用等多层次协同演进。完善的软硬件生态适配能力,是降低用户部署门槛、提升算力应用效率、推动国产算力规模化落地的重要支撑。  围绕AI算力生态建设,昆仑芯持续推进与主流软硬件生态的适配与协作,现已构建覆盖基础软件、AI框架、模型及应用场景的完善的国产AI软硬件生态圈。在基础软件生态层面,昆仑芯积极推进与主流操作系统及相关软件环境的兼容验证,持续夯实算力产品的基础运行环境;在AI框架与模型生态层面,围绕主流框架及大模型开展适配、优化与部署验证,推动模型能力在昆仑芯算力平台上的应用;同时,通过与生态伙伴开展联合适配与技术协作,提升软硬件协同效率,促进适配成果向更多业务场景延伸。目前,昆仑芯已围绕多类主流软硬件生态开展适配与协同实践,持续拓展生态合作范围,推动算力能力与上层软件、模型及应用之间的衔接。  此次与openEuler完成兼容性互认证,是昆仑芯持续拓展主流软硬件生态适配范围的又一实践。通过基础运行环境验证,进一步夯实了昆仑芯算力产品与开源操作系统之间的协同基础,也为后续开展更深层次的软件适配与业务验证创造了条件。  未来,昆仑芯将持续加强与主流操作系统、AI框架、模型生态及产业伙伴的合作,推进软硬件适配成果积累与生态能力建设,逐步完善从底层运行环境到上层模型应用的协同体系,推动国产算力与开放软件生态深度融合,为用户提供更加开放、便捷、高效的算力应用环境,助力人工智能产业创新发展。
2026-10-21 09:52 阅读量:179
深化芯模协同,共筑开放AI生态|昆仑芯完成阶跃星辰Step 5 Preview模型Day 0适配
  今日,基础大模型公司阶跃星辰正式开源新一代旗舰基座模型Step 5 Preview。模型开源当日,昆仑芯即完成对Step 5 Preview的适配与联合精调,成为首批完成该模型适配的国产算力厂商之一,展现了面向前沿大模型的快速响应能力与生态兼容实力。据悉,Step 5 Preview模型面向长程Agent任务设计,采用稀疏MoE架构,总参数量达600B,每个Token仅激活27B参数,支持100万Token上下文窗口,并原生支持文本与视觉输入,在AI编程、软件工程、专业知识工作、金融等场景中表现突出。近期,Step 5 Preview在OpenRouter周调用量和日调用量榜单中均位居全球第二。此次适配过程中,昆仑芯围绕Step 5 Preview的模型架构与关键算子开展针对性优化,结合其超长上下文、稀疏MoE等技术特点,通过底层算子优化与软硬件协同,提升模型运行效率、稳定性与资源利用水平,为复杂智能体任务提供高效算力支持。  软硬协同优化,提升模型适配与部署效率  此次与阶跃星辰围绕Step 5 Preview开展Day 0适配,是昆仑芯深化主流模型生态合作、提升芯模协同能力的又一实践。快速适配能力的背后,是昆仑芯长期积累的软件生态基础。  昆仑芯持续完善自研软件栈,构建覆盖底层驱动、开发工具SDK、专业库等核心组件的软件体系,并围绕主流模型架构与AI开发生态开展适配和优化,为模型迁移、性能调优及规模化部署提供软件支撑。  依托成熟的软件栈与软硬件协同优化能力,昆仑芯能够面向不同模型架构及应用需求快速开展适配,降低模型迁移与部署成本,缩短模型从发布到算力平台落地的周期。在保障模型稳定运行的同时,进一步提升开发者的模型开发与应用部署效率,为前沿大模型快速进入实际应用提供高效、灵活的算力环境。  持续保持Day 0适配,构建开放协同的模型生态  随着大模型迭代速度不断加快,模型从发布到应用落地的周期不断缩短,对算力平台的快速适配能力与生态兼容性提出了更高要求。除了及时响应单个模型的发布,算力平台还需要不断拓展模型适配范围,满足不同开发者及应用场景的多样化需求。  近一年来,昆仑芯紧跟主流开源模型发展,已完成对头部厂商40余款旗舰模型的快速适配,覆盖文本、多模态、图像生成等多个方向,推动“发布即适配”逐步成为常态。在持续提升模型适配效率的同时,昆仑芯不断丰富平台支持的模型类型,拓展生态兼容边界,为开发者提供更广泛的模型选择与算力支持,助力前沿模型加速落地应用。  面向未来,昆仑芯将进一步加强与国产模型企业及生态伙伴的合作,以“国芯+国模”协同发展为契机,强化对前沿模型架构、算法及应用场景的适配能力,通过软硬件协同优化提升模型与算力平台的适配效率,推动更多前沿模型高效运行于国产算力平台,共建开放协同的国产AI生态,助力AI应用加速走向千行百业。
2026-10-15 13:29 阅读量:245
昆仑芯完成RLinf适配验证,拓展具身智能强化学习开源生态
  随着具身智能加速从技术探索走向规模化研发,强化学习正在成为提升机器人自主决策与任务执行能力的重要技术路径。与此同时,具身智能研发对算力平台的兼容性、分布式训练能力以及训练、仿真、推理协同提出了更高要求。  近日,昆仑芯完成具身智能强化学习框架RLinf适配验证,覆盖单节点训练、多节点协同、训练与仿真分离、训练与推理分离等典型场景,并完成Pi系列模型在LIBERO任务上的训练复现,进一步拓展昆仑芯在具身智能强化学习领域的开源生态支持。  接入主流开源框架,拓展应用支持  RLinf是面向具身智能的“仿训推一体化”大规模强化学习框架,由清华大学、无问芯穹联合发起,于2025年9月开源。框架面向具身智能与智能体场景,提供覆盖仿真、训练和推理的统一强化学习基础设施,旨在打通渲染、训练、推理等环节,为开发者提供从仿真环境交互到策略更新的完整强化学习流程,目前已在机器人等相关场景中开展应用。  此次适配中,昆仑芯基于RLinf模块化的硬件接口设计,通过标准插件方式完成Kunlunxin XPU后端接入,无需修改框架既有实现,即可将昆仑芯算力纳入RLinf运行体系,进一步打通设备管理、任务调度与分布式通信等关键环节。  在设备管理与任务调度方面,昆仑芯完成Kunlunxin XPU设备发现、资源配置及Ray调度适配,确保训练任务能够准确使用实际分配的算力资源;在分布式通信方面,以XCCL作为通信后端,支持AllReduce、AllGather等多卡集合通信,打通单节点及多节点强化学习任务的运行基础。  基于上述适配,昆仑芯P800能够在RLinf框架下开展单节点、多节点以及训练、仿真、推理分离等多种运行模式验证,为具身智能强化学习任务提供更加灵活的国产算力支持。  覆盖多种部署模式,提升资源调度灵活性  具身强化学习涵盖训练、仿真与推理等多个环节,对算力资源的配置方式提出了更高要求。基于RLinf,昆仑芯P800完成多种部署模式的适配验证。  其中,在训练与仿真分离模式下,Actor、Rollout部署于训练节点,Environment部署于独立仿真节点,实现训练与仿真资源的独立配置;在训练与推理分离模式下,策略训练与动作生成部署于不同设备,减少不同任务之间的资源竞争。  通过灵活的部署方式,昆仑芯P800进一步拓展了具身强化学习场景下的算力组织方式,为不同规模任务提供更加灵活的资源配置能力。  完成Pi 0.5适配验证,验证具身强化学习应用能力  在实际任务验证中,昆仑芯P800已完成LIBERO Spatial、Object和Goal等任务配置的适配验证。其中,Pi 0.5相关配置覆盖单节点8卡与双节点16卡环境,完成从单节点训练到多节点协同的运行验证。  在libero_spatial_grpo_openpi_pi05配置下,昆仑芯P800完成Pi 0.5模型在LIBERO Spatial任务上的强化学习训练与仿真评测。测试结果显示,在第70个训练step,模型任务成功率达到99.77%,强化训练曲线整体与公开结果呈现相同趋势;相比强化学习训练前,训练后策略成功率提升12.27%。  从训练到仿真评测,昆仑芯P800已跑通基于RLinf的完整强化学习流程。开发者可以沿用RLinf现有开发方式,在昆仑芯平台完成模型训练、策略优化与任务评测,为进一步开展具身智能强化学习研究与应用提供算力支撑。  优化分布式通信,降低多节点同步开销  在具身强化学习任务中,模型权重需要在训练与Rollout等环节之间频繁传递,通信效率直接影响整体运行效率。针对多节点训练中的权重同步开销,基于P800平台进一步优化跨节点通信链路,通过引入混合通信方案提升权重传递效率。  测试结果显示,单节点首个step的权重同步耗时由14.710秒降至3.006秒,多节点首个step由299.0秒降至6.510秒;在后续训练step中,相比仅使用Gloo,混合通信方案仍可节省约40秒的权重同步时间。  上述结果表明,经过通信链路优化,昆仑芯P800能够有效降低多节点强化学习任务中的同步开销,为具身智能强化学习的分布式运行提供更高效的通信支撑。  持续完善开源生态,助力具身智能适配  此次RLinf适配,是昆仑芯持续推进软硬件协同、拓展开源生态的重要实践。  从基础软件、AI框架到模型与应用,昆仑芯持续推进与主流生态的适配、优化与验证,不断拓展算力平台的兼容范围。通过对主流AI框架、大模型及具身智能相关框架的持续适配,昆仑芯不断完善软硬件协同能力与开发环境,降低开发者在国产算力平台上的迁移与验证成本。  目前,昆仑芯已完成包括RLinf在内的强化学习系列框架适配,并推动相关支持贡献至社区主线。未来,昆仑芯将持续加强与开源社区、具身智能产业链及开发者生态的协同,持续拓展主流框架与模型适配,完善软硬件协同的开发环境和生态体系,推动更多模型、框架与应用在昆仑芯平台高效运行,为机器人企业、科研团队及开发者提供更加开放、兼容的国产算力支持。
2026-09-30 16:52 阅读量:293
芯模共生,生态共建:昆仑芯联合FlagOS实现MiniCPM5-2B模型Day 0部署
  近日,面壁智能联合OpenBMB正式开源新一代端侧模型「小钢炮」MiniCPM5-2B。作为面向端侧场景打造的新一代小尺寸模型,该模型原生支持混合思考、512K超长上下文,并具备工具调用、深度搜索、代码生成等智能体能力,可进一步拓展至手机、PC、智能座舱等多元端侧设备。  模型开源后,昆仑芯联合FlagOS,率先完成MiniCPM5-2B的Day 0适配与推理验证。  此次适配展现了昆仑芯面向前沿开源模型的快速响应能力。依托持续完善的软硬件协同体系,昆仑芯能够紧跟主流模型迭代,并通过与FlagOS的生态协同,进一步提升模型适配效率,缩短新模型从开源发布到国产算力平台可用的时间。  开源即适配,昆仑芯联合FlagOS实现模型高效部署  大模型快速迭代的今天,从“模型发布”到“算力可用”的时间窗口正在不断缩短。对于开发者而言,新模型发布后能否快速完成不同算力平台上的适配、部署与性能验证,已经成为衡量算力生态响应能力的重要指标。此次MiniCPM5-2B开源后,昆仑芯联合FlagOS快速完成模型的适配与推理验证,实现了开源即适配、开源即部署。在适配过程中,昆仑芯围绕模型运行涉及的算子、推理框架及运行环境开展逐一验证与优化,依托持续完善的软件体系和软硬件协同能力,推动模型在快速在昆仑芯平台实现稳定运行。与此同时,FlagOS通过统一算子库、编译器及推理插件等软件能力,为模型适配提供统一的软件支撑,进一步降低前沿模型跨芯片适配的复杂度。基于统一多芯片软件栈,此次MiniCPM5-2B的适配成果还可通过FlagRelease发布多芯片模型版本,进一步提升适配成果的复用效率。  软硬协同,昆仑芯持续提升适配效率  大模型适配并非简单地让模型“跑起来”。由于不同AI芯片在计算架构、算子支持、编译环境和软件栈等方面存在差异,新模型要实现稳定、高效运行,需要进行多层次的适配与优化。  对于昆仑芯而言,持续完善软硬件协同能力,提升模型适配与优化效率,是推动前沿模型快速落地的重要基础。  这一适配能力的背后,是昆仑芯长期积累并持续完善的自研软件体系。围绕开发者需求,昆仑芯构建了覆盖底层驱动、开发工具、SDK及专业算子库等核心环节的自研软件栈,为模型迁移、部署与运行提供完善的软件支撑。依托持续演进的软件能力,开发者能够以更低的适配成本和更高的部署效率,将前沿模型快速应用于实际场景。  此次MiniCPM5-2B适配过程中,昆仑芯依托自身软件体系和推理能力完成模型适配与验证,并联合FlagOS进一步提升适配成果的复用效率,为模型在国产AI芯片平台上的快速部署提供支持。  从单个模型的Day 0快速响应,到持续拓展主流模型生态,昆仑芯正不断拓展对前沿模型的兼容与支持能力,持续缩短模型从开源发布到国产算力平台落地的时间,让更多前沿模型能够更加高效地运行在国产算力平台之上。  深化生态协同,共建繁荣模型生态  随着大模型加速迭代,模型生态与算力生态之间的协同效率愈发重要。对于国产算力而言,除了具备稳定的硬件性能,还需要持续提升对主流模型的兼容与适配能力,才能更好承接前沿模型的发展。  昆仑芯正持续跟进主流开源模型迭代,不断提升模型适配与优化效率,当前已完成智谱GLM系列、Qwen系列、MiniMax、Kimi等多款主流模型的适配,持续拓展对主流模型生态的支持范围。  在不断提升自身适配能力的同时,昆仑芯也积极参与众智FlagOS社区等开源生态建设,通过与生态伙伴开展联合适配,推动模型适配成果进一步复用和共享,扩大国产算力对主流模型生态的支持范围。  未来,昆仑芯将持续提升前沿模型的适配与优化能力,深化模型、软件与芯片之间的协同,与生态伙伴共同推动更多前沿模型快速落地国产算力平台,助力构建更加开放、繁荣的国产AI生态。
2026-09-09 10:19 阅读量:372
  • 一周热料
  • 紧缺物料秒杀
型号 品牌 询价
TL431ACLPR Texas Instruments
BD71847AMWV-E2 ROHM Semiconductor
RB751G-40T2R ROHM Semiconductor
MC33074DR2G onsemi
CDZVT2R20B ROHM Semiconductor
型号 品牌 抢购
STM32F429IGT6 STMicroelectronics
BP3621 ROHM Semiconductor
TPS63050YFFR Texas Instruments
ESR03EZPJ151 ROHM Semiconductor
IPZ40N04S5L4R8ATMA1 Infineon Technologies
BU33JA2MNVX-CTL ROHM Semiconductor
热门标签
ROHM
Aavid
Averlogic
开发板
SUSUMU
NXP
PCB
传感器
半导体
相关百科
关于我们
AMEYA360微信服务号 AMEYA360微信服务号
AMEYA360商城(www.ameya360.com)上线于2011年,现 有超过3500家优质供应商,收录600万种产品型号数据,100 多万种元器件库存可供选购,产品覆盖MCU+存储器+电源芯 片+IGBT+MOS管+运放+射频蓝牙+传感器+电阻电容电感+ 连接器等多个领域,平台主营业务涵盖电子元器件现货销售、 BOM配单及提供产品配套资料等,为广大客户提供一站式购 销服务。

请输入下方图片中的验证码:

验证码