2025年9月11日至13日,上海创智学院举行首届创智未来大会,重磅发布7项AI创新成果,涵盖认知智能、情境智能、具身智能、AI基础设施等科研方向和探索前沿,充分展现学院在人工智能发展上的“尖兵”作用。9月20日起,我们将发布这些成果的深度解读文章,邀您一同感受科技前沿的力量。
智能终端是将我国数字技术突破与制造优势、市场优势更好结合的最佳“反应界面”。随着多模态、强推理、高能效等端侧大模型技术拐点的到来,数十亿终端将迈入大模型时代,实现人机交互范式的根本性变革。
然而,动辄百亿参数规模的大模型部署对端侧设备的计算能力、功耗和存储空间都提出了巨大挑战。将模型安装终端本地环境后,模型性能损失、推理速度太慢、功耗效益低下等困境将影响智能消费终端的发展,限制比如自动驾驶感知决策、AI 手机/电脑智能助手、具身智能实时交互等场景的落地效果。
此次“端模型+端软件+端IP”智能终端一体化解决方案,以顶尖的终端AI系统,在更加苛刻的硬件资源限制下,深度协同了应用场景,实现算法模型、推理引擎、系统调度、芯片架构的全链路优化闭环。
一、端模型 Megrez v2.0:更智能、更快速,还有更强能动性
Megrez v2.0正式版创新提出终端本征架构,引入了重参数机制,将若干个相邻MoE层划成一组,复用Expert专家参数,使模型在有限资源下兼顾能力广度与响应效率。模型在多项基准测试中表现突出,数学推理、代码生成与多轮对话能力显著增强,与业界同参数量的模型对比,在MMLU、GPQA、IFEval、MATH - 500 等多项关键指标平均实现近17%的提升。同时推理速度相比同规模模型提升2-10倍,支持更流畅的端侧交互体验。
Megrez v2.0正式版支持Agentic RL端到端训练。在演示环节,戴国浩向现场观众展示了Megrez v2.0正式版在终端笔记本电脑合盖休眠后的离线环境下,自主完成智能体多步骤任务规划与执行的全过程。戴教授在电脑合盖之前给出语音指令“整理今日会议记录”,随后关上电脑,经过3分钟后再开启时,现场观众们惊喜地发现,日程安排、跨文档信息整合与实时决策的成果,已经完整呈现在了电脑屏幕上,精彩展现出了Megrez v2.0正式版的端本征智能体能力。
二、端引擎 Mizar v2.0:携手教育大模型,打造行业标杆应用
在上海市经信委“智能教育应用示范”项目支持下,上海创智学院基于与无问芯穹共建的“创智无穹·智能终端联合实验室”,并与英和智临深度合作,共同打造教育一体机解决方案。英和聚焦硬件产品设计,打造基于 AMD AI Max 395 平台的端侧算力盒子,运行由上海创智学院与华东师范大学联合研发“启创·InnoSpark”人工智能教育大模型,聚焦素养导向的教学设计。并由无问芯穹提供自研的推理引擎 Infini-Mizar 2.0进行支撑,实现端侧推理速度突破 45 token/s,即使在低功耗环境下也能流畅运行大模型,全面支持个性化互动教学、教研教案设计等关键功能,为教育场景注入智能新动能。
三、端硬件 Merak v2.0:高智能大模型的本地高能效推理
Merak 是自研的第二代大模型推理处理器(LPU)IP,专注支撑高智能端模型的本地高能效推理。早期版本已成功实现在单块 FPGA 上完成大语言模型与视频生成模型的高效运行,其背后的技术成果更是首次以“全华班”阵容斩获FPGA 最佳论文奖。
在活动上,戴国浩带来了 Merak v2.0 版本的正式发布。新版本对 Transformer 架构进行深度优化,基于RISC-V架构实现大模型专用指令集的动态扩展,支持BF16、W4A8等混合精度,在保证推理速度不损失的前提下,可稳定运行DeepSeek 等强推理模型,有望应用于FPGA一体机等创新产品。
戴国浩表示:“Merak v2.0的推出实现了终端智能推理的极致能效比,希望与产业链上下游一起,共同探索3D堆叠芯片的产业化落地。”
四、以终端软硬适配优化中试平台,促本征智能协同发展
大会同期,上海创智学院集结了上海首个人工智能终端软硬适配优化中试平台联盟企业,举办了一场“人工智能终端的产业发展与技术趋势”WorkShop,汇聚产学研精英,共同探讨端侧智能的前沿动态与生态路径。上海市经信委领导及上海创智学院领导致辞开幕,学院全时导师戴国浩出席,产业导师曾书霖发布了AIPC中试平台项目。来自信通院、联想集团、英和智临、中兴通讯、理想汽车、爱芯元智、江城实验室的产研代表们齐聚一堂,共同探讨终端芯片、模型与系统,以及相关领域中的前沿技术在AI手机/电脑、自动驾驶、教育硬件等场景中的软硬协同挑战与优化路径,推动形成跨领域协同创新机制。
此次活动,不仅在上海创智学院搭建了一个产研协同创新的交流平台,更展现了院企合作模式的创新在推动人工智能技术革新与产业融合方面的独特价值,为上海乃至全国的人工智能终端产业发展提供了重要的思想引领和路径参考。