不断刷新纪录的面壁高效端侧多模态模型来了,AI PC正迎来高能时刻!
扫描二维码
随时随地手机看文章
11月26日,英特尔新质生产力技术生态大会(Intel Connection)在成都举办,面壁智能作为英特尔重要战略合作伙伴,以端侧模型厂商代表出席生态大会,并演示了基于英特尔最新一代桌面级旗舰芯片深度适配和加速的多模态端侧模型。
本届英特尔新质生产力技术生态大会云集了大模型、AI计算、AI 应用的行业高管、技术专家、专业开发者代表,共同探索端侧AI的最新技术趋势,特别是AI PC为代表端侧硬件的创新成果与案例。在生态大会专题论坛现场,面壁智能副总裁缪钧玮发表了“面壁小钢炮:高效端侧多模态模型,AI PC的高能时刻”的专题演讲。
缪钧玮分享道,面壁智能团队正在与英特尔伙伴团队一起紧密合作,面壁小钢炮MiniCPM端侧模型正在全系适配酷睿Ultra旗舰芯片。面壁研发团队充分利用英特尔新一代旗舰芯片性能显著增强的AI计算加速单元,充分吃透英特尔更高效的异构AI计算微架构,在芯片底层进行计算资源的调度优化、推理框架深度适配。在英特尔OpenVINO工具的支持下,以高效著称的面壁MiniCPM端侧模型,在AI PC上正在迎来「高能」时刻:AI推理提速167%,首Token延迟降低17%。
在专题论坛现场,缪钧玮深入介绍了MiniCPM 基座模型和多模态端侧模型。自今年2月份MiniCPM面世以来,不断刷新小参数模型在数学、代码、知识、Function Calling、RAG、单图/多图理解、高清OCR识图、实时视频理解的多维度性能和新功能纪录。
端侧模型面壁「小钢炮」MiniCPM 系列,包含基座模型 MiniCPM 和多模态模型MiniCPM-V 双旗舰,凭借以小博大、高效低成本的特性享誉全球,目前已经在性能上开启「端侧 ChatGPT 时刻」,多模态方向达到全面对标 GPT-4V 级水平。面壁智能正通过追求更高的知识密度(知识密度 = 模型能力 / 参与计算的模型参数)来提升大模型的智能水平,将高性能的端侧AI 带入千家万户、千行百业。
AI PC 是主流消费电子近年来最受瞩目的升级。高效端侧模型运行在最具生产力的计算平台PC,对于工作、学习、娱乐将带来深刻的变革。英特尔作为50多年全球用户最为熟悉和信赖的PC算力底座,面壁智能携手英特尔,MiniCPM将获得巨大的市场推动力,更快速、更有价值融入最广大用户的“桌面”。
在AI PC领域,英特尔正在引领市场前行。英特尔目前已出货了超过2,000万台AI PC设备,构建了拥有超过100家ISV、300多项AI应用、500多个AI模型的庞大生态系统。英特尔也在与OEM厂商密切合作,推出以酷睿Ultra处理器为核心的AI PC,同时实现了出色的性能和续航能力。
凭借基于强大x86架构的XPU带来的强大算力和广泛的软件生态优势,英特尔持续深耕本土AI应用的开发,携手面壁智能等生态伙伴落地知识助手、办公助手、娱乐助手、创作助手和垂类助手五大AI应用场景,并积极聚焦AI、商用、娱乐、计算、低碳这五大市场热点,努力满足用户的多样需求,带来更加卓越的使用体验。
在英特尔大会现场,来自多家合作伙伴的超过五百款产品及解决方案亮相展区,形成了一呼百应之势,充分展现了英特尔不断探索创新机会,深耕生态并推动AI PC行业发展的决心,为智能化生活带来无限可能。