英特尔联袂百川智能,酷睿Ultra跑上Baichuan 2
扫描二维码
随时随地手机看文章
成立于2023年4月10日的百川智能,是一家致力于通用人工智能研发并提供相关服务的中国公司。百川智能推出的Baichuan-7B/13B、Baichuan2-7B/13B四款开源可免费商用大模型,为AI PC的大语言模型应用提供了优秀的本地化解决方案。
虽然都是AI,但前两年的AI、今年的AI与未来的AI实质并不相同。“深度学习”这一概念通过机器人战胜人类棋手为人所熟知,ChatGPT用“学习”到的知识“创造”内容,在这些现象的背后支撑起AI运算的是海量数据与超高计算能力。而在AI应用的另一端,NPU成为智能手机等终端设备优化照片拍摄的利器。
2024年是属于AI PC的元年,大幕在2023年年底拉开。面对一个新时代的到来,PC乃至更大范围的整个生态链上的企业都活跃起来,无论是努力破局的高通、使用ARM架构站稳脚跟的苹果、坚持APU路线的AMD,还是传统Wintel联盟的双雄,都集中在此刻发布或透露其围绕AI概念的PC平台产品。
AI应用的大爆发,早已不能用ML/DL/LLM或者AIGC这些相对具象的原生AI应用方向来涵盖,对应的不同AI应用也需要更多更灵活的AI加速硬件。特别是对PC这样一个通用平台,其通用性被放在价值的首位,x86更是以应用软件众多、向前兼容数十年等优势著称。在现有的应用上增加AI特性,如微软的Copilot渗透到从Windows到Office的诸多应用中,AI加速硬件的匹配与优化,将大大提升AI化的应用程序的使用体验。
在过去的几年,英特尔已经陆续在酷睿平台上标配了GNA音频加速器、IPU影像处理单元、支持DL Boost/DP4a的Iris Xe核显等AI硬件加速器,实现了在特定应用场景中对应的AI加速功能。正式发布的酷睿Ultra(Meteor Lake)更是英特尔PC平台全面转向AI化的开始,表面上更是增加了NPU这一全新的AI加速器;而微软也在此时释放出更多有关Windows 12这一AI化的Windows系统的最新消息,将OS层面对AI加速器的支持与优化,扩展到NPU层面,且包括但不限于Windows ML容器等现有Microsoft AI方案。
英特尔酷睿Ultra处理器是首款基于Intel 4制程工艺打造的处理器,代表了40年来英特尔架构最大的革新。它采用了先进的Foveros 3D封装技术,结合前沿的知识产权成果与先进的制程工艺,以优化相关模块的性能表现。
百川智能联合创始人、联席总裁洪涛表示,百川智能与英特尔合作,对模型在端侧进行进一步优化,使得百川大模型在酷睿Ultra的平台上良好运行。未来,百川智能将与英特尔持续探索大语言模型在端侧计算和AIGC领域的应用和发展。
酷睿Ultra携更多软硬件特性到来,底层的硬件架构既可以是CPU、GPU、VPU、FPGA,也可以是全新的NPU,甚至是更多的其他针对不同应用的硬件加速器。这些加速器可为包括百川在内的大模型提供直接的硬件推理能力,从而使更多模型的推理工作转移到PC平台,实现高效、安全的本地化运行。此前,英特尔已经宣布其酷睿产品可运行60亿参数的大模型,酷睿Ultra与百川大模型的组合,将进一步提升模型规模和运行效率。
目前,已经有包括剪影、天行者、璇米、爱奇艺、百川在内的众多国产软件厂商,第一时间推出或升级支持酷睿Ultra全新AI特性的产品。作为AI PC加速计划的一部分,超过100家独立软件供应商(ISV)和300余项AI加速功能将针对英特尔酷睿Ultra处理器进行专属优化,提供丰富的AI应用程序和框架。消费者则可在全新的酷睿Ultra产品上市伊始,就体验到AI带来的变化,无论是文字、脚本、图片、音频、视频等内容生成(AIGC)还是抠图、识别、交互等AI应用触手可及,再无软硬件相互等待之虞,尽享AI PC盛宴。