国产x86!兆芯打造AI训练推理一体方案 双路64核心
扫描二维码
随时随地手机看文章
5月14日消息,兆芯与算能联合SOPHON.TEAM生态,基于自家处理器,构建了一套可高效落地的AI训练、推理一体化整体解决方案,可解决企业部署深度学习应用人力成本高、技术难度大、开发周期长、迭代能力差等难题。
这套方案面向真实业务场景,分为硬件层、软件层、数据层。
硬件层包括包括x86架构的兆芯开胜KH-40000系列服务器处理器,以及TPU处理器、推理微服务器、智算卡等算能自研算力产品。
软件层部署训练平台和推理平台,集算法训练与推理部署等能力于一体。
数据层通过视频采集、数据清洗、数据标注等操作,进行数据的训练和推理。
这套方案以AutoML零代码自动化训练平台为基础,可帮助用户通过简单的操作,自主完成模型创建、数据标注、模型训练、模型测试、模型部署等全流程,实现快速、高效的深度学习工程化落地。
用户还可以根据实际需求自主生产、部署所需算法,并根据业务场景需求自动化迭代精度,显著优于硬件与固定算法绑定的传统方案。
应用场景——
1、构建现代立体化视频图像巡检体系
采取数据增强策略,针对性生成移动小目标识别等相关深度学习算法,多帧过滤、多次检测,弥补无人机视角下移动目标过小、检测难度大等不足,进行精准识别,可以快速、准确地识别出巡检区域内的特定目标。
2、提升网络基础设施智能化管理,以及故障风险预警能力
通过智能化监测系统,收集基础设施的运行数据,并借助AutoML自动化训练平台对机房和基站等场景的基础设施进行数据分析和建模,从而实现故障和安全隐患的预测和预警,进一步提前对发生故障和风险事件的可能性进行判断和排除。
相关产品——
1、算能智算卡SC7
面向深度学习推理的算力卡,已完成与兆芯开胜KH-40000系列服务器处理器的适配认证,高效适配市场上主流深度学习算法。
可用于视频结构化、人脸识别、行为分析、状态监测等应用,为智慧城市、智慧交通、智慧能源、智慧金融、智慧电信、智慧工业等领域。
2、联想开天KR722z G2服务器
搭载双路开胜KH-40000/32处理器,共64个核心,支持12个前置3.5寸或24个2.5寸热插拔硬盘,以及4个后置热插拔硬盘,内存容量最高支持2TB。
整机采用冗余的散热功能,可选电源功能设计,提供强大算力的同时,可保障业务连续稳定运行。
3、联和东海XRS 302系列服务器
搭载双路开胜KH-40000/32处理器,32个内存槽位最大支持2TB,多种规格PCIe接口可支持GPU算力卡等硬件扩展。
适用于OA/邮件服务、数据库服务、存储服务、云平台计算节点,AI 算力服务、推理服务等应用场景。
此外,基于兆芯处理器平台的AI教育解决方案,已经在华南理工大学工程训练中心AI实验室顺利部署上线。
该方案进一步完善了学校的AI教学模式,能够帮助学生模拟和探索AI在真实场景中的应用,进行机器视觉、自然语言处理、深度学习等方面的实践。