AI与物联网趋势并起 颠覆嵌入式设计思维

有别于一般泛用型的PC架构，嵌入式系统的定义，是为特定用途所设计的IT系统，近年来嵌入式在特定领域的发展加速，与过去相较，无论是深度或广度都有长足进展，主要原因除了IT技术本身的精进外，应用产业不断拓展出新的功能需求也是主因，尤其是应用面，在市场竞争日益激烈的态势下，无论是消费性或非消费性设备供货商，都必须善用IT技术力量，强化本身竞争力，因此嵌入式系统的市场需求与日俱增，而在需求与供给双方相互拉抬下，嵌入式产业的发展来到史上高峰，未来几年在AI与物联网的驱动下，预计将持续成长。

商机后势可期 厂商卡位AI市场

AI是2017年IT产业的焦点议题，多数研究机构与产业都认为AI不但会与嵌入式系统整合，而且在部分应用中，具有AI功能的嵌入式设备将串联成物联网架构成为AIoT系统，而AIoT系统中，不仅上层的云端平台会具有运算能力，终端的嵌入式设备，甚是设备中的组件，也都会有一定程度的AI设计，进而形成庞大商机，也因此目前各大芯片商都早已开始投入AI芯片的布局。

AI芯片在嵌入式系统的应用相当广，从数据中心、终端设备(智能手机、平板计算机、穿戴式装置...等)、垂直特定产业(制造、交通、医疗...等)，都将是目标市场。投入的厂商也众多，以架构来看，浮点运算、同步并行运算非常适用于人工智能的深度学习神经网络，因此具有这些特点的GPU，也成为这波AI热潮的重要运算架构。

但在此趋势中CPU也未缺席，尤其是Intel在2017年中分别推出独立AI加速器Movidius Neural Compute Stick与Myriad X视觉处理器(Vision Processing Unit;VPU)，前者内建了Myriad 2视觉运算单元，在1瓦电力下可完成每秒1,000亿次浮点运算，后者则是全球第一个配备神经运算引擎(Neural Compute Engine)的系统单芯片，可用于加速产品端的深度学习推理。

除了两家处理器大厂，Google也在2017年推出订制化的ASIC AI芯片TPU，专为机器学习设计，Google的TPU主要用于改善搜寻结果的相关性与提高Google街景服务地图和导航功能正确度，由于TPU是专为特定用途设计的特殊规格逻辑IC，只执行单一工作，所以速度更快，但缺点是成本较高。

除了GPU、CPU外，其他处理架构如FPGA、DSP等厂商，也都积极投入AI市场，而就发展来看，仍未看出那一类运算架构会成为市场主流，服务器的应用目前仍以CPU为主，不过现在NVIDIA也开始跨入发展，至于终端嵌入式设备市场，无论是体积、功耗、价格，其市场需求都比服务器更严苛，因此难度会更高，不同的应用会需要不同运算架构，因此未来处理器在嵌入式终端市场的应用将更为多元，不会出现一家寡占的状况。

加速物联网布建 组件走向智能化

除了AI之外，物联网也会是未来嵌入式系统的重要发展，物联网概念在IT产业已将近10年，虽未如当初研究机构出现爆发性成长，不过已陆续有产业导入，在物联网架构中，嵌入式设备主要应用于底层，像是零售业的POS、医疗业的手持式平板计算机、制造业的工业计算机...等，这些嵌入式设备过去多为独立式运作，即便有连网功能，也都仅与上层架构链结，传送系统运作数据，设备之间彼此并未连结为绵密的物联网架构。

近年来物联网概念逐渐普及，在多数产业导入后，过去制定的物联网架构开始因应企业实务运作转型，就目前发展来看，架构在物联底纹层的嵌入式设备，将会有两大改变，包括快速导入和智能对象。

在快速导入部分，过去系统中的设备数量少，系统建置并不难，但物联网系统号称万物皆连，大量撷取第一线设备的讯号，累绩成大数据后，让上层的云端平台的运算更趋精准，因此在物联网系统中，第一线设备的部件相当重要，在消费性领域如智慧家庭，其设备可以逐步连结，但在地域庞大像是大型医院、工厂等，其链接的嵌入式装置数量有可能上达千台，要在一定时间内布建，其难度相当高，尤其是较旧的机台，要将感测讯息连上网，更对系统人员带来严苛挑战。对此困境，旧型设备必须藉由外接模块与上层链结，机型较新的嵌入式设备，则多已有连网功能，现在物联网仍多使用3G、4G、Wi-Fi等通讯技术，要链接上网并不难，但如何让传回的数据具正确性，就必须靠智能对象的设计。

智能对象的设计有两部分，包括边缘运算和组件AI化。边缘运算是让位处系统终端的嵌入式设备有一定运算能力，设备先行预处理过数据后，再将结果传回云端平台，边缘运算除可降低后端处理器的工作负载外，前端整理过的数据量也会大幅减少，若是采用3G、4G等通讯技术的系统，就可降低传输费用。组件AI化则是让嵌入式设备内的零组件如储存装置、人机接口等，具有AI功能，使其可侦测设备状态，提升系统运作效率，例如播放高画质影音档案时，储存装置可从数据的读取次数，运算出运作模式，进而调整设备状态，预先处理读取扇区，使整体系统运作更稳定且快速。

AI与物联网是近两年嵌入式领域的重要趋势，而业界多认为这两者将会快速整合，翻转过去IT架构的功能走向，在此态势下，无论是单一设备或整体系统，嵌入式设计者必须有全新思维，一直以来嵌入式系统的设计都以市场需求为设计导向，在AIoT时代，系统使用思维将全部翻转，设备内部的组件功能更细更具智能，外部的系统整合则必须更紧密且多元，如此方能因应新时代的市场需求，设计出优化嵌入式系统。