人工智能市场呈井喷式发展：可信任AI还有很长的一段路要走？

人工智能作为新一代产业革命的核心技术，受到主要大国高度重视。美国、俄罗斯、英国、法国等纷纷发布战略规划，力图抓住智能化浪潮带来的军事变革机遇，将人工智能融入军事现代化进程，随之而来的安全风险也引发国际社会广泛关注。

今年9月，联合国秘书长古特雷斯在第76届联合国大会一般性辩论中专门提及人工智能问题，呼吁禁止可在没有人为干预的情况夺走人类生命的自主武器。美国前任国务卿基辛格在其新书《人工智能时代》中警告，人工智能是人类迄今为止“最大的敌人”。美国SpaceX公司创始人马斯克也表示，我们对人工智能需要超级谨慎，它可能比核武器更危险。国际社会普遍认为，人工智能在掀起一场军事革命的同时，将在维护全球战略稳定、管控地缘政治竞争、打击恐怖主义、防范恶意网络攻击等方面带来巨大挑战。世界正面对着一项极为艰巨的全球治理课题，需要各国携手努力、共同应对。

美国作为全球人工智能产业规模和技术实力最强的国家，在应对人工智能军事应用带来的挑战与风险方面负有特殊责任。遗憾的是，美国出于一己私利，正将人工智能技术发展引向邪路。根据美国国防部最新发布的数据，2021财年美国对人工智能军事应用的投入达8.41亿美元。种种迹象显示，美国在快速发展智能化武器的同时，处心积虑打压、遏制别国和平利用人工智能技术。2019年2月，美国国防部发布部门人工智能发展战略，提出要加速国家军事智能化进程，以确保对威胁美国家安全的对手保持持久的军事竞争优势，并在人工智能军事应用领域引领伦理道德标准，在全球推广美式价值观。2020年2月，时任美国国防部长埃斯帕称：“美国必须与盟国和合作伙伴一道加快人工智能应用并在国家安全方面处于世界领先地位，以维护其战略地位、战场制胜能力和基于规则的国际秩序。”2021年3月，美国人工智能国家安全委员会发布报告，指责他国人工智能军用应用缺乏伦理约束，提出美国应该继续要求其他国家做出相似安全承诺，这有利于在道义上压制它国的军事智能化进程。美国以意识形态划线、泛化国家安全概念的做法，根本目的是维护自身军事霸权和国际规则领导权，这将加剧意识形态对立和国家间猜忌，割裂世界，给国际对话与合作制造政治障碍。

与美国不负责任行为形成鲜明对比的是，近年来中国多次就人工智能全球治理发出积极倡议，呼吁构建普遍参与的有效多边治理机制，展现出真正的多边主义与负责任大国担当。2020年11月，中国领导人在二十国集团领导人第十五次峰会第一阶段会议上强调，中方支持围绕人工智能加强对话，倡议适时召开专题会议，推动落实二十国集团人工智能原则，引领全球人工智能健康发展。

2021年是我国“十四五”开局之年，同时也是AI产业化规模商用的元年，行业正步入新的拐点。随着人工智能技术的发展，中国人工智能应用的市场规模将进入高速增长阶段，市场迎来新的机遇。中国企业对人工智能的研发投入更是不遗余力，专利质量及技术质量都有长足的进步，未来将是一个可以预见的AI时代。

2021年可谓是中国人工智能“井喷式”发展的一年，智慧芽《2021年人工智能专利综合指数报告》的数据显示，2021年中国人工智能专利授权量达92728件，高居榜首。

同时，中国人工智能基础设施市场规模保持高速增长，中国服务器厂商已成为全球服务器市场的中坚力量。IDC预计，2021年人工智能加速服务器市场规模将达56.9亿美元，相比2020年增长61.6%，到2025年，中国人工智能加速服务器市场将达108.6亿美元。

与此同时，在各行业企业改善价值链、降本增效的内在需求驱动和人工智能被列入“新基建”的外在因素影响下，产生了多样化的智能化转型升级需求，也大大带动了人工智能的发展。艾瑞咨询数据显示，预计至2025年，中国人工智能核心产业规模超过4500亿元，2021—2025年人工智能核心产品CAGR为24%;中国人工智能基础层市场规模CAGR为38%;2020年人工智能带动相关产业规模超5700亿元，至2025年将突破1.6万亿元，2021—2025年人工智能带动相关产业CAGR为22%。

说到AI，首先你会想到的是什么?是九段天才棋手柯洁大战AlphaGo?是自动驾驶?还是跟朋友聊到某个话题时手机秒推送的同类广告? 抑或是让父母都认不出来的“易容神器”?

从1950 年图灵之问到如今产业的蓬勃发展，人工智能技术早已渗透到人们生活的方方面面。但迅猛发展的背后，那些因“黑盒模式”引发的技术不可控、数据安全、隐私泄露等问题却时有发生。人们似乎对人工智能技术的“无所不能”，从最初的全面肯定转变为冷静后的困惑、担忧与思考。面对科技高速发展带来的信任危机，人们究竟该如何应对?

首先，我们要搞清楚，何为可信任AI?“可信任AI实际上是通过底层技术框架解决人工智能应用过程中可能存在的多类问题，由此建立可靠的人工智能生态。”中国信息通信研究院华东分院人工智能与大数据事业部主任陈俊琰在12月14日举办的“谈云说AI”技术产业沙龙上表示。

事实上，近年来人脸识别被黑产盯上、买卖隐私信息等各类围绕用户个人隐私数据产生的安全问题常见报端，公众对于隐私保护、数据安全等问题关注程度也在不断提高。“如今信息多源且无法在短时间内追本溯源，如果数据使用存在监管漏洞就会直接导致个人隐私泄露甚至产生直接财务损失。”陈俊琰进一步分析了目前AI技术中的信任危机。

与此同时，AI信任危机还可能引发比较严重的人身安全问题。“由于AI技术处在一种黑盒模型基础上，在一些关键领域，例如医疗诊断、自动驾驶等这种性命攸关的行业中，如果出现信任危机就会产生十分可怕的后果。”京东探索研究院的算法科学家何凤翔分析说，这些危机会对行业发展、应用落地，都会产生巨大影响。