对于AI与假新闻, 苹果和Facebook为何会各执一词?
扫描二维码
随时随地手机看文章
俗话说“耳听为虚,眼见为实”。只不过如今随着AI技术的发展,耳听和眼见都可能难以为实了。
“我们觉得热点新闻应该由人工来筛选。”6月底,苹果公司CEO蒂姆·库克在旧金山对外发声。据说话音一落,硅谷科技界一片哗然,
“我们很高兴地宣布,Bloomsbury AI团队已经同意加入。”一周前,Facebook发言人喜形于色,面对新闻媒体表示,“我们期待并欢迎他们加入Facebook,我们迫不及待想看看我们共同构建的是什么。”随着消息传出,扎克伯格决定收购这家英国初创AI技术企业的心愿尘埃落定。
几乎在同一个时间段,苹果公司与Facebook对于AI、假新闻发出了迥异的声音,也采取了东趋西步的举措。两大巨头近期对于这件事情的态度,为何会如此不同?
首先,摆在我们面前的现状是:AI技术正在“催生”假新闻的发展。
对于图片,AI可以将“马”变成“斑马”;对于语音,AI可以捕捉某个人的声音来拼出程序员想要用这声音说出的任何句子;对于视频,AI则能在学习被程序员“喂”给的视频后,自己按热点和关注度生成新的新闻内容。
事实上,当普通的新闻读者根本无法判断出,摆在眼前的新闻究竟是来自于真实世界,还是来自于杜撰者一时兴起、或者AI合成的结果时,一首《雾里看花》也许最能表达读者的心情——“借我借我一双慧眼吧,让我把这纷扰看得清清楚楚明明白白真真切切。”
对这双“慧眼”的渴求,社交网络巨头Facebook最为迫切。
今年3月17日,美国《纽约时报》报道指出,Facebook有超过5000万用户信息数据被一家位于英国的公司“剑桥分析”泄露,其通过数据分析对目标用户推送广告,从而在政治领域控制或者说引导了选民的投票倾向。
获取用户信息进行数据分析,再使用用户喜好的方式渗入社交网络,从而达到改变用户心理认知的目的。这一方式在互联网领域的个性化推荐功能中并不陌生,在以往甚至被大家认为是商业中一套“效果良好”的营销手段。
只不过,将这种操作应用到对一个国家或政体影响深远的竞选活动中,是政府机构和公众无法接受的事实。Facebook因此在3月19日,经历了四年以来最大的股价下跌,跌幅达6.77%,市值蒸发367亿美元。
美国联邦委员会和欧盟同时要求对Facebook的数据泄露问题进行调查。若属实,对Facebook的罚金将有可能高达2万亿美元。而此时Facebook的总市值则是4885亿美元。
以毒攻毒:面对假新闻,Facebook想借AI的“慧眼”打假
差点被“剑桥分析”拉下水的Facebook,在经历了痛苦的、被认为“非死不可”的几个月以后,随着2018年11月美国总统中期选举的临近,正面临着另一个巨大挑战:如何保证在接下来的选举中,不因平台上的虚假新闻再次背锅。
这一次,作为AI铁粉的Facebook,打算继续使用AI技术来打假。无论是打算用AI“以毒攻毒”也好,还是因为人工编辑远远不可能跟上现有社交媒体上广泛传播的新闻数量和速度,Facebook在6月4日提出拟定以最高不超过3000万美元的价格,收购位于英国伦敦的Bloomsbury AI公司。
Bloomsbury AI是一家创业公司,以计算机自然语言处理能力见长。特点包括开发自然语言处理工具、读取文本文件、回答与文本内容相关的问题、以及进行推理与集成。而Facebook意在使用Bloomsbury AI团队开发的“Cape”等软件,来处理平台上的假新闻、以及其他各种内容问题。
让我们先回溯到2016年8月,当时在大数据和机器算法流行的人工智能大背景下,崇尚技术完美主义的Facebook就首当其冲,舍弃了之前主要由专业记者组成的纽约合同工编辑团队,将热门话题的编辑、推荐和排名全部交给机器算法,然后由一个新的新闻审核团队来把最后一道关。
然而在舍弃人工编辑后的第三天,Facebook平台上就出现了一条新闻——“和川普就性别歧视议题争论的Magyn Kelly,其实是美国民主党总统候选人希拉里·克林顿的秘密支持者,因此遭保守派阵营的福斯电视台解聘”。
这条新闻后来被证实是由山寨新闻网站“Ending The Fed”发布的假新闻。
可是,新闻被Facebook抓取到以后,由于Magyn Kelly的高知名度和内容的高敏感度,迅速在社交媒体上被广泛转发。由于有足够多的引用文章和发帖,这条新闻轻松通过了Facebook算法和人工审核团队的检查。
值得一提的是,如果要保证每一条新闻的真实性,请专业的编辑人士对每一条新闻的来源和内容进行核查,是最保险的方法。
但用日益增多的人工编辑,来处理对应的日益增加的新闻量,更像是在朝成长为一个专业媒体公司的方向前进,而这不在当时Facebook的计划范围内。Facebook CEO马克·扎克伯格在2016年的一次提问中就曾直言:“Facebook是一个科技公司,不会成为一家媒体。”
而后,随着假新闻问题屡屡出现,Facebook在2017年1月宣布成立“Facebook新闻项目”,引进用户为假新闻打标签的功能。同时与外部新闻机构合作,为其开发新产品。但这似乎都只是治标不治本的动作。因为对于由专业新闻机构以外的发布者生成的新闻,普通用户仍然不具备足够深的专业知识来判断新闻的真假,并为其打上标签。
不过,虽然AI驱动了新型的足以以假乱真的伪造假新闻的技术,也同样提供了可以破解伪装的方法,例如:对文字信息里的内容进行多个可信来源的对比验证;通过确认文件的特殊数字签名,判断文件是否来自可信任的机构,或者是否来自最初生成视频的设备;所有记录数据都需要包含生成时的原数据,包括视频录制的时间、地点和录制设备;照片上的内容和拍摄现场的时间是否相符;使用“谷歌地球”之类的软件,检查照片或视频拍摄地点附近的自然环境背景,看是否和证据中声称的一致等。
可见,当前对于AI催生的假新闻,Facebook的策略是:以AI技术打假为主、以人工审核为辅。
苹果公司:所有热点新闻都应该由人工来筛选
与Facebook和谷歌在新闻上通常“以量取胜”的特点不同,一向走“内容精致”路线的苹果公司,在处理虚假新闻的问题上,则更倾向于“以质取胜”的方向。
苹果公司CEO蒂姆·库克虽然因为6月底在旧金山的那一番讲话令整个硅谷哗然,但他似乎并不在意。除了希望加大人工干预,库克还强调:“我并不是要批评那些和我们做法不同的人。苹果公司一直以来都严格遵守管理标准,我们重质不重量。”
对于即将到来的美国中期选举,苹果公司期望改变曾在2016年美国总统大选期间,假新闻现象严重的局面。
就在他对外发出这番言论之前两天,苹果公司在6月25日晚宣布将在其新闻程序Apple News中开辟2018中期选举板块,并对用户承诺在11月份的中期选举期间,会提供真实可靠的新闻和独家策划的亮点板块。
据悉,该功能将提供由Apple News团队中的资深编辑挑选出来的可靠的新闻源、分析报道以及评论文章。同时,Apple News也会聘请专业的撰稿人撰写新闻,与其他新闻源形成互补。
这一次,科技范儿的苹果真的是要在“人工”上下功夫了。
谷歌:训练系统,强化与新闻机构和记者的合作
虽然在用户隐私的问题上,目前谷歌不像Facebook一样被各方紧盯着。不过作为搜索引擎巨头、用户日常搜索信息的主要来源之一,谷歌也表现出谨慎的态度。
今年三月,谷歌宣布成立“谷歌新闻倡议”计划,承诺在未来三年内投资3亿美元,实现三个目标:突出准确新闻;同时打击错误信息(尤其是在突发新闻事件中);帮助新闻网站从商业角度继续增长,并创造新的工具来帮助记者做他们的工作。
就在六月初,谷歌在印度与BooLead、DATALEADS以及Internews新闻公司合作,成立了“谷歌新闻倡议”培训社区,目的就是帮助新闻从业人员打击虚假新闻。该社区将在未来一年内为8000名记者提供英语和其它六种印度语言关于“事实验证”的相关培训。
谷歌新闻实验室负责人Irene Jay Liu说:“当记者和社区合作,用在线工具来验证信息,他们可以建立一个可信媒体的堡垒来对抗错误信息的浪潮,”
从谷歌对于技术纠错的定位中,我们可以看到其与Facebook的思路也略有不同,谷歌作为搜索引擎,主要是抓取互联网上的信息。因此其新闻的真假性,更多地取决于其源平台上信息的准确性。
而谷歌和新闻原作者之间并没有直接的从属或会员关系。因此,在构建健康新闻生态环境的过程中,谷歌更多的是采用以自身资源或技术帮助媒体行业打击假新闻为主、以自己的技术识别假新闻为辅的形式。
在这些科技巨头公司中,或许Facebook和谷歌公司从来没有想过将新闻或者内容作为主要的业务方向。但在看重内容并希望将内容作为新盈利来源的苹果公司看来,必须要将新闻真实性作为主要策略。目前,准确、真实、个性化的新闻会成为其精雕细磨的业务方向。
在三者中,苹果公司选择了为确保新闻的准确性,最为审慎的路线,而Facebook和谷歌,则将一部分筹码押在了对AI技术的运用上。
由AI催生的假新闻,最后应该由谁来打假?在“以量取胜”的情况下又有谁有能力来打假?这样的问题同样摆在了大洋彼岸——国内众多新闻内容分发平台的面前。
在当前完全将打假的重任交给AI,似乎还存在着一些风险。因为和任何图像识别与机器学习技术一样,使用AI来发现假新闻,从原理上来说虽然可以实现,但仍需要复杂的语义分析、自然语言处理能力以及数据训练。
对于Facebook在收购Bloomsbury AI团队以后,能否在美国中期选举期间用AI防止假新闻的出现,我们拭目以待。