人工智能在文本创作上的发展分析
扫描二维码
随时随地手机看文章
AI在文本创作上的能力正在加强。人们对于人工智能的创作能力赋予了更大的想象力,尤其是在OpenAI 推出文本生成模型 GPT-2 后。前不久《权力的游戏》烂尾,有程序员直接用GPT-2重写了比电视剧更好的结局,这也让GPT-2算法名声大噪。
无独有偶,一个名为GROVER的假新闻写作机器人最近得到了大家的关注。GROVER可以帮助人们进行博客营销,尽管生产出的内容并不是那么完美,但是却足以说服那些没有仔细阅读文章的读者。营销机构Fractl的克里斯汀·廷斯基在接受采访时表示,“像GROVER这样的工具可以在你能想象到的所有利基市场中,创造出大量由电脑生成的内容”。
可是这真的是一件好事吗?我们在为更加“聪明”的AI欣喜之时,或许也需要开始正视新的问题:这些人工智能如果开始生产大量假新闻,后果究竟会如何?据调查显示,有一半的美国人称在新闻网站上浏览了故意误导性的文章,大多数受访者表示,他们无法判断媒体报道的真实性。
假新闻的传播速度往往比真实新闻更快,因此一旦被不法分子利用,后果将不堪设想。用人工智能的方式“反击”假新闻,要“扼制”生产假新闻的人工智能,最快速的解决办法是研究出鉴别假新闻的人工智能。
基于从新闻源出发控制假新闻的想法,麻省理工学院计算机科学与人工智能实验室(CSAIL)和卡塔尔计算研究所的研究人员推出了一套鉴别假新闻的全新AI解决方案。研究团队对来自Media Bias/Fact Check(MBFC)的1,066个新闻来源进行了系统培训,注释了“事实性”和“偏见”的分数,他们声称这是同类软件中最大的数据库。
根据团队的说法,系统只需要150篇文章就可以确定是否可以可靠地信任某一来源,它在检测新闻来源是否具有高、低或中等水平的“事实性”时准确率可达到65%。当然,他们并不是唯一试图用AI来对抗假新闻传播的机构。总部位于德里的MetaFact利用自然语言处理算法(NLP)来标记新闻报道和社交媒体帖子中的错误信息和偏见。
他们推出的软件即服务平台“ AdVerify.ai”,不仅可以分析错误信息、恶意软件和其他有问题的内容,并且可以交叉引用一个定期更新的数据库,其中包含数千条虚假新闻。此外,深陷信息泄露危机的Facebook也开始尝试部署“识别账户和虚假新闻”的人工智能工具。2018年,Facebook收购了总部位于伦敦的创业公司Bloomsbury AI,以帮助其打击误导性报道。
有会“写假新闻”的AI,就会有“鉴别假新闻”的AI,很明显,在这场与假新闻相关的较量中,哪一种AI都很难完全占到上风。因此,就目前的情况来看,如果有人想用假新闻机器人来颠覆世界,可能并没有那么容易。