主页 > 技节生活 >人工智能「打假」系统面世 轻易检测出假文章及假推文 >

人工智能「打假」系统面世 轻易检测出假文章及假推文

技节生活 2020-05-22

每天各大社交媒体上都有无数条新的贴文,这些贴文除了有用户分享日常生活点滴外,更有不少资讯性的帐号,如新闻媒体等。但由于人工智能发展迅速,网络上开始充斥着不少以人工智能自动生成的假推文、假新闻。有见及此,哈佛大学、麻省理工大学的IBM研究所共同合作,创建一个以人工智能推动的检测工具,专门用于检测由人工智能自动生成的文本内容。

这个专门「打假」的人工智能检测工具名为Giant Language Model Test Room(GLTR),主要功用在于检测特定文本是否由人工智能自动生成。GLTR能够区分人工智能自动生成的文章和人类创作的文章。根据研究人员分享的结果,在无需任何事先培圳的情况下,GLTR将假文本的检测率从54%提高到72%。



该AI算法利用文本中的统计字分布来识别差异。如果该文本是由自动生成器产生,那幺当中将会存在着很多可预测的单词组。而且,虽然自动生成器所生成的句子在文法上会完全正确,但实际上没有任何实际文本意义。所以,GLTR主要是以每30~60个字为一组地分批检测段落中,有没有相应的统计字。

检测结果会以多种颜色标记文本内容。如,绿色就是可能由自动生成工具生成的文字、黄色及红色则是不太可能由自动生成所产生,而紫色则是最不可能。业界普遍认为,GLTR不仅可以用于检测假文本,还可以识别用于破坏美国和其他地方选举过程的Twitter机器人。

除了GLTR之外,现时已有一个名为Botometer的工具,透过机器学习技制来确定社交帐户是真实帐号,或者虚假的机器人帐户。据闻Botometer的準确度高达95%。

虽然这些方法都不是万无一失,但至少目前可以有效地打击一部分的虚假资讯流通。

您可能有兴趣文章:

推荐内容