危诺宁
作者很懒,什么都没留下

47

文章/篇

41.5万

阅读/次

拜访信息

为了给您提供更快更好的服务,在获取作者联系方式前,想对您有个简单了解. 邀请您填写如下信息

提交成功

非常感谢您的配合,我们的作者会尽快通过您的微信,
请耐心等待~

微信号

15701235851

人工智能能否在对抗虚假新闻战争中完胜?

危诺宁
2017-12-25 · 15:25
[ 亿欧导读 ] 开发人员正在开发可以帮助发现可疑新闻报道并将其发布的工具,但这可能是自动化军备竞赛的开始。2017年,误导性和恶意的虚假在线内容是如此丰富多产,以至于我们人类几乎没有希望能让自己解脱困境。
AI辨别虚假新闻,人工智能,虚假新闻,AI,机器学习

文章来源于:危诺宁,图片来自网络

这可能是互联网历史上的第一个虚假新闻:1984年,有人在Usenet上发布了苏联加入网络的消息。这是一个完全无害的四月愚人节恶作剧,与如今的虚假信息宣传活动和旨在快速获利的不择手段的制造业相差甚远。2017年,误导性和恶意的虚假在线内容是如此丰富多产,以至于人类无法让自己解脱困境。反而,这越发看来机器将不得不拯救我们。

一家名为AdVerif.ai 的初创公司设计了一种同名算法,可以把我们从黑暗中拯救出来。人工智能软件的构建是为了检测虚假的新闻报道、赤裸、恶意软件和其他类型的问题内容。AdVerif.ai于11月份推出了测试版本,目前与美国和欧洲的内容平台及广告网络合作,他们不希望与虚假或潜在的冒犯性新闻报道有关联。

根据AdVerif.ai的创始人Or Levi的说法,公司在将焦点放在公司产品,而非普通用户的事情上面看到了机遇。虽然个别消费者可能不会担心他们所点击新闻报道的真实性,但是广告主和内容平台会因为集结或宣传不良内容而损失一些东西。如果他们改变自己的服务,他们可以有效地削减那些靠制造虚假新闻赚钱的人的收入来源。Levi说:“这将是与这类内容作斗争的一个大的跨越。”

AdVerif.ai 是如何发现假新闻?

AdVerif.ai可以扫描整个内容,发现表明某些地方有问题的标志,比如文章标题与正文内容不对应,或标题中的大写字母太多。AdVerif.ai还通过有数千个合法虚构新闻的数据库对每一则新闻进行交叉检查,这些合法的虚构新闻会每周更新一次。客户可以看到系统考虑到的每一部分的报告,还有评估分数,评估某些事可能是虚假新闻,或可能携带恶意软件,或可能包含他们要求系统留意的其他东西,比如说赤裸。最后,Levi表示,他计划增加能找出操纵图像的能力,并安装一个浏览器插件。

在测试AdVerif.ai的演示版本时,AI将洋葱识别为讽刺(这在过去曾经愚弄过很多人)。布赖特巴特的新闻故事被分类为“不可靠的,右翼的,政治的,带有偏见的”,而Cosmopolitan则被认为是“左翼的”。可以看出,当Twitter账户使用标识时,而链接却与它所描绘的品牌毫无关系。AdVerif.ai不仅发现Natural News上标题为“有证据表明比特币成为NSA设计的心理战行动来全面推广单一世界数字货币”的新闻是来自一个黑名单网站,而且还确定了它是一条虚假新闻,在其他被列入黑名单的网站上也会弹出,而且在合法新闻机构没有任何参考。

一些可疑的新闻报道仍然可以通过,出现在网站上。在一个名为Action News 3的网站上,有一篇题为“NFL播放器拍摄到在更衣室里燃烧美国国旗!”的帖子,虽然已经证明该帖是捏造的,但是帖子并没有被拦截。为了帮助系统知道接下来的情况,可以手动逐个更新系统虚假新闻报道的黑名单。

当 AI 造假遇上 AI 打假

AdVerif.ai并不是唯一一家在为在线公司提供以AI为动力的吐真药中看到机遇的初创公司。特别是网络安全公司,已经快速地将发现僵尸和虚假新闻的操作添加到他们的计算机指令系统中,指出很多方法与黑客手段有多么相似。Facebook正在调整其算法,以消除其新闻传播中的虚假新闻。谷歌与事实检查网站开展合作,到目前为止,取得的结果还参差不齐。“虚假新闻挑战赛”于去年年底推出,比赛是由AI团体的志愿者举办,旨在鼓励开发有助于打击恶意报道的工具。

“虚假新闻挑战赛”组织者之一,开发机器学习系统的Joostware公司创始人,Delip Rao表示,要发现虚假新闻有很多方面,所以这个挑战将会分多个步骤完成。第一步是“立场检测”,或者选取一条新闻,找出其他新闻网站对这个话题的评论。这可以让人类事实检验员依靠新闻来验证其它的新闻报道,用更短的时间检查单个作品。

“虚假新闻挑战赛”发布了数据集供团队使用,有50个团队提交了参赛作品。思科公司的网络安全部门Talos Intelligence利用了一种算法赢得了比赛,这一算法获得了80%以上的正确率——虽还没有为黄金时段做好准备,但仍然是一个令人欢心鼓舞的结果。接下来的挑战可能会出现带有覆盖文本的图像(思考模因,但带有虚假新闻),这是一种经常在社交媒体上推广的格式,因为算法很难分解和理解这种文本格式。

Rao表示:“我们主要想为检验员建造最好的工具,以便他们能够快速工作,像检查类固醇的事实检验员一样。”

即使开发出能够有效遏制虚假内容趋势的系统,也不太可能是新闻报道的终结。人工智能系统已经能够创造虚假的文本了,以及令人难以置信的图像和视频。(请参阅“真实或虚假?人工智能令人难以置信”)。也许正因为如此,Gartner最近的一项研究预测,到2022年,发达经济体中的大多数人会看到比真实信息更多的错误虚假信息。同样的报告发现,甚至在发生这种事情之前,虚假内容将会超过AI检测它的能力,改变我们相信数字信息的方式。

AdVerif.ai以及其他公司更像开始了一场竞赛,而非虚假信息之战。竞赛中,虚假内容创作者开发自己的人工智能系统企图战胜 “正义”的人工智能。因此,我们不得不重新审视自己获取信息的方式。

本文经授权发布,版权归原作者所有;内容为作者独立观点,不代表亿欧立场。如需转载请联系原作者。

各工作岗位将被AI取代的概率

选择岗位,查看结果

制图员和摄影师

87.9%

参与评论

最新文章

1、 若贵平台是网站或者APP,在进行单篇原创文章转载时,需在文章标题或者导语下方,注明文章来源以及作者名称;若寻求5篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。

【若贵司平台转载亿欧公司原创文章已经超过5篇,请及时与我们联系补签转载合作协议,计算时间以2019年2月10日之后为准】

2、 若贵平台是微信公众号,在进行单篇原创文章转载时,请联系亿欧公司内容运营人员进行单篇文章的白名单开通,同样需要注明文章来源及作者名称;若寻求2篇及以上的长期内容合作,需与亿欧公司内容运营部门取得联系,并签订转载合作协议。可将公司全称(简称)、公司网址、微信公众号、微信或者电话等信息发送至hezuo@iyiou.com,会有工作人员与您取得联系。

关闭

快来扫描二维码,参与话题讨论吧!

快捷登录 密码登录
获取验证码

新用户登录后自动创建账号

登录表示你已阅读并同意《亿欧用户协议》

快捷登录 密码登录

账号为用户名/邮箱的用户 选择人工找回

关联已有账户

新用户或忘记密码请选择,快捷绑定

账号为用户名/邮箱的用户 选择人工找回

快速注册

获取验证码

创建关联新账户

发送验证码

找回密码

获取验证码
账号为用户名 / 邮箱的用户 选择人工找回

未完成注册的用户需设置密码

如果你遇到下面的问题

我在注册/找回密码的过程中无法收到手机短信消

我先前用E-mail注册过亿欧网但是现在没有办法通过它登录,我想找回账号

其他问题导致我无法成功的登录/注册

请发送邮箱到service@iyiou.com,说明自己在登录过程中遇到的问题,工作人员将会第一时间为您提供帮助

账号密码登录

乐乐呵呵@微信昵称

该亿欧账号尚未关联亿欧网账户

关联已有账户

曾经使用手机注册过亿欧网账户的用户

创建并关联新账户

曾用微信登录亿欧网但没有用手机注册过亿欧的用户

没有注册过亿欧网的新用户

先前使用邮箱注册亿欧网的老用户,请点击这里进入特别通道
意见反馈
意见反馈
亿欧公众号 亿欧公众号
小程序-亿欧plus 小程序-亿欧plus
返回顶部