Google要用机器学习检测恶意评论
2017-03-01 16:36
218 查看
Google旗下的Jigsaw开发了一款AI工具Perspective,它使用机器学习检测网络上的骚扰和辱骂内容,可以帮助新闻机构和内容平台识别恶意评论。
Perspective软件可以确定网上评论的“毒性”,有毒程度则是通过挖掘数百万条评论,然后由 10 位评委进行打分而得到的。它会基于评论与被贴上“有毒”标签的评论的相似度,或评论迫使别人不再对话的可能性,进行打分。
Perspective的API现在在官网可以试用,感兴趣的朋友可以测试一下。
据称,纽约时报、卫报、经济学人和维基百科,正在测试这一新技术,Google和Jigsaw也希望其它新闻机构也能使用。它还可以减少人工审核。根据测试结果,川普的名言“Grab her by the pussy”毒性达到了92%(由于这句话涉及对女性的 严重歧视,就不翻译了)。
虽然评论可以提升用户参与度,但总拦不住有的人会因为匿名性而发表不当言论,这样看来Perspective还是很有用的。
只是由于人类语言的复杂性,它的评价不一定准确。
Jigsaw表示,技术将会向所有平台公开,未来还会继续增强,用来识别个人攻击评论和偏离主题的评论。
Jigsaw成立于 2010 年,还开发过能找到潜在ISIS恐怖分子的软件。雷锋网曾报道,它的前身是网络和政策智囊团Google Ideas,后变成了科技孵化器Jigsaw。它主要专注于使用技术“解决棘手的地缘政治挑战,包括打击暴力极端主义,遏制网络审查,从而减轻与数字攻击相关的威胁”。Jigsaw将投资这样的技术,它能帮助最需要的人群获取信息,并抵御最有挑战的安全威胁。
Perspective软件可以确定网上评论的“毒性”,有毒程度则是通过挖掘数百万条评论,然后由 10 位评委进行打分而得到的。它会基于评论与被贴上“有毒”标签的评论的相似度,或评论迫使别人不再对话的可能性,进行打分。
Perspective的API现在在官网可以试用,感兴趣的朋友可以测试一下。
据称,纽约时报、卫报、经济学人和维基百科,正在测试这一新技术,Google和Jigsaw也希望其它新闻机构也能使用。它还可以减少人工审核。根据测试结果,川普的名言“Grab her by the pussy”毒性达到了92%(由于这句话涉及对女性的 严重歧视,就不翻译了)。
虽然评论可以提升用户参与度,但总拦不住有的人会因为匿名性而发表不当言论,这样看来Perspective还是很有用的。
只是由于人类语言的复杂性,它的评价不一定准确。
Jigsaw表示,技术将会向所有平台公开,未来还会继续增强,用来识别个人攻击评论和偏离主题的评论。
Jigsaw成立于 2010 年,还开发过能找到潜在ISIS恐怖分子的软件。雷锋网曾报道,它的前身是网络和政策智囊团Google Ideas,后变成了科技孵化器Jigsaw。它主要专注于使用技术“解决棘手的地缘政治挑战,包括打击暴力极端主义,遏制网络审查,从而减轻与数字攻击相关的威胁”。Jigsaw将投资这样的技术,它能帮助最需要的人群获取信息,并抵御最有挑战的安全威胁。
相关文章推荐
- 谷歌发布基于机器学习的Android APP安全检测系统:Google Play Protect
- 谷歌发布基于机器学习的Android APP安全检测系统:Google Play Protect
- 机器学习之恶意软件分类和检测
- Google为macOS量身打造的恶意软件检测系统“Santa”已开源
- Google搜索结果页面出现重大问题 满屏尽是恶意网
- 从 Google 号称每月可阻止约五万个恶意软件下载谈起
- 机器学习案例实战之信用卡欺诈检测【人工智能工程师--AI转型必修课】
- 目标检测(Google object_detection) API 上训练自己的数据集
- [机器学习]基于级联分类器的多目标检测
- 斯坦福大学机器学习笔记——异常检测算法(高斯分布、多元高斯分布、异常检测算法)
- Google机器学习教程心得(一)
- 防患于未然:如何检测恶意的安卓应用程序
- 转载CSDN上关于GOOGLE的一则评论,后面也有自己的一点小小的看法
- 为什么 Python被Google选为TensorFlow的开发语言呢?使用 Python比C++语言进行机器学习有什么优势?
- Python实现的Google IP 可用性检测脚本
- 玩转Android Camera开发(五):基于Google自带算法实时检测人脸并绘制人脸框(网络首发,附完整demo)
- Google检测无效点击的几种方法
- 机器学习第九周(一)--异常检测
- Google Trend高人气文章标题被恶意利用
- 怎么去除google的“该网站可能含有恶意软件,有可能会危害您的电脑。