首页 > 资讯
谷歌发布AI新工具 可识别网上儿童性侵犯图片
众创网2018-09-07

近日,滴滴性侵犯事件闹得沸沸扬扬。一直以来,性侵犯事件频发,已经成为不容忽视的社会问题。作案者不只是对女性下手,更有甚者,对儿童下手。

图片1.jpg

据报道,本周一,谷歌发布了一种免费的AI(人工智能)工具,其主要用途是帮助公司和组织识别互联网上的性侵犯(向非政府组织和行业伙伴免费提供这种技术)、裸露图片,特别是跟儿童有关的,从而导致相应犯罪率的下降。

谷歌宣布推出Content Safety API(内容安全应用程序界面),这是个开发者工具包,能利用深层神经网络来处理图片以降低其对互联网用户的曝光度。技术免费的同时,谷歌也强调,这种AI人工智能技术能帮助审查人员识别出与无此技术相比多700%的黄色内容。

图片2.jpg

对于大型互联网企业来说,及时阻止儿童性虐待内容(CSAM)的传播是属于第一优先级的任务。但对于一线工作人员来说,这项工作是异常艰巨而困难的,必须要靠人类来识别并删除这些不良内容。

过去的类似工具往往只能阻止已经标记的不良内容的传播,而谷歌本次推出的AI软件利用谷歌在机器视觉方面的专业知识,通过对标记的图像和视频进行排序并“优先考虑最可能的CSAM内容以供审查”来协助人类。这样,工作人员将能够提高审查的效率。

图片3.jpg

互联网观察基金会(IWF)副首席执行官Fred Langford在接受采访时表示,“该软件将有助于我们这样的团队更有效地调配有限的资源。目前,我们只使用纯人力来进行内容审核,然后判断能不能通过。这款AI工具将有助于我们对审核内容进行分类。”

“迅速识别新图片意味着,那些遭到性侵犯的儿童被辨识出来的可能性变得大多了,有利于保护他们免受进一步的侵犯。”谷歌工程负责人Nikola Todorovic和产品经理Abhi Chaudhuri发布官方博文称。“我们通过Content Safety API工具包向非政府组织和行业伙伴免费提供这种技术,这个工具包旨在提高内容审查的能力以降低其曝光度。”

英国互联网观察基金会对谷歌开发这种工具表示赞赏。“我们——尤其是我们的专家分析师对这样一种人工智能工具的开发感到激动,这可以帮助我们的人类专家以更大的规模进行内容审查,跟上那些罪犯的脚步,找到那些此前并未被标记为非法内容的图片。”

互联网观察基金会首席执行官苏西·哈格里夫斯(Susie Hargreaves)发表声明称。“通过共享这种新技术,图片识别的速度可加快,这就能让互联网变成一个更加安全的地方。”

阅读:
分享
用微信扫描二维码分享
请点击右上角分享给微信朋友或朋友圈