谷歌公司于当地时间9月3日表示为了与网络扩散的儿童性骚扰内容相抗争,利用人工智能开发了Content Safety API(内容安全 应用程序界面)。
谷歌公司利用深层神经网中枢部来处理照片和
视频,并阻止儿童性骚扰等材料在网上扩散曝光。这一应用程序将对非政府机构团体和行业伙伴公司免费提供 。
谷歌工程负责人Nikola Todorovic和产品经理Abhi Chaudhuri周一发布官方博文称“把网络作为儿童性暴力和性剥削内容扩散的手段,是人类能想象的最恶的犯罪,我们通过Content Safety API工具包向非政府组织和行业伙伴免费提供这种技术,这个工具包旨在提高内容审查的能力以降低其曝光度。这次技术可使审查人员快速的发现问题,比之前审查速度提高了700%。
这段时间很多计算机公司想利用AI,搜查儿童裸体及淫乱物各种各样的帖子,但是这次谷歌公布的AI技术被评为“最先进技术与儿童淫秽物的网络战争”。
谷歌公司这段时间和很多对抗儿童性骚扰的企业和团体协作,特别是英国的慈善机构“网络监视财团”及WePROTECT国际联盟,Technology Coalition 等机关紧密合作。