然而,人们也担心AI生成的艺术作品可能被恶意利用,造成虚假信息的传播。随着越来越多的“深度伪造”图像和
视频出现,微软决定采取主动措施,确保其程序生成的AI艺术能够被识别出来。今天,在微软Build 2023开发者大会上,该公司宣布将在未来几个月内增加一项功能,让任何人都能识别Bing Image Creator和Microsoft Designer生成的图像或
视频片段是否是由AI生成的。
微软表示,“该技术使用密码学方法对AI生成的内容进行标记和签名,并附上有关其来源的元数据信息。微软一直是验证来源方法研发的领导者,并联合创立了Project Origin和内容来源和真实性联盟(C2PA)标准机构。微软的媒体来源验证将按照C2PA标准对生成内容进行签名和验证。”
微软表示,该功能将适用于其两款AI内容生成程序支持的“主要图像和视频格式”,但是没有公布具体支持哪些格式。IT之家此前曾报道,微软本月早些时候宣布Bing Image Creator现已支持100多种语言,该程序已经创造了超过2亿张图像。