受访专家建议,AI“复活”技术提供者提供服务前,应明确要求用户提供相关证明,并加强技术防范,避免AI产品侵犯他人合法权益或被用于欺诈等不法行为。相关部门要加强监管,推动建立行业标准,既保证技术创新,也要保障人类的价值和尊严。
无独有偶,音乐人包小柏也使用了类似的形式来“复活”已故女儿,通过AI技术制作了“数位(数字)女儿”,成功重现爱女的嗓音。
2021年,包小柏22岁的女儿病故,此后包小柏决定攻读博士、钻研AI相关技术,并希望AI技术让女儿能够在数字世界里“复活”。他希望能够通过AI技术来重现爱女的嗓音,但由于女儿生前仅留下3句与妈妈视频通话时的英文对话,与录音室规模落差太大,AI专业工程人员直言“痴人说梦”。但包小柏决定自己钻研,花费10个月终于做出了2小时的声纹。
然而,并不是所有人都将这项技术运用到思念亲人。以美国为例,2023年全美老年人因为诈骗而损失了16亿美元(IT之家备注:当前约115.2亿元人民币),其中就有许多诈骗是利用AI技术来“克隆”熟人的声音,以及其他依靠AI生成的伎俩。