生成式人工智能是一种利用大量数据训练模型,然后生成新的内容的技术。例如,ChatGPT和Midjourney就是两种流行的生成式人工智能工具,可以分别生成文本和图像。《自然》杂志认为,这种技术虽然有着广阔的
应用前景,但也带来了一些难以解决的问题。
首先,生成式人工智能工具无法提供其数据来源的信息,使得编辑、出版者和读者无法核实其准确性和真实性。这违背了科学出版的诚信和透明原则。其次,生成式人工智能工具可能侵犯了数据所有者的隐私和知识产权,因为它们通常使用了大量未经授权的受版权保护的作品进行训练。再次,生成式人工智能工具可能加剧了虚假信息的传播。例如,深度伪造(deepfake)就是一种利用生成式人工智能制造假
视频的技术,可以用来误导公众或诽谤他人。
因此,《自然》杂志决定禁止使用生成式人工智能工具创作视觉内容,至少在可预见的未来是这样。该杂志要求所有受委托的艺术家、
电影制作人、插画师和摄影师在提交作品时确认没有使用这种技术。
不过,《自然》杂志并不完全排斥人工智能。IT之家注意到,该杂志仍然允许在文章中使用生成式人工智能辅助产生的文本,只要在方法或致谢部分明确说明。此外,所有数据的来源,甚至是由人工智能协助产生的数据,都必须由作者提供。但是,《自然》杂志坚决不承认任何生成式人工智能工具作为论文作者。