在日前于中国人民大学举办的“人工智能与未来法治论坛”上,民法学家、中国人民大学法学院教授王利明提出,人工智能提出的问题、带来的影响都是极其深刻,都需要我们在法律上作出应对,特别是我们正在制定的民法典应该对已经提出或者将要提出的问题有所应对。
王利明说,人工智能是一场新的科技革命,对人类社会带来的影响可能比蒸汽机的发明更为深刻。伴随着现在科技的发展,特别是移动互联网技术的发展、大数据、脑科学新技术新理论的出现,人工智能可以说发展得极其迅速,已经成为国际竞争的新焦点和经济发展的新引擎。国务院在2017年新一代人工智能发展规划中将人工智能称为是影响面广的颠覆性技术。它带来了就业结构的深刻调整、冲击法律和社会伦理、侵犯个人隐私、甚至挑战国际关系准则等。它提出的问题、带来的影响都是极其深刻,都需要我们在法律上的应对,特别是我们正在制定的民法典应该对已经提出或者将要提出的问题有所应对。
王利明具体阐述了以下几方面。
第一,人工智能对民事主体的挑战。
现在大家都在讨论
机器人应被当作民事主体还是客体来看待。从目前人工智能的发展情况来看,
智能机器人没有对传统的民事主体理论提出颠覆性挑战,不应将其视为民事主体,因为机器人毕竟是人创造出来的,其产生之初还是以客体的形态出现的,虽然能够代替人类从事某些活动,但是自身还是受到算法的控制,整体上还是受人类操控的,纵使其目前具备一定的思考能力,但是自主程度仍较低。也许在未来发展到一定阶段,人工智能的机器人具备自主思考的能力甚至具备超越人类意识的能力,届时赋予其相应的民事主体资格似乎才有讨论的必要。
第二,人工智能对人格权提出新挑战,特别是对隐私和个人信息保护提出重大挑战。
过去童话里面描述的在苍蝇的翅膀上绑上摄像机,潜入别人家里拍照窥探他人隐私的场景,现在借助无人机技术即可实现这一点。美国已经发生了多起无人机侵入他人的房间进行窥探,侵犯他人的隐私的纠纷,我想未来中国这种纠纷也会逐渐涌现。
我们已处在大数据时代,可以记录过去发生的一切和现在发生的一切,进而可以准确预测未来发生的事情。人工智能借助于大数据的收集,对个人信息的收集、储存、利用变得更加容易,而且成本更加低廉,这使得人工智能对个人信息威胁更大,大数据杀熟的现象也反映这个问题。现在人工智能的广泛
应用,可以把点点滴滴的各种信息碎片进行收集、分析、加工、处理,这样的现象值得我们高度关注和警惕。而且随着人工智能技术的发展,出现把自然人的声音、肖像、肢体动作等植入到相关程序中,进而模仿自然人的声音、肢体动作等,这可能会引发对相关人格利益的侵害。
第三,人工智能对数据财产的保护提出新的挑战。
众所周知,数据+算法被认为是人工智能技术开发的核心,而数据的收集和分析技术则是人工智能机器学习的基本方法。在大数据时代,法律遇到了严峻的挑战——如何确认数据的归属,因为一方面要保护数据被收集者的个人信息,又要对数据开发者的权利进行保护,两者之间如何平衡并非易事。
虽然要对数据开发权利者的权利进行保护,但是不能据此得出结论认为数据全部归属于开发者,因为这里面涉及到很多人的个人信息甚至是敏感信息。究竟应该如何保护个人信息,是我们当前需要关注的重大问题。
而另一个问题是,数据权利如何进行确权、如何进行移转、对数据开发利用者的权利如何进行保护,这个在法律上没有明确的规范。《民法总则》第110条规定:“自然人的个人信息受法律保护。任何组织和个人需要获取他人个人信息的,应当依法取得并确保信息安全,不得非法收集、使用、加工、传输他人个人信息,不得非法买卖、提供或者公开他人个人信息。”该条仅仅是提供框架性保护,但对数据权利的确权、移转、保护等缺乏明确的规则指引,因而民法典分编需要对这些问题进行有效回应,提供相应的制度供给。
第四,人工智能对知识产权保护所带来的挑战。
虽然一些机器人能够自己创作音乐、绘画、诗歌,但是我个人认为,既然没有承认其民事主体地位,也就没有必要承认其著作权人的地位。但是智能机器人能够通过一定的程序进行深度学习、深度思考,在这个过程,有可能收集、存储大量的受著作权保护的作品,这可能引发非法复制、非法存储等侵犯著作权的问题。
第五,人工智能对侵权责任认定带来新的挑战。
现在不管是机器人致人损害还是人类侵害机器人都是新的法律问题。机器人致人损害是否完全由机器人所有者承担侵权责任,值得思考。考虑到机器人是由多个主体研发完成,而且机器人的所有者很可能对这些研发主体完全不知情,全部由机器人所有者承担责任是否合理,有必要进行讨论。还有无人驾驶汽车已经上路了,这个引发的法律问题更多,这个确实对侵权责任提出了新的挑战。
霍金生前认为人工智能的发明可能是人类历史上的最大的灾难,如果管理不善,会思考的机器人可能会给人类文明画上句号。这个说法是不是有点重了,但也不是危言耸听,它确实需要我们高度地关注和思考人工智能带来新的法律问题。
华裔著名经济学家杨小凯曾经提出一个观点,我们现在往往注重技术的模仿,对技术的制度建设重视不够,这可能是我国技术发展的一个缺陷。如果将来只是重视技术模仿,不注重技术的制度建设,我们的后发优势很可能转化为后发弱势,不可能使技术真正得到制度的有力保障,反而会使其处于无序发展的状态。
人工智能所提出的问题都是我们民法典应当回应的重大问题。这就要求民法典的制定不能仅仅考虑到当下,也要考虑到未来,惟其如此,我们的民法典才能被称之为科学的、立足于中国国情的、面向未来的、能够屹立于世界民法典之林的民法典。