当我们不可阻挡地朝着自动化的未来迈进，而人工智能又几乎拥有无限可能时，我们必须搞清楚这一新兴技术的道德影响，并解决出现在我们面前的前所未有的法律和社会挑战。
洪智伟（马来西亚）系联合国教科文组织生物伦理和伦理科方案专家，2005年加入联合国教科文组织，之前曾从事设计工程和工程管理工作。
达弗纳·芬赫（墨西哥）系联合国教科文组织生物伦理和伦理科科长，接受过心理学和生物伦理学的正式教育，曾任墨西哥全国生物伦理委员会秘书长。
每隔一段时间，我们就会遇到一种技术，让我们停下来去思考作为人类的意义。人工智能的问世要求我们深切反思其潜在的深远影响。虽然这一技术背后的概念已经在我们的集体想象中存在了几十年，但它直到现在才成为我们生活中的现实。
人工智能技术的最新进展——特别是那些从总体来说与机器学习有关，具体而言涉及深度学习的进展——已经表明，人工智能支持系统的效率和效力在很多领域，包括在需要一定程度认知推理的任务方面，都能赶超人类。因此，人工智能有可能为人类带来巨大进步并造福人类，但同时也会扰乱当前人类社会的经济和政治安排。
当
我们思考人工智能的伦理影响时，应当明白了如今的人工智能究竟是什么。我们谈及人工智能时，一般指的是“狭义人工智能”或“弱人工智能”，它旨在完成一项特定任务，例如分析和改善交通状况，根据既往购买情况在线推荐产品等。这些“狭义人工智能”已经存在，而且将变得越来越复杂，并融入我们的日常生活。
在这里，我们不谈论科幻故事和
电影中描述的“强人工智能”或者通用人工智能，据说它们能完成所有的人类认知任务。一些专家认为其甚至拥有“自我认知”和“意识”的特征。目前尚无通用人工智能是否可行的一致观点，更不用说何时能够实现了。
《数字时代的隐私终结？》（Theendofprivacyinthedigitalage?）古巴漫画家法尔科（Falco）作品
永无止境的数据收集
机器学习和深度学习方法需要大量的历史和实时数据，以便人工智能支持系统从“经验”中“学习”，同时还需要一个架构，以便人工智能在其所学的基础上，实现目标或任务。这意味着我们在思考人工智能的伦理影响时，还必须顾及人工智能运作所需的复杂技术环境。这包括通过物联网（InternetofThings）持续收集大数据；将大数据存储在云端；人工智能将大数据用于其“学习”过程；以及通过智能城市、自动驾驶汽车或
机器人装置等，进行人工智能分析或执行任务。
技术发展越复杂，所产生的伦理问题就越复杂。虽然伦理原则没有改变，但我们处理问题的方式会发生根本性的变化。因此，这些原则会在我们知情或不知情的情况下受到严重破坏。
例如，我们的隐私、保密和自主概念可能会发生根本性变化。通过智能设备和脸书、推特等已经成为社交网络工具的程序，我们在没有切实了解数据的潜在用途和使用者的情况下，就“自由”和自愿地提供了个人信息。接着，这些数据被输入主要由私营部门开发的人工智能支持系统。
由于没有经过匿名处理，关于我们的喜好和习惯的信息会被用来创建行为模式，使得人工智能能够向我们推送政治信息，销售商业
应用程序，追踪一些与我们的健康有关的活动等。
最好的一面和最差的一面
这会意味着隐私的终结吗？数据安全情况如何，被黑客入侵的可能性有多大？这些数据会被国家用来控制人民，甚至以个人人权为代价吗？一个持续监测我们的喜好，并根据这些喜好为我们提供一系列选项的由人工智能支持的环境，会以某种方式限制我们的选择自主性和创造性吗？
另一个要考虑的重要问题是，人工智能支持系统用来“学习”的数据本身是否包含偏见或成见，从而可能使人工智能做出导致歧视或侮辱的“决定”。用于社会互动或提供社会服务的人工智能系统将特别容易受此影响。我们必须意识到，一些数据，例如互联网上生成的数据，包含着反映人类最好一面和最差一面的信息。因此，仅靠人工智能支持系统从这些数据中学习，不足以确保产生合乎道德标准的成果，人为干预必不可少。
可以向人工智能支持系统传授伦理道德吗？一些哲学家认为，某些经验，如美学和伦理等，是人类与生俱来的，因此无法进行编程。其他人则提出，道德可以通过理性得到加强，因此可以进行编程，但同时必须尊重自由选择。
能否仅在理性思考的基础上，向人类传授伦理和道德，就这一问题人们目前尚且都无法达成共识，更不用说传授给人工智能了。即便最终可以通过编程使人工智能具备伦理道德，那我们又该使用谁的伦理道德呢？仅仅是开发者的吗？鉴于人工智能的发展主要由私营部门推动，因此必须考虑到私营部门的伦理有可能不符合社会伦理。
要确保人工智能为我们所用，而不是与我们为敌，我们就必须参与全面对话，对话当中要包含受人工智能影响的所有人的不同的伦理观点。同时，为了能够抵消对人类社会的潜在破坏，我们也必须确保，我们用来开发人工智能的伦理框架考虑到社会责任等更大的问题。
