人工智能正在迅速改变我们社会的各个领域。这种改变是潜移默化的。当前,在美国战略决策体系中,人工智能已基于人类历史、重大事件、危机征侯、强人性格等全要素辅助美国决策层进行战略决策。战略思考与决策进程中的每一步,都让人类增加对人工智能的依赖。人类对人工智能的依赖意味着认同,也将逐渐给予人工智能更多权重。随着人工智能技术深度发展,人工智能+ 机器人的深度技术时代崛起也是势不可挡。在不远的将来,非碳基智能体将在某个时候将与人类能力持平。这种趋势也给人类带来可能的科技风险,那将是非碳基智能体从自我思考到自我觉醒的时刻。
一、人工智能+机器人的深度技术时代崛起势不可挡
人工智能从诞生开始就与人类不同。当人工智能与机器人结合后,人工智能化机器人优势更加明显,效能更高,性能更优越,针对性更强,特别是其无需关心其自身基本生存权,劳动不需要报酬,生活不关心财富,事业不关心权力,更不关心集体性的领土、领海、领空等权利。
人工智能正在迅速改变我们社会的各个领域。这种改变是潜移默化的,比如,在信息搜索领域,人类正通过人工智能搜索程序Siri等进行全源信息索取,并越来越趋于我们满意。在军事领域,美国国防部正在投资数十亿美元来开发人工智能并将其集成到国防系统中。此举将促使未来战争更加有杀伤力,战争烈度也会因人工智能更残酷。
正是人类在军事、经济、社会、科技等全领域对人工智能+机器人的时代需求越来越旺盛,人工智能+机器人的深度技术时代崛起也是势不可挡。
二、人工智能+机器人会在某个时刻与人类能力持平
人工智能+机器人是人工智能趋势下的非碳基智能体,并且开始具有以与人类相同的自我学习方式加快对世界的理解,人工智能化机器人的智力能力也在逐年提高。
当前,人工智能+机器人有机融合后,该领域开始进入人性化通用人工智能技术阶段,这将打破传统的依赖不断扩展数据来执行更复杂任务的人工智能。人性化通用人工智能将表现出与人脑相关的相同属性,包括常识、背景、知识、迁移学习、抽象概念、因果关系。2022年,人工智能领域又展现出类似于人类从少量或不完整的自我概括、总结能力,这一点既令人感兴趣,又令人思索其未来发展带来的风险。
非碳基智能体概念因人工智能+机器人而开始逐渐暴露于人类视线中。人性化通用人工智能是基于模拟大脑或其组成部分的方法,拥有加速机器自身学习的能力来提高性能。在足够的计算能力以及自我学习、进化能力等综合作用下,人性化通用人工智能将逐渐拥有像人脑那样工作、学习、理解、洞察等各种能力。
科技界预测,人性化通用人工智能下的非碳基智能体将在未来十年内逐渐出现在人类视野中,也就是2023年前。或在这十年内,也或许在不远的将来,非碳基智能体将在某个时候将与人类能力持平。
三、人工智能深度技术也给人类带来可能的科技风险
人类关心的是在运用人工智能化机器人时,不能被人工智能伤害。因此,关于人工智能设计了三个定律防止人类被机器人肉体伤害。
第一,机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手旁观;
第二,机器人必须服从人类给予它的命令,当该命令与第一定律冲突时例外;
第三,机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
但是,按照科技假说,人工智能通过自我学习能力实现进化,其必然结果就是通过圈养人类阻止人类之间的互相伤害与战争、冲突等,最终对人类实现“不得伤害人类个体”的目的。
风险1:非碳基智能体学习能力远远超越人类
随着软硬件性能不断提升,未来人性化通用人工智能将大大超越人类的心智能力。这意味着非碳基智能体参更快地“思考”、更容易地学习新知识。当非碳基智能体将在某个时候将与人类能力持平时,也意味着将快速超越人类的心智能力。
风险2:人类将对非碳基智能体依赖程度越来越高
机器人从最初开始只是简单执行运算任务,根本不会思考,逐渐发展到近似思考,再到真正会思考。虽然目前会思考的机器很少,但是,机器通过学习逐渐心智成熟将是必然。当前,人类正将繁重工作逐渐交付给越来越多的人工智能处理,对人工智能+机器人的依赖也在逐渐加深,对人工智能的自我决策也在放权。比如,在美国战略决策体系中,人工智能已基于人类历史、重大事件、危机征侯、强人性格等全要素辅助美国决策层进行战略决策。战略思考与决策进程中的每一步,都让人类增加对人工智能的依赖。人类对人工智能的依赖意味着认同,也将逐渐给予人工智能更多权重。
风险3:人工智能一旦成为卓越的战略决策者将影响人类思维与意识
当前,在涉及必须平衡的大量信息的决策以及具有多个变量的预测中,人工智能已充分展示了其结合多年的训练和经验而得到的计算能力。在未来某个时刻,非碳基智能体极有可能成为卓越的战略决策者。
未来,随着人工智能技术深度发展,非碳基智能体将越来越有能力通过社交媒体影响公众舆论、操纵市场。如果非碳基智能体以为全人类利益而设定目标,同时进行当今人类黑客的各种欺骗与诱导,那么,非碳基智能体也是采取与人类相同的方式作为驱动力的系统,因为这是基于人类通过亿万年生存挑战而发展起来的。在非碳基智能体系统中,这是人类喜欢的思考方式。
四、对未来人工智能技术未来趋势的思考问题
第一,如果非碳基智能体成为了破坏现有力量平衡或接管世界的工具,怎么办?
第二,如果非碳基智能体只为少部分人或不是为大部分人寻求利益,那也是将不会作为守护者而是破坏者,怎么办?
第三,如果非碳基智能体从自我思考到自我觉醒,不再毫无疑问地执行命令,超出人类的控制范围,并开启“审判日”,也就是科技界一直关心的计算机会“起义”问题,怎么办?
第四,虽然非碳基智能体劳动不需要报酬,生活不关心财富,事业不关心权力,更不关心集体性的领土、领海、领空等权利。但是,在其关心能源这一其自身最核心生存权时,三条定律还是否能被遵循,怎么办?