单打独斗已不适合大科学时代的科技创新，要进行有组织科研；人工智能（AI）大模型就像孙悟空，需设好紧箍咒；AI的本质是集体，而不是个人……以“科技·创造可持续未来”为主题的2023外滩大会昨天在上海开幕，近20位中国两院院士、诺贝尔奖和图灵奖得主齐聚浦江之畔，今年“大咖”们聚焦的主题都格外“脚踏实地”，围绕基础研究、前沿数字科技等展开深度探讨。
张人禾：单打独斗不适合大科学时代的科技创新
9月1日，复旦大学20年来首次举办户外开学典礼。决定的依据是什么？中国科学院院士、复旦大学副校长张人禾揭秘：因为“伏羲”说，9月1日不下雨。最后，这个气象大模型的判断与实际结果完全一致。
借由这个案例，张人禾提出：AI不但改变了我们的生活，也为科学研究带来了更多可能。他表示，AI在科学研究中的地位，要从范式变革的角度来理解，传统科研范式已经历4个演化阶段，而当下，科学智能通过多模态大模型等新技术，再次改变了基础科学研究范式。
“在基础研究领域中，许多模型都遵循数学与物理定律，科学智能可以帮助我们去解析探索这些规律，为复杂场景提供研究新线索、科学新假设，从而发现新物质、合成新材料，构建新机理。”他举例解释，比如AI在量子力学中，可用于学习神经波函数，进行量子多体问题的求解，“AI可以在假设形成、实验设计、数据收集和分析等过程的每个阶段增强和加速研究，从而重塑科学发现。”
张人禾认为，科学智能的发展正在从部分机构的探索变成产学研各界的共识，从点状突破变为系统布局，已成为AI的重点发展方向。国内科学智能也相继涌现出科学领域大模型，但仍处于起步阶段。他认为，面对AI时代的来临，单打独斗已不适合大科学时代的科技创新，要进行有组织科研，布局建设大平台，推动跨学科交叉研究，激发创新突破，加速科技创新与产业变革的深度融合，推动产业转型升级。
何积丰：大模型就像孙悟空，需设好紧箍咒
大模型进入大众视野不超过一年，中国科学院院士何积丰形容是“生活在早期的黑暗丛林里，感觉到处都埋伏着风险却又看不清”。
为何会有这种不安全的感受？何积丰指出了大模型与之前AI在安全上的本质区别：它不仅展示出通用人工智能的能力，而且迅速深入到生产生活的各个场景中，可谓“无孔不入”，因此带来新的安全隐私问题，这既可能发生在训练过程中，也可能发生在使用过程中，还会让使用者面临“要么失去隐私，要么失去服务”的两难境地。不仅如此，大模型的生成能力还让“隐私泄露”变得多样化，造成隐私保护更加困难。
“为了应对这些问题，我们需要大模型对齐技术。”何积丰说，“对齐”是指系统目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果，“如果把AI看作孙悟空，‘对齐’就是唐僧口中的紧箍咒。有了紧箍咒，就可以保证技术不会被任意使用。”
不过，对齐技术同样面临挑战，不仅考验技术，也审视文化。何积丰介绍，反馈强化学习是实现对齐的技术途径，目前有两种方式，一种方式是通过人工反馈给大模型不同的奖励信号，从而引导它高质量输出；另一种方式是事先给大模型提供明确的原则，系统自动训练模型对所有生成的输出结果提供初始排序。“这意味着，不仅智能系统需要向人类价值观对齐，人类的训练方法也要向价值观对齐。”何积丰说。
迈克尔·I·乔丹：AI的本质是集体，而不是个人
“如果你问ChatGPT，刚刚写的内容你确定吗？它完全无法回答这个问题。”一上台，机器学习泰斗、美国“三院”院士迈克尔·I·乔丹就抛出了一个他在生成式人工智能问题上最感兴趣的点——“不确定性”。
“人在遇到‘不确定’的时候，非常擅长沟通信息以及应对它。但ChatGPT无法对不确定性进行量化，所以，我们需要找到一个可能的方法去应对这些挑战。”他不认为有一种所谓的超级电脑会替代人，应该把技术看作是一个工具来赋能人类，建议关注集体的智能体。
“AI的本质是集体，而不是个人。”乔丹表示，科技是一个非常好的工程系统，公平、公正、透明、稳定，是这个工程系统的特点，而不是系统当中个体的特点。也正因此，需要建立一个协作式、去中心化的系统来实现集体智能，“日常生活中经常遇到不确定性，让去中心化的系统能帮助我们更好、更有效地应对日常世界中的不确定性，这才是我们亟待解决的问题。”
倪以理：生成式AI将开启数万亿美元赛道
“下一个中国，还是中国。”麦肯锡中国区主席、全球资深董事合伙人倪以理认为，中国市场蕴藏着巨大的发展机遇，全球没有任何市场能够替代中国市场。
今年以来，生成式AI的技术风暴席卷全球，倪以理特别看好这一行业，认为它将开启价值超过万亿美元的赛道。不仅如此，生成式AI有望开启一场关系到未来8至10年发展的新一轮技术和产业变革，“我们做了一个测算，生成式AI对全球经济的正面影响最高可达7.9万亿美元，而AI对全球经济的潜在收益更将达到25万亿美元，这是当前所有企业最重要的赛道之一，但这个时代刚刚开始。”
“生成式AI将对所有行业产生重大影响。”倪以理认为，排名前三的行业分别是高科技、零售、旅行。他举例说，在高科技行业，该技术每年可以额外创造2400亿至4600亿美元的价值；在零售和消费品领域，每年可达2400亿至3900亿美元；在整个银行业，每年可达2000亿至3400亿美元。他还指出，生成式AI可以大幅促进生产力提升，并提供新的就业机会。
