薛澜、梁正教授出席“2024通州·全球发展论坛”

2024年10月19日下午，“2024通州·全球发展论坛”分论坛一在北京智源大厦一层报告厅举行；论坛主题为“全球智慧治理与人类发展新形态”。

国际欧亚科学院院士、住房和城乡建设部原副部长、国务院参事仇保兴，中国人民大学校长林尚立，中国人民大学常务副校长朱信凯，中国科学技术协会宣传文化部副部长谭华霖，斯坦福大学终身教授、冯·诺依曼理论奖首位华人获奖者、国际知名运筹学专家叶荫宇，清华大学人工智能国际治理研究院院长、苏世民书院院长、国家新一代人工智能治理专业委员会主任、国务院参事薛澜，中国人民大学高瓴人工智能学院执行院长文继荣，北京智源人工智能研究院院长王仲远，清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正，中国人民大学国家发展与战略研究院副院长刘青，中国科学院信息工程研究所副所长王伟平等出席会议。

论坛一包括主旨演讲、圆桌论坛、成果发布等多个环节。

在主旨演讲环节，梁正教授发表了题为《转折与出路：构建智能时代人类文明新图景》的报告，他从人工智能对人类文明的综合影响、风险挑战和治理路径三方面进行了论述。

首先，梁正教授梳理了人类文明从农耕时代到智能时代的历史演进，分析了人工智能对个体存在及发展、社会变迁、人类福祉等层面的综合影响。他强调，人类已迈入智能时代的门槛，进入自然智能和人工智能并存的“二元化”时代。在人类心智与人工智能的交汇点上，面对新的生命形态，人类需要重新审视自我，同时要面对科研范式转型、教育生态重塑、职业和家庭形态变化等影响。

随后，梁正教授探讨了智能时代人类面临的重大风险挑战，包括自主人工智能失控风险、全球智能鸿沟扩大、“巨角兽”企业垄断、因信息茧房而致使社会撕裂、社会网络权力结构变化等。面对智能时代的人类文明转折与挑战，梁正教授提出，我们要以治理促发展，主动谋划技术发展方向；要坚持包容审慎，把握发展与安全的平衡；要加强跨界交流与合作，实现敏捷协同治理；要推进多维共治，建立分层分级的治理框架；要加强国际合作，构建开放公正有效的治理机制。

最后，梁正教授热情邀请大家参加于12月初将在新加坡召开的“2024人工智能合作与治理国际论坛”，为推动“智能向善”凝聚广泛共识。

梁正教授作主旨报告

在圆桌对话环节，薛澜教授在梳理人工智能风险的基础上，介绍了当前人工智能国际治理的最新进展和困难挑战，并就人工智能全球治理体系构建提出针对性建议。

首先，薛澜教授梳理了人工智能的风险。一是人工智能系统失控风险。他指出：在人工智能的智能化水平较低阶段，只要“拔掉插销”就可以阻止其风险；但是随着技术进步，当其智能化水平达到一定程度时，有可能会表现出伪装的倾向。当其对脱离人类控制具有很高的把握时，人工智能系统很可能会展现出另外一面，然而此时再“拔插销”恐怕已难以起到作用。换言之，当人工智能具有较高的智能水平时，它就有可能会摆脱人类的控制。二是人工智能会被用于对人类造成巨大伤害的领域，譬如人工智能被国家行为体用于战争，制造大规模杀伤性武器等。对此，主权国家由于相互之间存在约束进而限制了这种风险；但是与主权国家相比，极端组织受到的约束更小，而这将加剧人工智能的风险隐患。三是信息茧房和就业影响等方面的风险，此类风险需要我们实施相关的治理机制，从技术、制度等多个层面提出解决方案。

随后，薛澜教授指出，目前世界各国都在不断探索人工智能治理。我国不仅在顶层设计上颁布了《新一代人工智能发展规划》、《新一代人工智能治理原则——发展负责任的人工智能》等文件，而且在不同领域采取了分布式的治理手段和具体的措施，形成了分层次、适应性的政策体系。

最后，薛澜教授强调，当前人工智能全球治理面临技术和制度“步调不一致（pacing problems）”、地缘政治等多重挑战，它需要我们将技术和制度深度结合，开展“敏捷治理”，注重发挥人工智能安全网络的作用，共同促进治理体系不断完善。

薛澜教授参加圆桌论坛

圆桌论坛环节

通州·全球发展论坛由中国人民大学于2023年10月创办，由中国人民大学与通州区人民政府共同承办，构筑世界各国政界、学术界及商界共商共议全球发展战略问题的高端对话平台。本届通州·全球发展论坛是中国高校首次参与联合国可持续发展目标规划设计的国际论坛，是首个以“全球发展”为主题、机制化召开贯彻落实“全球发展倡议”的国际论坛。