2月11日，为期两天的人工智能行动峰会在法国首都巴黎闭幕，包括法国、中国、印度、欧盟在内的多个国家和国际组织共同签署了《关于发展包容、可持续的人工智能造福人类与地球的声明》。美国和英国未签署该声明。
中国外交部原副部长傅莹10日在法国巴黎表示，人工智能（AI）全球治理应超越地缘政治干扰，中方愿与国际社会携手，共同促进AI安全发展。
本次人工智能行动峰会旨在加强国际社会的行动力，探讨人工智能的应用和全球治理问题。由托尼·布莱尔全球变革研究所（Tony Blair Institute for Global Change, TBI）主办的“人工智能时代的治理论坛”是其中之一，议题涉及“全球领导力与人工智能发展的潜在机遇”“构建人工智能的坚实基础”“负责任的人工智能创新与应用”和“推进人工智能安全科学”。意大利前总理马泰奥·伦齐出席会议并致开幕词。
傅莹应邀在“推进人工智能安全科学”一节担任嘉宾，其他同台嘉宾包括蒙特利尔大学教授、蒙特利尔学习算法研究所创始人约舒亚·本乔（Yoshua Bengio）和普林斯顿高等研究院教授阿隆德拉·纳尔逊（Alondra Nelson）。傅莹还参加了随后的闭门晚宴，与各方开展积极交流。
傅莹（右一）参加“人工智能时代的治理论坛”的讨论。
关于中国人怎么看AI安全问题，为何没有建立“人工智能安全研究所（AISI）”？傅莹说，中国业界已经在政府支持下成立了对应国际上的“AI安全研究所”（AISI）的“中国人工智能发展与安全研究中心”。在中国AI技术应用和安全治理领域存在一个多元化和多样化的生态环境，有多个政府部门和机构、企业在关注和投入安全治理问题。网络的建立让大家都参加进来，共同参与和分享知识、信息，增强自身能力建设，同时积极参加国际对话合作。中方也参加了2023年11月在伦敦举行的全球人工智能安全峰会，一直在关注各国AISI进程的发展，中国科技界也与各国科技界保持密切沟通。
关于中方怎么看人工智能技术的发展和应用带来的风险问题时，傅莹说，中方对AI风险的关注分为两个层面。一个是应用中的风险。一方面，中国政府早在2017年就制定《新一代人工智能发展规划》，提出AI安全、可控与可持续发展的要求。目前AI已在经济、金融、城市管理、医疗和科研等领域全面应用，风险与挑战并存，对政府的管控需求和对相关应对技术的需求都很迫切。中国政府在网络管理法律法规的实践基础上，就AI管理陆续出台法律和规范性文件，基本思路是在鼓励创新和防范、管控风险之间保持平衡。同时，一批专门应对AI安全问题的技术创新企业也应运而生。
另一方面，中国着眼未来风险参与国际合作。中国2023年10月发布了《全球人工智能治理倡议》，强调智能向善，主张建立风险等级测试评估体系。中方签署了《布莱奇利宣言》。2024年7月1日，第78届联合国大会期间，中国提出的加强人工智能能力建设国际合作决议获得协商一致通过，得到140多个国家支持。中方对AGI（通用人工智能）风险的理论和技术探讨也高度关注，中国科技界与国际同行在认识层面基本同步。
被问到中美关系和两国能否在AI上开展合作时，傅莹表示，当前地缘政治的干扰令许多人对中美AI合作不乐观。她回忆2019年基辛格与美国企业家、计算机软件工程师埃里克·施密特在北京参加AI安全圆桌会时，谈到对AI未来风险的担忧。她曾回应说，如若中美携手与世界各国合作，人类有可能管控机器，但若各国相互排斥并利用高智能机器彼此对抗，机器赢的概率恐怕更大。
过去几年美国对华科技封锁和打压毒化了全球合作氛围，科技创新指数级上扬与中美关系受到损害的两条曲线相交加剧紧张局面。在这个科技大爆发的时代，人类最需要动员全部的智慧与能量合作之际，主要国家却试图关闭合作平台。这也导致两个平行的动态趋势。一是美国前沿技术公司和科技人员在AI的虚拟世界快速创新发展的领先趋势，另一个是中国在AI技术垂直应用领域的领先趋势。这两股力量都有很强的冲劲，前者拥有巨额的资本支撑，后者拥有强大的制造业和广阔的市场支撑。从人类技术发展的历史进程可以自然地预期，这两股力量的结合是未来AI乃至AGI安全、负责任应用的最佳出路。然而，从过去几年的情况看，许多人认为前景似乎不那么光明。因此，地缘政治的干扰可以被认为是对AI安全需要关注的第三个层面。
中国对中美合作和全球治理保持相对冷静的态度，并提出在分歧上尊重彼此核心利益和重大关切，坚持相互尊重、和平共处、合作共赢的原则。
围绕国际上关于AI技术发展的开源和闭源两种路径，傅莹说，从中国学界和企业的角度看，开源虽有风险，却有利于及时发现安全漏洞，而且更符合造福人民的理念。相较之下，大公司完全不透明的大模型更令人忧虑。同台嘉宾约舒亚·本乔则担心开源被不法分子利用，但承认其更易发现潜在问题。他主导的《国际人工智能安全报告》在中国受到关注，指出社会和政府如何应对不确定性将决定AI未来发展。
还没有评论，来说两句吧...