联合国拟专设机构治理人工智能 中国反对人为制造科技壁垒

本报记者 于布林 北京报道

人工智能已经成为国际治理的重要议题。

7月18日，联合国安理会举行9831次会议，围绕“人工智能：国际和平与安全的机遇与风险”进行公开辩论。来自中国科学院自动化研究所的曾毅在会议上就相关议题做了通报，中国驻联合国大使张军参会并做重要发言。

他强调，发展中国家平等获取和利用人工智能技术、产品和服务，对于弥合南北技术鸿沟、数字鸿沟、发展鸿沟至关重要。个别发达国家为谋求科技霸权，构建排他性小圈子，以种种借口和行动恶意阻挠他国技术发展，人为制造科技壁垒，中方对此坚决反对。

2017年，中国政府颁布《新一代人工智能发展规划》，明确提出科技引领、系统布局、市场主导、开源开放等基本原则。近年来，中国不断完善相关法律法规、伦理规范、知识产权标准、安全监测与评估措施等，充分保障人工智能健康有序发展。

这是联合国安理会就人工智能议题的首场公开辩论。联合国秘书长古铁雷斯表示，世界在减缓人工智能带来的风险方面已经有了起点，包括通过《特定常规武器公约》就致命自主武器系统达成的指导性原则，以及由教科文组织会员国一致通过的《人工智能伦理问题建议书》。

据了解，部分联合国成员国提出，建立新的联合国机构来治理人工智能。古铁雷斯对这一建议表示欢迎。这一机构的设立模式，或将参考国际原子能机构、国际民航组织或政府间气候变化委员会的模式。

他表示，这一机构的总体目标将是“支持各国最大限度地受益于人工智能，减缓现有和潜在的风险，并制定和管理国际商定的监测与治理机制”。

记者掌握的情况表明，在设立这一机构之前，联合国目前已经准备召集人工智能高级别咨询委员会，由包含各利益相关方的人员参加。这个委员会的任务是在今年年底前，为全球人工智能治理的选项提供一份报告。

联合国倾向于在2026年之前完成一项具有法律约束力的国际文书的谈判工作，以禁止在没有人类控制或监督的情况下运行致命自主武器系统。

张军在发言中也谈及了人工智能与武器之间的关系。他表示，人工智能在军事领域可能引发作战方式和战争形态的重大变革，各国应秉持负责任的国防政策，反对利用人工智能谋求军事霸权、破坏他国主权和领土完整，避免滥用、误用甚至恶用人工智能武器系统。

张军表示，人工智能的潜在影响可能超出人类的认知边界，要确保这一技术始终造福人类，就必须将“以人为本”、“智能向善”作为基本准则，用以规范人工智能的发展方向，避免这一技术成为“脱缰的野马”。在这两个准则的基础上，逐步建立并完善人工智能伦理规范、法律法规和政策体系，同时允许各国立足自身发展阶段和社会文化特点，建立符合自身国情的人工智能治理体系。

“人工智能相关技术发展和应用存在诸多不确定性，安全是必须守住的底线。国际社会要强化风险意识，建立有效的风险预警和应对机制，确保不发生超出人类掌控的风险，确保不出现机器自主杀人。要加强对人工智能全生命周期的检测与评估，确保在关键时刻人类有能力摁下停止键。技术领先企业要明确责任主体，健全问责追责机制，避免发展或使用可能产生严重消极后果的风险技术。”他说。

近期以来，中国、美国等国家均出台了政策，加强对人工智能的治理。7月13日，国家网信办等七部委员发布《生成式人工智能服务管理暂行办法》（下称《暂行办法》），明确了包容审慎、分类监管的治理原则，对个人信息保护、生成式人工智能服务提供者的合规义务、来源于境外向境内提供生成式人工智能服务不符合法律法规规定时的处置办法等提出了具体要求。

同期，美国联邦贸易委员会（FTC）对推出ChatGPT的公司OpenAI发起数据安全调查，7月13日，OpenAI的CEO萨姆·奥特曼（Sam Altman）做出回应，将配合FTC的调查工作。

除安全外，人工智能技术可能带来的不平等也引起全球范围内的关注。张军在发言中表示，科技发展要在推动技术进步和保障安全应用两方面取得相对平衡，最佳路径是保持开放合作，鼓励跨学科、跨领域、跨地区、跨国界的交流对话，反对各种形式的“小院高墙”、“脱钩断链”。我们要在联合国框架下，推动国际组织、政府部门、科研和教育机构、企业、公众在人工智能发展与治理领域加强协调互动，共同打造开放、包容、公正、非歧视的科技发展环境。