作者:方晓 来源:澎湃新闻 发布时间:2023/10/31 13:42:22
选择字号:
AI监管加速:白宫发行政令,G7提自愿行为准则,英国开全球峰会

 

·七国集团(G7)发布《开发先进人工智能系统组织的国际行为准则》,包括11点框架。同日,美国总统拜登发布一项关于“安全、可靠和值得信赖的人工智能”的行政命令。

·由英国牵头的人工智能安全峰会即将于11月1日召开,科技公司的高管和政府官员等近百名代表将出席,包括OpenAI首席执行官山姆·奥特曼、特斯拉创始人埃隆·马斯克等科技领袖。中国代表也在受邀名单之列。

今年5月,七国集团在日本广岛举行峰会,宣布“广岛人工智能进程”。

全球政府或权力机构监管人工智能的行动密集展开。

当地时间10月30日,七国集团(G7)发布《开发先进人工智能系统组织的国际行为准则(International Code of Conduct for Organizations Developing Advanced AI Systems)》。该自愿指南以5月宣布的“广岛人工智能进程”为基础,旨在促进安全、可靠、值得信赖的人工智能。

同一天,美国总统拜登发布一项关于“安全、可靠和值得信赖的人工智能”的行政命令。同时,欧盟正在最终确定具有财务约束力的《人工智能法案》。

几天前,联合国成立新的人工智能咨询委员会,由39名全球政府、技术和学术领袖组成,有两名来自中国的专家入选,分别是中国科学院自动化研究所研究员、类脑智能研究中心副主任曾毅,以及中国政法大学数据法治研究院教授、博士生导师张凌寒。

由英国牵头的人工智能安全峰会即将于11月1日召开,科技公司的高管和政府官员等近百名代表将出席,包括OpenAI首席执行官山姆·奥特曼、特斯拉创始人埃隆·马斯克、微软总裁布拉德·史密斯、和谷歌DeepMind首席执行官德米斯·哈萨比斯等科技领袖。中国代表也在受邀名单之列。

“非详尽”原则清单

由美国、欧盟(非正式成员)、英国、加拿大、法国、德国、意大利和日本组成的七国集团在一份声明中表示:“我们……强调先进人工智能系统的创新机会和变革潜力,特别是基础模型和生成式人工智能。”“我们还认识到需要管理风险并保护个人、社会和我们的共同原则,包括法治和民主价值观,以人类为中心。”七国领导人称,应对这些挑战需要为人工智能“塑造包容性治理”。

七国集团发布了新的11点框架,以帮助指导开发人员负责任地创建和部署人工智能。该团体呼吁各组织致力于遵守行为准则,同时承认“不同的司法管辖区可能会采取自己独特的方法来实施这些指导原则。”

这11点框架包括:

第一,在整个开发过程中采取适当的措施来识别、评估和减轻风险。这可以包括红队(测试)、测试和缓解措施,以确保可信性、安全性和保障性。开发人员应该启用与数据集、流程和决策相关的可追溯性。

第二,识别并减少部署后的漏洞、事件和误用模式。这可以包括监控漏洞、事件和新出现的风险,并促进第三方和用户的发现和事件报告。

第三,公开报告先进人工智能系统的功能、局限性以及适当和不适当使用的领域。这应该包括由“强大的文档流程”支持的透明度报告。

第四,致力于负责任的信息共享和事件报告。这可以包括评估报告,有关安保和安全风险、有意或无意规避保障措施的能力的信息。

第五,制定、实施和披露人工智能治理和风险管理政策。这适用于个人数据、提示和输出。

第六,投资并实施安全控制,包括物理安全、网络安全和内部威胁防护措施。这可能包括保护模型权重和算法、服务器和数据集,包括操作安全措施和网络/物理访问控制。

第七,开发和部署可靠的内容身份验证和来源机制,例如水印。来源数据应包括创建内容的服务或模型的标识符,免责声明还应告知用户他们正在与人工智能系统进行交互。

第八,优先开展研究以减轻社会、安全和安保风险。这可以包括实施与投资研究和开发缓解工具,并促进合作。

第九,优先开发人工智能系统,以应对“世界上最大的挑战”,包括气候危机、全球健康和教育。各机构还应支持数字素养计划。

第十,推动国际技术标准的制定和采用。这包括促进国际技术标准和最佳实践的开发和使用。

第十一,对个人数据和知识产权实施适当的数据输入措施和保护。这应包括训练数据集的适当透明度。

七国集团强调,人工智能组织必须尊重法治、人权、正当程序、多样性、公平和非歧视、民主和“以人为本”。先进系统的引入不应有害、破坏民主价值观、助长恐怖主义、助长犯罪滥用,“或对安全、安保和人权构成重大风险”。

该组织还承诺引入监控工具和机制,以追究组织的责任。

为了确保其适合目的和具有响应能力,行为准则将根据政府、学术界和私营部门的意见进行必要的更新。“非详尽”原则清单将“作为一份动态文件进行讨论和阐述”。

七国集团领导人进一步声称,他们的努力旨在营造一个使人工智能效益最大化的环境,同时减轻其“为全球共同利益带来的风险”。这应该包括发展中经济体和新兴经济体,“以缩小数字鸿沟并实现数字包容性”。

白宫行政命令“执行困难”

欧盟委员会发表声明对这一自愿性行为准则表示欢迎,称“这些原则和自愿行为准则将在国际层面补充欧盟共同立法者目前根据欧盟《人工智能法案》最终确定的具有法律约束力的规则”。

欧盟凭借其要求严厉的《人工智能法案》一直处于监管新兴技术的最前沿,而日本、美国和东南亚国家则采取了更趋向于不干涉的方式来促进经济增长。

其中,美国国会距离制定监管生成式人工智能的立法还有相当长的距离,但拜登10月30日签署行政命令,推出了白宫有关生成式人工智能的首套监管规定,部分原因是希望在明年美国总统选举前遏制人工智能带来的一些现实问题。

“深度造假利用人工智能生成的音频和视频来抹黑声誉、传播虚假新闻并实施欺诈。”拜登在白宫签署该命令时表示,工作人员向他展示的一项实验表明,一个构建良好的人工智能系统可以令人信服地创建一份从未发生过的总统声明,从而引发一场政治或国家安全危机。“我说,‘我到底什么时候这么说过?’”

行政命令要求美国多个政府机构制定标准,对人工智能产品进行测试,寻求“水印”等内容验证的最佳方法,拟定网络安全计划,吸引技术人才,以保护隐私,促进公平和公民权利,维护消费者和劳动者的利益,促进创新和竞争,提升美国的领导地位等。

美国媒体对行政命令作出了一些评价。“尽管拜登拥有监管联邦政府如何使用人工智能的广泛权力,但他接触私营部门的能力却较差。尽管他说他的命令‘代表了大胆的行动’,但他承认‘我们仍然需要国会采取行动’。”《纽约时报》评论道,并援引专家的话称,该命令中的许多指令将很难执行。

“如果没有国会的行动,拜登政府所能取得的成就是有限的。除了提名对硅谷有敌意历史的主要执行者之外,白宫在科技问题上几乎没有采取任何行动。与此同时,尽管多年来国会试图制定有关隐私、网络安全和新兴技术的规则,但国会尚未通过任何重大科技立法。”《华盛顿邮报》评论称。

作为外交努力的一部分,美国副总统哈里斯将出席在伦敦举行的人工智能安全峰会。这场峰会旨在实现英国首相苏纳克希望让英国成为人工智能监管“地理中心”的计划,讨论议题将包括人工智能发展的未来方向、如何加剧全球不平等、对选举和教育的影响等。苏纳克表示,英国将建立“全球首个”人工智能安全研究所。

英国科学、创新和技术大臣米歇尔·唐兰(左)与英国首相苏纳克。

在为期两天的峰会中,第一天将由英国科学、创新和技术大臣米歇尔·唐兰主持,大多数科技公司和政府官员将出席首日活动。第二天的会议则由苏纳克主持,只会邀请小部分政治领导人和科技高管讨论具体应对措施。

会议的全部嘉宾名单尚未公布,但在国家领导人方面,美国总统拜登、法国总统马克龙、德国总理朔尔茨和加拿大总理特鲁多都将不会出席,只有欧盟委员会主席冯德莱恩确认参会。与会专家包括现代人工智能3位“教父”中的两位:杰弗里·辛顿和约书亚·本吉奥。

 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
老化的哈勃空间望远镜转向单陀螺仪操作 中国科学家首次发现“无摩擦的冰”
冰表面长啥样?原子级分辨图像揭晓答案 北方中纬高频雷达网发布首批科学探测结果
>>更多
 
一周新闻排行
 
编辑部推荐博文