作者:方晓 来源:澎湃新闻 发布时间:2024/1/17 13:43:38
选择字号:
OpenAI为缓解监管压力构建众包治理

 

·OpenAI正在组建“集体对齐”团队,以创建一个新系统,采纳公众关于如何确保其未来人工智能模型“符合人类价值观”的想法。

·OpenAI首席执行官山姆·奥特曼表示,人工智能对世界的改变比我们想象的要小得多,对工作的改变也比我们想象的小得多。

 1月16日,瑞士达沃斯世界经济论坛开幕当天,OpenAI首席执行官山姆·奥特曼接受彭博社采访。

新的一年,ChatGPT的开发机构OpenAI展现出力图减轻监管压力的姿态。

当地时间1月16日,这家美国人工智能开发机构宣布,希望采纳公众关于如何确保其未来人工智能模型“符合人类价值观”的想法,为此正在组建一个由研究人员和工程师组成的集体协调团队,以创建一个新系统,用于收集公众对其模型行为的输入,并将其“编码”到OpenAI的产品和服务中。

前一天,OpenAI赶在2024年的多场选举之前宣布,禁止将旗下工具用于政治竞选和选民压制。

OpenAI首席执行官山姆·奥特曼16日在世界经济论坛上表示,人们担心人工智能有一天会变得如此强大,以至于会极大地重塑和颠覆世界,这种担心是多余的。

但在当天,OpenAI表示正与五角大楼合作开展软件项目,其中包括与网络安全相关的项目,这与该公司之前禁止向军队提供人工智能技术的原则背道而驰,引发了一些担忧。

12个国家的人员参与

OpenAI在博客文章中写道,该公司去年5月宣布了“人工智能资助项目民主投入”计划,旨在资助个人、团队和组织建立“民主流程”的实验,以回答有关人工智能护栏和治理的问题。

该公司向来自113个国家的近1000名申请者中的10个团队提供了10万美元的奖励。所选团队的成员来自12个不同的国家,专业知识横跨各个领域,包括法律、新闻、和平建设、机器学习和社会科学研究。

这些受资助团队的工作涵盖了从视频聊天界面到人工智能模型众包审计平台等各个方面。工作中使用的所有代码以及每项提案的简短摘要和要点均已公开,发布在OpenAI的官网上。

OpenAI从这项计划中获得了一些经验,并提出实施计划。“我们的目标是设计包含公共输入的系统,以引导强大的人工智能模型,同时解决上述挑战。为了帮助确保我们在这项研究上继续取得进展,我们正在组建一个由研究人员和工程师组成的‘集体对齐(Collective Alignment)’团队。”该公司写道。

新的团队将建立一个系统,收集公众对其模型行为的输入并将其编码到OpenAI的系统中。该公司将继续与外部顾问和资助团队合作,包括运行试点项目,将资助原型纳入指导其模型。

奥特曼、OpenAI总裁格雷格·布洛克曼和首席科学家伊利亚·苏茨维克多次表示,人工智能的创新步伐如此之快,不能指望现有当局充分控制这项技术,因此需要将这项工作众包。包括Meta在内的一些竞争对手指责OpenAI试图通过游说反对开放AI研发,来主导对AI行业的监管。OpenAI否认了这一点,可能将资助计划和“集体对齐”团队作为其“开放性”的一个例子。

不得用于政治竞选和游说

OpenAI正受到政策制定者越来越严格的审查,并面临英国对其与微软关系的调查。最近,该公司似乎希望减轻监管机构的压力。当地时间1月15日,就在共和党公布第一州的初选结果之日,OpenAI概述了对其工具应用于政治领域的限制。

OpenAI的ChatGPT和Dall·E是市面上最强大的AI聊天机器人和图像生成应用程序之一。这类工具的发展已引发担忧,可能被用于通过虚假新闻报道以及由计算机生成的图像和视频来操纵选民。

OpenAI就其政策进行了一系列澄清,其中一条是,其工具不得用于政治竞选和游说,也不得用于创建冒充候选人和其他真人的聊天机器人,以及冒充地方政府的聊天机器人。

该公司表示,旗下工具还不得用于给投票设置障碍,例如声称投票毫无意义。

为了帮助选民更好地评估信息或图像是否由AI生成,OpenAI表示,对于Dall·E生成的图像,将就图像溯源相关细节进行编码。该公司还将越来越多地提供新闻报道的链接和出处,以帮助选民评估生成文本的可靠性。

其他AI系统开发商也在2024年全球七十多国举行选举前宣布了一些措施。谷歌上个月表示,将限制该公司AI聊天机器人Bard进行选举查询,拥有Facebook的Meta已在去年禁止竞选活动使用AI广告工具。

OpenAI与美国国防部合作

16日,OpenAI全球事务副总裁安娜·马坎朱(Anna Makanju)在世界经济论坛上表示,OpenA正在与美国国防部合作开发开源网络安全软件工具,并已与美国政府就帮助防止退伍军人自杀的方法进行了初步谈判。

上周,OpenAI删除了其使用政策中禁止其人工智能用于“军事和战争”应用的措辞,引发了人工智能安全倡导者的警惕。马坎朱将这一决定描述为更广泛的政策更新的一部分,以适应ChatGPT及其他工具的新用途。

“因为我们之前对军事实行了本质上的全面禁止,许多人认为这会禁止许多用例,人们认为这些用例符合我们希望在世界上看到的。”她在接受彭博社采访时说。但她表示,OpenAI仍然禁止使用其技术来开发武器、摧毁财产或伤害人员。

OpenAI最大的投资者微软公司已与美国武装部队和其他政府部门签署了多个软件合同。

奥特曼也出席了世界经济论坛这场彭博社组织的活动。他表示,通用人工智能(AGI)可能会在“相当接近的未来”得到开发。通用人工智能是指可以完成与人类相同水平或更高一级任务的人工智能形式。

奥特曼表示:“它对世界的改变比我们想象的要小得多,对工作的改变也比我们想象的小得多。”自ChatGPT爆火以来,他已多次试图缓解人工智能怀疑论者对该技术将在多大程度上接管社会的担忧。

美国前总统特朗普15日在艾奥瓦州共和党党团会议上获胜后,奥特曼被问及随着总统选举的升温,人工智能是否会加剧经济不平等并导致劳动阶级的混乱。

“是的,当然,我认为这是值得考虑的事情。”奥特曼说。但他后来说,“这比我想象的更像是一种工具”,人工智能尚未以许多经济学家担心的规模取代工作岗位,这项技术已经成为“令人难以置信的生产力工具”。

(原标题:OpenAI缓解监管压力:构建众包治理,禁止AI用于政治竞选)

 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
科学网APP推出论文&基金全新活动 冰表面长啥样?原子级分辨图像揭晓答案
北方中纬高频雷达网发布首批科学探测结果 “双星计划”:开启中国空间科学新纪元
>>更多
 
一周新闻排行
 
编辑部推荐博文