作者:杨阳 来源:澎湃新闻 发布时间:2023/4/12 10:08:16
选择字号:
最高2万美元!OpenAI全球悬赏寻找AI系统错误和漏洞

 

OpenAI开始“悬赏”找漏洞,最多奖励2万元。

当地时间4月11日,OpenAI发布了一项“漏洞悬赏计划(Bug Bounty Program )”,以鼓励外界帮其寻找人工智能系统中的漏洞和错误,奖金最高为2万美元。

OpenAI称,其使命是创建造福所有人类的AI(人工智能)系统,该公司已经大力投资研发,以确保AI系统安全可靠,“然而,与其他复杂技术一样,漏洞和缺陷可能会出现。”

“透明度和协作(transparency and collaboration)对解决这一问题至关重要。”OpenAI写道,“这也是为什么我们想要邀请全球的安全研究人员、道德黑客和技术爱好者帮助我们识别和解决系统中的漏洞。我们很乐意为报告符合条件的漏洞的人提供奖励。”

OpenAI称已经与漏洞赏金平台Bugcrowd进行了合作,让其帮忙管理提交和奖励流程。该公司表示,将根据对方报告问题的严重性提供现金奖励,金额为200美元到2万美元不等。

这不是OpenAI首次公开提出解决方案。就在上周,该公司发布题为《我们对于人工智能安全的方法》的文章,表示该公司正致力于“制定针对会威胁人类行为的细致政策”。

OpenAI介绍了六个方面的策略,包括构建更加安全的系统、从实际使用中积累经验以改进安全措施、保护儿童、尊重隐私、提高事实准确性以及持续研究并参与。

新技术的安全问题不断引发外界的担忧。就在上个月,OpenAI的聊天机器人ChatGPT出现了用户对话数据和付款服务支付信息丢失的情况。该公司最终发布报告称,发生这一意外事件的原因是Redis客户端开源库redis-py中存在漏洞。

OpenAI的首席执行官Sam Altman随后也对在推特上道歉,公开承认开源库中出现错误,并表示已经修复了错误并完成验证。

但这仍然引起了部分国家监管机构的注意。ChatGPT在欧洲地区遭受“冷遇”。此前3月31日,意大利宣布禁止使用ChatGPT,并限制其开发公司OpenAI处理意大利用户信息。随后,德国、法国和爱尔兰在内的多个国家也纷纷表示考虑“封禁”该技术。

对于意大利的禁令,当地时间4月5日,OpenAI与意大利个人数据保护局举行会议,OpenAI表示愿意与该机构进行合作,以解决其对数据安全的担忧。

 
 
 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: