作者:郑金武 来源:科学网 www.sciencenet.cn 发布时间:2019/5/25 16:44:16
选择字号:
《人工智能北京共识》发布15条原则规范AI

 

5月25日,北京智源人工智能研究院联合北京大学、清华大学、中科院自动化研究所、中科院计算技术研究所、新一代人工智能产业技术创新战略联盟等高校、院所和产业联盟,共同发布《人工智能北京共识》。同时,北京智源人工智能研究院人工智能伦理与安全研究中心揭牌成立。
 
 
北京市科委主任许强和海淀区副区长李俊杰为中心揭牌
 
 
高校、院所、企业代表共同签署《人工智能北京共识》
 
北京智源人工智能研究院院长黄铁军介绍,《人工智能北京共识》针对人工智能研发、使用和治理三方面,提出了各个参与方应该遵循的有益于人类命运共同体构建和社会发展的15条原则。
 
 
北京智源人工智能研究院院长黄铁军发布《人工智能北京共识》
 
其中,在研发方面,《人工智能北京共识》提倡要有益于增进社会与生态的福祉,服从人类的整体利益,设计上要合乎伦理,体现出多样性与包容性,尽可能地惠及更多人,要对潜在伦理风险与隐患负责,提升技术水平控制各种风险,并最大范围共享人工智能发展成果。
 
在使用方面,提倡善用和慎用,避免误用和滥用,以最大化人工智能技术带来的益处、最小化其风险,应确保利益相关者对其权益所受影响有充分的知情与同意,并能够通过教育与培训适应人工智能发展带来的影响。
 
在治理方面,对人工智能部分替代人类工作保持包容和谨慎态度,鼓励探索更能发挥人类优势和特点的新工作,广泛开展国际合作,共享人工智能治理经验。人工智能的准则与治理措施应做到适应和适度,并开展长远战略设计,以确保未来人工智能始终保持向对社会有益的方向发展。
 
北京市科委主任许强表示,人工智能伦理与规范是未来智能社会发展的重要基石,已经引起了相关国际组织、政府和学术界、企业界的广泛关注。欧盟、英国、日本等国际组织和国家,均发布了人工智能的伦理准则。
 
据悉,《人工智能北京共识》关注“服务于人”,将“和谐与优化共生”这一中国哲学和文化中的特色理念,作为寻求跨行业、跨部门、跨地区全球协作的指导思想,并强调促进人工智能相关准则的“落地”,为未来打造“负责任的、有益的”人工智能。这一共识的发布,为规范和引领人工智能健康发展提供了“北京方案”,对于实现人工智能“自律”“善治”“有序”具有重要意义。
 
 
曾毅介绍人工智能伦理与安全研究中心情况
 
为降低人工智能发展过程中可能存在的技术风险和伦理隐患,北京智源人工智能研究院专门成立人工智能伦理与安全研究中心,中科院自动化研究所曾毅研究员任研究中心主任。
 
曾毅介绍,该研究中心将围绕人工智能伦理与安全的理论探索、算法模型、系统平台、行业应用等开展一系列研究。
 
目前,该研究中心将主要开展四大方面研究。一是低风险机器学习模型与平台的构建,建立机器学习模型安全性的评估体系,并结合具体领域进行验证。二是开展符合人类伦理道德的智能自主学习模型研究,实现人工智能行为与人类价值观的校准,并在模拟环境与真实场景中进行验证。三是建设数据安全示范应用系统,建立数据基础设施、数据分级、权限控制、数据审计,最大限度防止数据泄密,降低风险,探索允许用户撤销个人数据授权的机制及计算平台。四是构建人工智能风险与安全综合沙盒平台,建设自动检测平台,针对数据与算法的安全性、公平性、可追溯性、风险类型、影响程度与影响范围等方面,对人工智能产品及应用进行风险与安全综合检测与评估,引导行业健康发展。
 
曾毅等与会专家表示,人工智能涉及范围极广,应对人工智能带来的挑战,不是一个领域、一个城市、一个部门、一个机构能够独立完成的,需要充分汇聚科学家、企业家、产业联盟和社会各界的力量,多方参与、共同努力,持续推动人工智能伦理、规范方面的学术研究与成果转化应用,并不断强化行业自律。
 
《人工智能北京共识》倡导北京人工智能领域广大创新主体,积极践行并不断完善共识的内涵,共同营造良好生态,加快人工智能领域基础研究、核心技术创新和高精尖产业发展,让人工智能更好支撑北京高质量发展和创新驱动发展战略实施,并更好造福全人类。
 

 

 
 打印  发E-mail给: 
    
 
以下评论只代表网友个人观点,不代表科学网观点。 
相关新闻 相关论文

图片新闻
“科学”号西太海山科考成果丰硕 全身PET扫描可数秒成像
围填海和沿海养殖扩张是湿地退化主因 科学家摸到人类耐力“天花板”
>>更多
 
一周新闻排行 一周新闻评论排行
 
编辑部推荐博文