作者:方晓 来源:澎湃新闻 发布时间:2023/10/19 12:21:53
选择字号:
99%可靠!OpenAI开发生成图像检测工具

 

·检测工具AI or Not误报以色列死婴照片为AI生成。随着人工智能工具可用于操纵或捏造全球事件的新闻报道,对此类检测工具的需求只会越来越强。

当时时间10月17日,OpenAI首席执行官山姆·奥特曼和该公司首席技术官米拉·穆拉蒂在《华尔街日报》Tech Live会议上。

ChatGPT的开发机构OpenAI正在构建一个工具,可以对由其人工智能服务Dall·E 3创建的图像进行高度精确的检测。

当地时间10月17日,OpenAI首席技术官米拉·穆拉蒂(Mira Murati)在美国加利福尼亚州拉古纳海滩举行的《华尔街日报》Tech Live会议上透露了这一消息。她说,OpenAI的这个工具“99%可靠”,正在计划公开发布前进行内部测试,但她没有具体说明时间表。

OpenAI在今年1月发布了一个类似的工具,旨在确定文本是否是人工智能生成的,但该工具在7月被搁置,因为它并不可靠。该公司当时表示,正在努力改进软件,并致力于开发方法来识别音频或图像是否也是由人工智能生成的。

OpenAI开发的Dall·E是目前最强大的人工智能生成图像产品之一,与Midjourney和Stable Diffusion等软件共同为互联网提供了大量AI图像。其中一些虚假图片在社交网络上泛滥,特别是在重大国际冲突发生后。

就在最近,一张关于以色列死婴的照片再次引发争议。10月12日,以色列总理本杰明·内塔尼亚胡的官方账户发布了一张被烧焦的尸体的图片,称该图片显示一名婴儿在10月7日的袭击中被极端组织哈马斯杀害。在图片发布后的几个小时内,许多社交媒体账号表示,基于名为“AI or Not”的人工智能检测工具的结果,这张照片是由人工智能生成的。然而,几位图像分析专家以及AI or Not背后的公司表示,这些结果是检测工具误报,这张照片很可能是真实的。

AI or Not最终检测结果显示,这张以色列死婴照片很可能是真实的。

在10月14日的一条推文中,AI or Not背后的公司表示,其软件能够误报,意味着它可以错误地得出真实照片是由人工智能生成的结论,尤其是当相关图像质量较低时。

专门从事图像分析的调查机构Bellingcat早在2023年9月就测试了AI or Not。“在识别被压缩的人工智能图像(尤其是真实感图像)时,AI or Not的错误率都很高,这大大降低了它对开源研究人员的实用性。”该团队总结。

自ChatGPT发布以来,已经有多个工具声称可以检测人工智能制作的图像或其他内容,但它们往往都不能保证完全准确。随着人工智能工具可用于操纵或捏造全球事件的新闻报道,对此类检测工具的需求只会越来越强。

17日,穆拉蒂还对GPT-4的后续AI模型作出了暗示。尽管OpenAI尚未公开表示GPT-4的后续模型可能会被称为什么,但该公司7月向美国专利商标局提交了“GPT-5”商标申请。当被问及GPT-5模型是否会不再散布谎言时,穆拉蒂说:“也许吧。”

(原标题:99%可靠!OpenAI开发Dall·E生成图像检测工具)

 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: 
    
 
相关新闻 相关论文

图片新闻
40亿年前生命如何产生?室温水中找答案 国之重器“神农设施”启动建设
另辟蹊径开发“水稻癌症”新型杀菌剂 高稳定太赫兹半导体双光梳研究获新突破
>>更多
 
一周新闻排行
 
编辑部推荐博文