作者:方晓 来源:澎湃新闻 发布时间:2023/3/16 11:40:20
选择字号:
GPT-4很强大但仍有诸多谜团,OpenAI选择只透露这么多

 

人工智能研究机构OpenAI 3月14日发布了备受期待的大模型GPT-4。GPT-4在关键方面对其前代GPT-3进行了改进,例如提供更符合事实的陈述,并允许开发人员更轻松地规定其风格和行为。它是多模态的模型,可以理解图像内容。但是,GPT-4也有严重的缺陷,与GPT-3一样,该模型会产生“幻觉”并犯下基本的推理错误。

GPT-4发布后,多家媒体关注的焦点是,OpenAI并没有透露很多细节,包括该模型有多大的参数,性能为什么更好。“GPT-4是该公司发布过的最机密的版本,标志着其从非营利性研究实验室全面转变为营利性科技公司。”《麻省理工科技评论》的文章称。

OpenAI的首席科学家伊利亚·苏茨克沃(Ilya Sutskever)在公告发布一个小时后通过视频通话与GPT-4团队成员交谈时说:“你知道,我们目前无法对此发表评论。”“竞争非常激烈。”

为了更好地了解GPT-4的开发周期及其功能和局限性,科技媒体TechCrunch 14日采访了OpenAI的联合创始人兼总裁格雷格·布罗克曼(Greg Brockman)。当被要求比较GPT-4和GPT-3时,布罗克曼说:“就是不同。”“(该模型) 仍然存在很多问题和错误……但你确实可以看到微积分或法律等技能的飞跃,从某些领域的非常糟糕到相对于人类来说实际上相当好。 ”

到底有多大的训练参数?

测试结果显示,在美国大学先修课程微积分BC考试中,GPT-4获得4分(满分5分),而GPT-3获得1分。GPT-3.5是GPT-3和GPT-4的中间模型,也获得4分。模拟律师考试方面,GPT-4以排名前10%的成绩通过,GPT-3.5的分数徘徊在后10%左右。(详见澎湃科技报道《OpenAI发布多模态大模型GPT-4:直接开放API,ChatGPT升级》)

GPT-4更有趣的方面之一是多模态。与GPT-3和GPT-3.5只能接受文本提示不同,GPT-4可以接受图像和文本提示来执行某些操作。这是因为GPT-4接受了图像和文本数据的训练,而其前代仅接受了文本训练。

GPT是Generative Pre-training Transformer(生成式预训练Transformer)的缩写。OpenAI于2018年推出具有1.17亿个参数的GPT-1模型,2019年推出具有15亿个参数的GPT-2,2020年推出有1750亿个参数的GPT-3。ChatGPT是OpenAI对GPT-3模型微调后开发出来的对话机器人。

但是,OpenAI这次选择不透露GPT-4训练数据的具体规模。在新闻公告里,OpenAI只表示,它使用与ChatGPT相同的方法取得了这些结果——通过人类反馈强化学习。这要求人类评分者对来自模型的不同响应进行评分,并使用这些分数来改进未来的输出。

OpenAI表示,训练数据来自“各种被许可、被创建和公开可用的数据源,其中可能包括公开可用的个人信息”,但当被询问具体细节时,布罗克曼拒绝回答TechCrunch。据悉,训练数据之前曾让OpenAI陷入关于版权的法律纠纷。

在接受《纽约时报》的采访时,布罗克曼则表示,OpenAI的数据集是“互联网规模的”,这意味着它涵盖了足够多的网站,可以提供互联网上所有说英语的人的代表性样本。

“缓慢而有目的”地推广图像功能

GPT-4的图像理解能力令人印象深刻。例如,输入提示“这张图片有什么好笑的?一个图一个图地描述它”,加上一张拼图,显示一条假VGA电缆被插入iPhone,GPT-4给出了每个图的详细描述并正确解释了这个笑话:这个图像中的幽默来自于荒谬地将过时的大的VGA连接器插入小的现代智能手机充电口。

“在过去几年里,一个好的多模态模型一直是许多大型技术实验室的圣杯。”开源大型语言模型BLOOM背后的人工智能初创公司Hugging Face的联合创始人托马斯·沃尔夫(Thomas Wolf)说, “但它仍然难以捉摸。”

从理论上讲,结合文本和图像可以让多模态模型更好地理解世界。“它可能能够解决语言模型的传统弱点,比如空间推理。”沃尔夫说。尚不清楚GPT-4是否如此。

目前只有一个OpenAI的合作伙伴可以使用GPT-4的图像分析功能——一款名为Be My Eyes的视障人士辅助应用程序(详见澎湃科技报道《第一批公司已采用GPT-4,都用它来做些什么?》。布罗克曼表示,随着OpenAI评估风险和收益,无论何时进行更广泛的推广,都将是“缓慢而有目的”的。

布罗克曼说,面部识别以及如何处理人物图像等方面存在政策问题。“我们需要弄清楚危险区域在哪里,红线在哪里,然后随着时间的推移弄清楚这一点。”

此前,OpenAI围绕其文本到图像系统DALL-E 2面临了类似的道德困境。在最初禁用该功能后,OpenAI又允许用户上传人脸以使用人工智能图像生成系统对其进行编辑。当时,OpenAI称其安全系统的升级使面部编辑功能成为可能,因为最大限度地减少了深度造假,以及试图创造性、政治和暴力内容的潜在危害。

“从每3个月发布一个新模型转向不断改进”

另一个老问题是防止GPT-4以可能造成伤害的方式被使用,包括心理、金钱等方面。该模型发布数小时后,以色列网络安全初创公司Adversa AI发布了一篇博文,展示了绕过OpenAI内容过滤器并让GPT-4生成网络钓鱼电子邮件、对同性恋者的攻击性描述和其他令人反感的文本的方法。

这在语言模型领域并不是一个新现象。Meta的BlenderBot和ChatGPT也被提示说出非常冒犯的话,甚至透露有关其内部运作的敏感细节。但许多人曾希望,GPT-4可能会在这方面带来重大改进。

当被问及GPT-4的稳健性时,布罗克曼强调该模型已经接受了5个月的安全训练,并且在内部测试中,它响应OpenAI政策不允许的内容请求的可能性降低了82%。

“我们花了很多时间试图了解GPT-4的能力。”布罗克曼说,“把它带到外面的世界是我们学习的方式。我们不断进行更新,包括一堆改进,这样模型就更能扩展到你希望它处于的任何个性或某种模式。”

布罗克曼并不否认GPT-4的不足,但他强调了该模型新的缓解性控制工具,包括一种称为“系统”消息的API(应用程序编程接口)级能力。系统消息本质上是为GPT-4的互动设定基调并建立界限的指令。例如,一条系统信息可能是这样的:“你是一个总是以苏格拉底方式回答问题的辅导员。你从不给学生答案,而总是试图提出正确的问题,帮助他们学会自己思考。”系统信息作为护栏,可以防止GPT-4偏离方向。

“真正弄清楚GPT-4的语气、风格和内容一直是我们的一个重要关注点。”布鲁克曼说,“我认为我们开始有点了解如何做工程,如何有一个可重复的过程,让你得到可预测的结果,对人们真正有用。”

布罗克曼还提到了Evals,这是OpenAI刚刚开源的软件框架,用于评估其人工智能模型的性能,是OpenAI致力于“健全”其模型的一个标志。Evals让用户开发和运行评估GPT-4等模型的基准,同时检查其性能,这是一种模型测试的众包方法。

“通过Evals,我们可以以一种系统的形式看到用户关心的(用例),能够进行测试。”布罗克曼说,“我们(开源)的部分原因是,我们正在从每3个月发布一个新模型转向不断改进。做东西应该要衡量,对吗?当我们制作新的版本时,我们至少可以知道这些变化是什么。”

新的上下文窗口

布罗克曼还谈到了GPT-4的上下文窗口(context window),它指的是模型在生成其他文本之前可以考虑的文本。OpenAI正在测试GPT-4的一个版本,它可以“记住”大约50页的内容,是普通版GPT-4在其“记忆”中所能容纳的内容的五倍,是GPT-3的八倍。

布罗克曼认为,扩大的上下文窗口会带来新的、以前没有探索过的应用,特别是在企业中。他设想了一个为公司建造的人工智能聊天机器人,利用来自包括各部门员工的不同来源的背景和知识,以一种非常明智但对话性的方式回答问题。

这不是一个新概念。但布罗克曼提出的理由是,GPT-4的答案将比今天的聊天机器人和搜索引擎的答案有用得多。

“以前,该模型对你是谁、你对什么感兴趣等没有任何了解。”布洛克曼说,有了这种历史(更大的上下文窗口),肯定会让它更有能力......它会使人们能做的事更多。”

科学交流类似于产品新闻稿

即使看过了布罗克曼的采访,但GPT-4还有很多谜团没有解开。“OpenAI现在是一家完全封闭的公司,其科学交流类似于产品新闻稿。”沃尔夫说。

《麻省理工科技评论》认为,当下,GPT-4与其他多模态模型并驾齐驱,包括来自人工智能研究机构DeepMind的Flamingo。Hugging Face也正在开发一种开源多模态模型,其他人可以免费使用和改编该模型。面对这样的竞争,OpenAI将GPT-4更多地视为产品挑逗,而不是研究更新。

目前,构建和服务聊天机器人非常昂贵,因为它是在更大数量的数据上训练的,所以GPT-4会增加OpenAI的成本。OpenAI的首席技术官米拉·穆拉蒂(Mira Murati)告诉《纽约时报》,如果该服务产生过多流量,该公司可能会限制对该服务的访问。

但从长远来看,OpenAI计划构建和部署可以处理多种媒体的系统,包括声音和视频。“我们可以采用所有这些通用知识技能,并将它们传播到各种不同领域。”布罗克曼说,“这将技术带入了一个全新的领域。”

许多其他公司正在排队等候。“对于大多数公司来说,启动这种规模的模型的成本是无法承受的,但是OpenAI所采用的方法使大型语言模型对于初创公司来说非常容易获得。”Tola Capital的联合创始人谢拉·古拉提(Sheila Gulati)说, “这将在GPT-4之上催化巨大的创新。”

 
 
 
特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。
 
 打印  发E-mail给: