Facebook母公司Meta正在建造世界上功能最强大的人工智能专用超级计算机,以开发更好的语音识别工具,在不同语言之间自动翻译,并帮助构建其3D虚拟元空间。
尽管其还远未完成,但人工智能研究超级集群(RSC)已经启动运行,并超过了Meta之前速度最快的超级计算机。这台机器设计于2017年,在22000个强大的图形处理单元(GPU)上运行,尽管该GPU是为玩游戏而设计的,但却是训练人工智能模型的高效工具。
RSC目前只有6080个GPU,但它们比旧机器的GPU功能更强,其训练大型人工智能模型的速度比旧机器快了3倍。它目前的性能与加州国家能源研究科学计算中心的PelLuMutter超级计算机相当,后者目前在全球超级计算机500强排名中位列第五。
当RSC完成后,它将由16000个GPU组成,其功能几乎是现在的三倍。Meta表示,在这一点上,它将是世界上最快的人工智能优化超级计算机,运行速度接近5exa(表示百亿亿次)。
超级计算机可以被设计成在某些任务上非常擅长。Meta的机器专门用于训练和运行大型人工智能模型。当它完成后,世界上将会有更强大的计算机,但只有少数,而且没有一台与它的确切架构或预期用途相同。
近年来,人工智能研究的前沿一直依赖于规模及越来越强大的机器来训练模型。最大的神经网络之一——威震天图灵自然语言生成模型,拥有5300亿个参数,大致相当于脑细胞之间的连接。Meta表示,它的机器最终将运行具有数万亿参数的模型。
英国萨塞克斯大学的James Knight表示,“巨大”的计算机规模可能无法克服人工智能研究中的一些挑战。“这么大的系统肯定会让他们建造更大的模型。”他说。“然而,我不认为仅仅增加语言模型的规模就能解决现有模型重复使用性别歧视和种族主义语言,或未能通过基本逻辑推理测试的问题。”
版权声明:凡本网注明“来源:中国科学报、科学网、科学新闻杂志”的所有作品,网站转载,请在正文上方注明来源和作者,且不得对内容作实质性改动;微信公众号、头条号等新媒体平台,转载请联系授权。邮箱:shouquan@stimes.cn。