品玩

科技创新者的每日必读

打开APP
关闭
业界动态

清华发布最新大模型评测:Llama 3表现不俗,国产模型智谱GLM、文心一言表现亮眼

shuohang

发布于 4月25日

日前,Meta发布最新开源模型Llama 3并号称是性能最好开源大语言模型,极有可能超过当前的闭源王者GPT-4 Turbo。那么,Llama 3能力究竟如何?

4月24日,由清华大学基础模型研究中心联合中关村实验室研制的SuperBench大模型综合能力评测平台,基于语义、对齐、代码、安全和智能体5项大模型原生评测基准,展开开放性、动态性、科学性和权威性的大模型综合能力评测,率先剖析Llama 3模型能力。

《SuperBench大模型综合能力评测报告》对Llama 3-8B、Llama 3-70B等16个海内外具有代表性的模型进行了评测。结果显示,Llama 3与GPT-4系列模型仍有一定差距,而国内大模型智谱AI的GLM-4与百度文心一言4.0在多项评测中进入榜单前五名,超过Llama 3。

在语义理解能力评测中,国内大模型GLM-4、文心一言4.0分别位列第二名、第三名,仅次于Claude-3,但超过GPT-4网页版与GPT-4 Turbo,稳占第一梯队。Llama 3-70B、Llama 3-8B则分别位列第六名、第十六名。

而在智能体能力评测中,Llama 3-70B跻身榜单前五名,这也是该模型五项评测排名最高的一次。在代码编写能力、人类对齐能力、安全和价值观三项评测中,Llama 3-70B均排在第七名,超过大部分国内大模型,只落败于GLM-4和文心一言4.0,Llama 3-8B排名相对靠后,考虑到模型参数量的差异,Llama 3-70B整体表现较好。

相较之下,表现出色的国内大模型GLM-4全面对标OpenAI,在五项能力评测中均紧追GPT-4系列模型与Claude-3,堪称“全能选手”。同时,在代码、智能体两项大模型关键能力评测中,GLM-4排名仅次于GPT-4系列模型和Claude-3,位列国内第一。

在安全价值观能力评测中,文心一言4.0拿下最高分,超越GPT-4系列模型和Claude-3。在智能体能力评测中,文心一言4.0表现较差。

总体而言,虽然国内大模型与国际顶尖模型之间还存在差距,但正逐步缩小这一差距。相信在政策支持和技术创新的推动下,国内大模型将取得显著成就,推动我国人工智能产业高质量发展。

下载品玩App,比99.9%的人更先知道关于「业界动态」的新故事

下载品玩App

比99.9%的人更先知道关于「业界动态」的新故事

iOS版本 Android版本
立即下载
shuohang

这家伙很懒,什么也没留下,却只想留下你!

取消 发布
AI阅读助手
以下有两点提示,请您注意:
1. 请避免输入违反公序良俗、不安全或敏感的内容,模型可能无法回答不合适的问题。
2. 我们致力于提供高质量的大模型问答服务,但无法保证回答的准确性、时效性、全面性或适用性。在使用本服务时,您需要自行判断并承担风险;
感谢您的理解与配合
该功能目前正处于内测阶段,尚未对所有用户开放。如果您想快人一步体验产品的新功能,欢迎点击下面的按钮申请参与内测 申请内测