今年5月，豆包大模型在火山引擎原动力大会上正式发布。相关数据显示，在MMLU、BBH、GSM8K、HumanEval等11个业界主流的公开评测集上，Doubao-pro-4k的总分为76.8分，优于同期测试的其他国产模型。在数学能力、语言理解能力，以及综合评测集CMMLU和CEval的评测上，豆包也有不错的表现，得分排在前三。

据悉，LLMEval是由复旦大学NLP实验室推出的大模型评测基准，专注于评估专业领域的知识能力。评测团队表示，全新出炉的高考试题具备高度的独创性和保密性，是用来评测大模型的“绝好评测集合”。因此，团队在高考后第一时间对13家大模型进行了评测。

9l九色pro国产入口新民晚报讯(记者金志刚)近日，复旦大学自然语言处理(NLP)实验室LLMEVAL团队公布了2024年高考数学大模型评测结果。数据显示，字节豆包在2024高考数学新II卷客观题正确率达到74.66%，在13家大模型中排名首位，阿里千问和GPT-4o分列二三位。而在高考数学新I卷评测排名中，字节豆包也排在前列。

评测选取2024高考数学新I卷和新II卷的14道客观题，参评“选手”涵盖GPT-4o、文心一言、阿里千问、字节豆包等主流大模型。GPT-4o是OpenAI于今年5月新推出的大语言模型，数学能力是其发布会现场着重展现的能力模块。但结果显示，部分国产大模型在本次数学评测中的成绩优于GPT-4o。在新II卷客观题测试中，字节豆包成绩排在首位，其次是阿里千问和GPT-4o。