AGI-Eval
AI大模型评测社区专注于各类前沿人工智能模型的深度测试与分析，提供专业、全面的评估报告。社区汇聚AI技术专家与开发者，通过标准化评测流程对比不同模型的性能、可靠性和应用场景，搭建开放的交流平台推动技术创新与落地。聚焦大模型前沿发展，为开发者提供有价值的参考信息和技术指导。
CMMLU是什么
CMMLU是综合性的中文评估基准，专门用在评估语言模型在中文语境下的知识和推理能力，涵盖从基础学科到高级专业水平的67个主题。包括需要计算和推理的自然科学，需要知识的人文科学和社会科学，及需要生活常识的中国驾驶规则等。CMMLU中的许多任务具有中国特定的答案，可能在其他地区或语言中并不普遍适用。CMMLU提供丰富的测试数据和排行榜，支持多种评估方式，如five-shot和zero-shot测试，是衡量中文语言模型性能的重要工具。
CMMLU的主要功能
- 排行榜：展示不同语言模型在five-shot和zero-shot测试下的表现，帮助比较模型性能。
- 数据集：提供开发和测试数据，支持快速使用和评估。
- 预处理代码：提供提示生成方法，方便模型训练和测试。
- 评估工具：支持多种评估方式，便于研究者和开发者测试模型能力。
如何使用CMMLU
- 获取数据集：
- 从GitHub下载：访问 CMMLU GitHub页面：https://github.com/haonan-li/CMMLU/，在
data目录中找到开发和测试数据集。 - 通过Hugging Face获取：访问Hugging Face平台：https://huggingface.co/datasets/haonan-li/cmmlu，直接加载CMMLU数据集。
- 从GitHub下载：访问 CMMLU GitHub页面：https://github.com/haonan-li/CMMLU/，在
- 准备测试环境：
- 安装依赖：确保安装了必要的Python库，如
transformers、datasets等。 - 克隆代码库：克隆CMMLU的GitHub仓库，获取测试代码和预处理工具。
- 安装依赖：确保安装了必要的Python库，如
git clone https://github.com/haonan-li/CMMLU.gitcd CMMLU- 预处理数据：在
src/mp_utils目录中，使用提供的脚本对数据进行预处理，生成适合模型输入的格式。
python src/mp_utils/preprocess.py- 运行评估代码
- 选择模型：根据需要评估的语言模型，加载模型和tokenizer。
- 运行测试脚本：在
script目录中，运行测试脚本，评估模型在不同任务上的表现。
python script/evaluate.py --model <model_name> --data_path <data_path>- 提交测试结果：
- 开源模型：直接提交拉取请求（PR），更新测试代码和结果。
- 未开放模型：将测试代码和结果发送到指定邮箱（如
haonan.li@librai.tech），等待验证后更新到排行榜。
- 分析结果：在GitHub页面的排行榜部分，查看模型在不同任务上的表现，分析模型的优缺点。
CMMLU的应用场景
- 语言模型性能评估：用在测试和比较语言模型在中文多任务场景下的知识和推理能力，帮助优化模型架构。
- 教育领域的智能辅导：开发智能辅导系统，为学生提供多学科的练习和学习建议，提升学习效果。
- 智能客服优化：评估模型在特定领域的知识理解能力，优化智能客服系统，提高客户服务质量。
- 文化知识传播：用CMMLU的数据集开发文化问答系统，传播中国文化知识，促进文化传承。
- 医疗健康知识评估：评估语言模型在医学领域的知识理解能力，辅助开发医疗咨询工具，提供健康建议。
数据统计
数据评估
关于CMMLU特别声明
云知AI导航收录的「CMMLU」等资源均来自互联网，外部链接的内容与准确性不由本站保证或控制。同时，对于该外部链接的指向，不由云知AI导航实际控制，在2025年8月23日 上午7:12收录时，该网页上的内容，都属于合规合法，后期网页的内容如出现违规，可以直接联系网站管理员进行删除，云知AI导航不承担由此产生的任何责任。
相关导航
H2O EvalGPT
H2O.ai推出的基于Elo评级方法的大模型评估系统
SuperCLUE
"中文通用大模型综合性测评基准"是一个全面评估中文大模型能力的标准化体系。该基准从语言理解、文本生成、逻辑推理、多任务处理等多个维度，构建了系统化的测评框架，采用定量与定性相结合的方法对模型性能进行评测。通过标准化测试集与评分标准，为不同中文大模型的横向比较提供客观依据，同时为模型优化提供方向性指导，推动中文大模型技术的有序发展与应用落地。
FlagEval
智源研究院推出FlagEval（天秤）大模型评测平台，专注于全方位评估大模型能力。该平台采用多维度评测体系，覆盖语言理解、推理生成等核心指标，提供客观、公正的评估结果。通过标准化测试和动态基准，助力科研机构和企业精准衡量模型性能，推动大模型技术迭代优化，为AI发展提供可靠评估工具。
HELM
斯坦福大学推出的大模型评测体系
MMLU
"大规模多任务语言理解基准"是一个综合性评估体系，旨在测试AI系统在跨域任务中的理解和推理能力。该基准涵盖阅读理解、常识推理、逻辑分析等多个维度，包含海量高质量标注样本，可系统评估模型的泛化性和稳健性。通过设计层次化评估指标和多轮测试，该基准能有效衡量语言模型在不同难度任务中的表现，为模型优化提供明确方向。其开放性和扩展性为自然语言处理研究提供了标准化测评工具，推动了人工智能技术的迭代发展。
LLMEval3
复旦大学NLP实验室推出全新大模型评测基准，旨在全面评估语言模型的性能表现。该基准涵盖多种任务类型，采用科学严谨的评测方法，为研究者提供客观、可靠的模型性能比较标准，助力大语言模型领域的创新发展。评测结果将帮助开发者优化模型，推动AI技术进步。
MMBench
本评测体系基于前沿多模态技术,构建包含视觉、语音、文本等全方位能力的评估框架。通过标准化测试集与创新性指标设计,对模型的跨模态理解、生成、推理等核心能力进行系统性评估,为模型性能提供客观量化基准。体系支持对不同规模模型进行层次化测评,助力人工智能技术研发与产业应用升级。
