网站设计的初衷,温州网站建设方案书,购物网站开发计划书,互动营销CaLM 是什么
CaLM#xff08;Causal Evaluation of Language Models#xff0c;以下简称“CaLM”#xff09;是上海人工智能实验室联合同济大学、上海交通大学、北京大学及商汤科技发布首个大模型因果推理开放评测体系及开放平台。首次从因果推理角度提出评估框架#xff…CaLM 是什么
CaLMCausal Evaluation of Language Models以下简称“CaLM”是上海人工智能实验室联合同济大学、上海交通大学、北京大学及商汤科技发布首个大模型因果推理开放评测体系及开放平台。首次从因果推理角度提出评估框架为 AI 研究者打造可靠评测工具从而为推进大模型认知能力向人类水平看齐提供指标参考。
因果推理是人类认知能力最重要的特征之一提升因果推理能力被视为由机器智能迈向人类智能水平的关键步骤。为对大模型进行科学有效的因果推理能力评估上海人工智能实验室联合团队在 CaLM 中提出包含因果评估目标Causal Target、评估方式Adaptation、评估标准Metric及错误分析Error的评估框架同时构建了超过12万道题目的中英文数据集。
基于 CaLM联合团队首次对 28 个当前主流大模型进行了因果推理能力评测共产生了 50 项实证性发现本文摘录其中 6 个结论。相关论文共 315 页可查看文末链接或登录网页查阅下载。
CaLM 评估框架 CaLM 评估框架
CaLM 采用了一套灵活、易扩展的评估框架并按照预设实施顺序进行评测因果评估目标Causal Target→评估方式Adaptation→评估标准Metric→错误分析Error。CaLM 的评估框架设计与实施流程还可应用于数学推理、专业知识及长文本处理等模型能力评估体系构建。
自下而上的因果评估目标
在当前普遍采用的 Judea Pearl 提出的因果阶梯理论基础上CaLM 进一步发展并明确了四个层次的因果任务因果发现Causal Discovery、关联Association、干预Intervention及反事实Counterfactuals。每层次任务按复杂程度进行基础到高级的顺序排列构成了自下而上的框架。
因果发现旨在从数据或语义中推测出潜在的因果结构关联探索数据间的统计依赖关系干预预测有意改变环境中的变量所带来的影响以及反事实则对假设的替代场景进行推理。针对四个任务层次CaLM 设计了因果归因、解释移除效应、对撞偏差和反事实推理等 21 种因果场景覆盖 COPA、CLADDER 及 CaLM-IV 等多种数据集和问题类型。 CaLM 因果评估目标设置
丰富的评估方式
在评估方式的选择上CaLM 采用了基准提示、对抗性提示、思维链及上下文学习等 9 种评估方式。综合考量了评测实践过程的受众广泛性、用户易用性以及实验控制性。
全面的评估标准
针对模型、提示词以及因果场景CaLM 中分别设置了不同的评估标准覆盖包括准确率、鲁棒性、理解度等 7 种全面反映模型的因果推理能力和鲁棒性、提示词有效性。越复杂的因果场景模型越难解决从而该场景成熟度越低因此 CaLM 同时设置了考察因果场景成熟度的评估标准。 CaLM 评估标准
系统的错误结果分析
联合团队认为大模型评测中产生的错误是应用于下一阶段研究的宝贵资源。通过发现并定义错误研究人员能够更清晰地界定模型能力边界识别模型存在的缺陷并寻找对应提升路径。
为此CaLM 在评估过程中将模型产生的错误系统地分为两大类定量错误Quantitative和定性错误Qualitative。不仅对每类错误进行明确的定义还对所有定量错误都进行了统计分析以量化错误的频率和模式。CaLM 也对于所有定性错误进行了深入的案例研究以理解错误的具体情况和成因。 CaLM 错误结果分析框架
CaLM 因果评测数据集
为了使因果推理能力评估有“考题”可循联合团队构建了一套全新的评测数据集。基于四个层级的因果任务设置涵盖了丰富的因果概念包含超过 12 万条中英文数据。同时研究人员还细致地将文本模态划分为日常表达Natural、抽象表达Symbolic和数学表达Mathematical三种子态以考察模型在不同类型模态下的理解能力。
该数据集约 90% 的内容为全新构建10% 来自于现有公开数据集既能与已有公开结果进行对比反映评估的有效性又能避免训练集数据污染问题。
同时为了更便捷地评估团队还推出了 CaLM Lite 版本包含 9200 条中英文数据。该数据集目前在司南 OpenCompass 大模型能力评测体系也进行了同步公开可以使用司南 OpenCompass 的评估套件进行快速的模型测试。 CaLM 数据集问题类型统计概览
CaLM 数据集题目展示
下面将选取 CaLM 中平均处理效应任务的题目进行展示。CaLM 提供了原始的因果图条件概率推理过程等便于研究者进一步使用。 CaLM 数据集题目展示
CaLM 评测结果
针对 28 个当前主流大模型联合团队使用了 CaLM 进行因果推理能力评测共产生了 50 项实证性发现。
评估数据和可视化结果均已发布至 CaLM 项目主页https://opencausalab.github.io/CaLM同时 CaLM 数据集、评估流程和错误分析的全流程均已开源便于产学界自主研究使用。https://github.com/OpenCausaLab/CaLM CaLM 评测结果
代表性结论速览
1. 因果推理能力普遍欠缺。目前大语言模型很难有效地执行需要复杂因果推理的任务。随着因果推理复杂性的增加每个大语言模型的准确性均逐渐下降最终几乎降至零。
2. 人类反馈的强化学习RLHF存在双面效应。RLHF 能够使模型输出与人类推理过程保持更紧密对齐。另一方面使用RLHF微调的模型也容易受到用户错误指令的影响。
3. OpenAI 模型迭代提升显著。随着其每次更新模型在执行因果推理任务能力方面都表现出实质性改进其准确性和鲁棒性的平衡也显著提升。
4. 模型参数规模对因果推理能力的影响。在因果推理任务中模型参数规模和准确性之间的关系并没有呈现出直接的单调递增其他因素例如训练数据和策略会显著影响来自不同开发者模型的准确性。但在同一开发者的模型中模型参数规模是准确性的一致且可靠的预测指标。
5. 提示词的改变并不能显著提高模型在复杂因果场景下的性能。由于模型的训练语料库中往往缺乏关于复杂因果推理任务的先验知识在这种复杂的因果场景中提示词的改变并不能显著提高模型性能。
6. 不同问题中出现相同回答的错误具有普遍性。受测的 28 个模型中共计 26 个显示出对不同问题提供相同答案的倾向表明它们无法有效地处理因果任务。 目前 CaLM 已加入司南 OpenCompass 大模型能力评测体系欢迎社区的朋友参与共建 数据集详情链接 https://hub.opencompass.org.cn/dataset-detail/CaLM 使用 CompassKit 进行评测 https://github.com/open-compass/opencompass 司南 OpenCompass 大模型能力评测体系将持续与业界共同推进大模型在因果推理领域的评估工作携手构建一个开放、公平、透明的大语言模型评估体系促进大语言模型技术的健康发展和持续创新。 OpenCompass 司南评测体系主要包括以下三大模块欢迎大家使用。
1. 评测工具链体系 CompassKit不仅提供完整的开源可复现评测代码更提供了丰富的模型支持和高效的分布式评测策略。
开源地址
https://github.com/open-compass
2. 高质量评测基准社区 CompassHub面向大模型能力评测开源开放的基准社区提供海量的面向不同能力维度和行业场景的评测基准。
社区地址
https://hub.opencompass.org.cn/home
3. 权威评测榜单 CompassRank作为 OpenCompass 中各类榜单的承载平台CompassRank 不受任何商业利益干扰保持中立性。
榜单地址
https://rank.opencompass.org.cn/home
