全部词条
白话词典

模型评测

也叫:Evals · AI评测 · 模型评价

模型评测是用固定任务、样本和评分规则比较模型,并在上线后继续收集失败样本。

他们说

通过评测集和评分器持续衡量模型表现

老白翻译

拿同一批真问题考试,看它到底会错在哪。

它到底是什么

模型评测会先准备一批题目和通过标准,再让不同模型、提示词或知识库版本运行同一套测试。结果可以由程序评分,也可以交给懂业务的人复核。

生活里的例子

客服问答可以检查答案有没有引用现行制度、资料不足时会不会停下来,以及人工需要改多少内容。

常见误解

  • 误解:公开榜单高,自己的业务就一定好用。 榜单题目和公司真实资料往往不同。
  • 误解:测过一次就够了。 模型、资料和业务规则变化后都要重跑。
  • 误解:分数越多越专业。 指标要对应真实错误和使用后果。

普通人怎么用

从员工经常遇到的问题里选一批,去掉隐私,写好标准答案和评分办法。调试用验证集,最后留一组没反复看过的题做核对。

来源文章