全部词条
白话词典

LLM评审

也叫:LLM-as-a-Judge · 大模型评审 · 模型裁判

LLM评审用大模型评价生成内容,适合扩大开放题评测规模,但需要校准位置、长度和自我偏好。

他们说

使用大语言模型对生成结果进行成对比较、单项评分或参考答案引导的评价

老白翻译

让一个模型当裁判,按标准给另一份回答打分或选优。

它到底是什么

LLM 评审让一个大模型按照给定标准评价另一份生成结果。常见方式包括两两比较、单份答案评分,以及提供参考答案后的判断。

生活里的例子

团队改了客服提示词,可以让评审模型先比较新旧两批回答,再把分歧和高风险样本交给业务人员复核。

常见误解

  • 误解:评审模型给分就是客观结果。 模型可能受答案顺序、长度和自身系列影响。
  • 误解:所有检查都该用模型。 格式、字段和确定答案优先用程序规则。
  • 误解:校准一次就能长期使用。 更换任务、模型或评分提示后都要重跑人工样本。

普通人怎么用

先做一小批人工判好的答案,比较模型评审的一致率,并为冲突结果保留人工复核。

来源文章