语义熵
也叫：Semantic Entropy · 语义不确定性 · Semantic Uncertainty
语义熵先把多次回答按含义归组，再估计含义分布的不确定程度，可用于发现一部分随采样变化的编造。
他们说
在回答含义的概率分布上估计模型不确定性
老白翻译
多问几次，看看模型在几种不同意思之间摇摆。
它到底是什么
语义熵对同一问题采样多份回答，把含义相同的表达放进一组，再计算概率在不同含义之间分得有多散。
为什么不只看词面
同一答案可以有多种写法。先做语义分组，能避免把正常改写误当成模型对答案含义没有把握。
常见误解
低语义熵只表示多次回答含义接近，不能证明事实正确。模型可能稳定地重复同一条错误信息。
普通人怎么用
用人工标注样本检查语义分组和报警阈值。高熵回答可以转去检索或人工复核，高风险动作仍需独立确认。