全部词条
白话词典

激活引导

也叫:Activation Steering · Activation Engineering · Activation Addition · 激活工程

激活引导在推理时向模型中间状态加入向量,改变输出倾向而不重新训练参数。

他们说

在推理时修改模型中间激活来控制输出

老白翻译

模型回答到一半时,给内部状态加一条方向。

它到底是什么

激活引导在模型前向传播时修改指定层的中间状态。常见做法从成对提示的激活差构造向量,再按一定强度加入新请求。

使用条件

系统需要访问模型内部层并能插入推理过程。模型版本、层号、向量来源和缩放强度都要记录,黑箱 API 通常无法由调用方实现。

常见误解

激活引导不等于改好模型参数,也不能保证确定性约束。强度过大可能造成重复、语言失真和无关任务能力下降。

普通人怎么用

用目标题、普通题和相邻边界题一起测试,选择最小有效强度。付款、删除等动作继续使用程序权限和人工门禁。

来源文章