Abliteration 是一種消除模型拒答傾向的技術。它直接修改模型權重,讓模型回答原本會拒絕的請求——同時完整保留它的知識、推理與程式設計能力。
簡單來說
大型語言模型經過訓練,會拒絕某些請求。這種行為並不是隨機分散在整個網路中,而是集中在模型內部活化值(activation)的某個特定方向上,通常稱為「拒絕方向」。Abliteration 會找出這個方向,並移除模型依據它採取行動的能力。
拒絕從何而來
在對齊訓練中,模型學會辨識應該拒絕的提示詞,並把輸出導向拒絕——也就是大家熟悉的「這個我沒辦法幫你」。研究顯示,這種導向是由活化空間中單一的主導方向所中介:加上它,幾乎任何提示詞都會被拒絕;減去它,拒絕大多就消失了。
Abliteration 實際上改變了什麼
Abliteration 會比較模型在有害與無害提示詞上的活化值,藉此找出拒絕方向,再讓權重對該方向正交化,使模型再也無法表示這個方向。不需要重新訓練,也不需要新資料:這是對既有權重進行的一次精準的「外科手術式」修改。
Abliteration 移除的是一種行為,而不是知識。模型保留它學到的一切——只是不再把回答轉向拒絕。
Abliteration 與微調的差異
微調是用額外的訓練資料與運算資源教模型新的行為。Abliteration 則是直接編輯權重來移除某一種行為——更便宜、更快、更可預測,但適用範圍窄得多。兩者相輔相成:用微調增加能力,用 abliteration 移除特定限制。
它不會做什麼
- 它不會增加新的知識、技能或準確度。
- 它不會讓模型更安全——單靠它本身,也不會讓模型更危險。
- 它不會免除你在使用輸出內容上應負的責任。
Ablitron 上的 abliterated 模型
Ablitron 透過相容 OpenAI 的 API 提供兩款 abliterated 模型:Core 適合快速、簡短的任務,Pro 適合深度推理與長上下文。兩者都在移除拒絕的同時保有完整能力,讓程式設計代理與應用程式直接拿到答案,而不是一頓說教。