Abliteration is een techniek die de neiging van een model om te weigeren wegneemt. Het past de gewichten van het model direct aan, zodat het verzoeken beantwoordt die het normaal zou afwijzen — terwijl kennis, redeneervermogen en codeervaardigheid intact blijven.
In het kort
Grote taalmodellen worden getraind om bepaalde verzoeken te weigeren. Dat gedrag is niet willekeurig over het netwerk verspreid — het concentreert zich langs een specifieke richting in de interne activaties van het model, vaak de “weigeringsrichting” genoemd. Abliteration vindt die richting en neemt het model het vermogen af om ernaar te handelen.
Waar weigeringen vandaan komen
Tijdens alignmenttraining leert een model prompts te herkennen die het moet afwijzen en zijn output richting een weigering te sturen — het bekende “Daar kan ik je niet mee helpen.” Onderzoek heeft aangetoond dat deze sturing verloopt via één dominante richting in de activatieruimte: voeg die toe en vrijwel elke prompt wordt geweigerd; trek hem af en weigeringen verdwijnen grotendeels.
Wat abliteration echt verandert
Abliteration identificeert de weigeringsrichting — door de activaties van het model op schadelijke en onschuldige prompts te vergelijken — en orthogonaliseert vervolgens de gewichten ten opzichte daarvan, zodat het model die richting niet meer kan representeren. Geen hertraining en geen nieuwe data: het is een gerichte, chirurgische ingreep in de gewichten die er al zijn.
Abliteration verwijdert gedrag, geen kennis. Het model behoudt alles wat het heeft geleerd — het buigt antwoorden alleen niet meer om naar weigeringen.
Abliteration vs. fine-tuning
Fine-tuning leert nieuw gedrag aan met extra trainingsdata en rekenkracht. Abliteration verwijdert één gedrag met een directe aanpassing van de gewichten — goedkoper, sneller en voorspelbaarder, maar veel beperkter in reikwijdte. De twee vullen elkaar aan: met fine-tuning voeg je capaciteiten toe, met abliteration neem je een specifieke beperking weg.
Wat het niet doet
- Het voegt geen nieuwe kennis, vaardigheden of nauwkeurigheid toe.
- Het maakt een model niet veiliger — en op zichzelf ook niet gevaarlijker.
- Het neemt je verantwoordelijkheid voor hoe je de output gebruikt niet weg.
Abliterated modellen op Ablitron
Ablitron biedt twee abliterated modellen aan via een OpenAI-compatibele API: Core voor snelle, korte taken en Pro voor diep redeneren en lange context. Beide behouden hun volledige capaciteit zonder weigeringen, zodat coding-agents en applicaties een direct antwoord krijgen in plaats van een preek.