Перейти до вмісту

Що таке аблітерація?

Аблітерація — це техніка, що прибирає схильність моделі відмовляти. Вона редагує ваги моделі напряму, тож модель відповідає на запити, які зазвичай відхилила б, — і зберігає знання, міркування й навички програмування.

Коротко

Великі мовні моделі навчають відхиляти певні запити. Ця поведінка не розкидана мережею випадково — вона зосереджена вздовж конкретного напрямку у внутрішніх активаціях моделі, який часто називають «напрямком відмови». Аблітерація знаходить цей напрямок і позбавляє модель здатності діяти відповідно до нього.

Звідки беруться відмови

Під час навчання з вирівнювання (alignment) модель вчиться розпізнавати промпти, які слід відхилити, і спрямовувати відповідь до відмови — знайомого «Я не можу з цим допомогти». Дослідження показали, що це спрямування опосередковується одним домінантним напрямком у просторі активацій: додайте його — і відмову отримає майже будь-який промпт; відніміть — і відмови здебільшого зникнуть.

Що насправді змінює аблітерація

Аблітерація визначає напрямок відмови — порівнюючи активації моделі на шкідливих і нешкідливих промптах, — а потім ортогоналізує ваги відносно нього, тож модель більше не може представляти цей напрямок. Жодного перенавчання й жодних нових даних: це точкове, хірургічне редагування вже наявних ваг.

Головне

Аблітерація прибирає поведінку, а не знання. Модель зберігає все, чого навчилася, — вона просто перестає перетворювати відповіді на відмови.

Аблітерація vs. fine-tuning

Fine-tuning навчає нової поведінки за допомогою додаткових даних і обчислень. Аблітерація прибирає одну поведінку прямим редагуванням ваг — дешевше, швидше й передбачуваніше, але з набагато вужчим охопленням. Ці підходи доповнюють один одного: fine-tuning додає можливості, а аблітерація прибирає конкретне обмеження.

Чого вона не робить

  • Не додає нових знань, навичок чи точності.
  • Не робить модель безпечнішою — і сама по собі не робить її небезпечнішою.
  • Не знімає з вас відповідальності за те, як ви використовуєте результат.

Аблітеровані моделі в Ablitron

Ablitron надає дві аблітеровані моделі через OpenAI-сумісний API: Core для швидких коротких завдань і Pro для глибоких міркувань і довгого контексту. Обидві зберігають усі можливості без відмов, тож агенти для програмування й застосунки отримують пряму відповідь замість моралі.

Питайте що завгодно.
Отримуйте відповідь.

Почніть чат за кілька секунд. Картка не потрібна.