A. Smyntyna / Code
ENRU

системный промпт

system prompt

Блок инструкций, который харнесс ставит перед вашим разговором, до того как модель что-либо увидит: кто она, что ей можно, какие есть инструменты и как их просить. Вы его не пишете, и он тратит контекстное окно наравне со всем остальным.

В большинстве локальных харнессов это обычный текстовый файл — а значит, специализировать модель означает править файл, а не обучать что-либо. Одни и те же веса становятся налоговым консультантом в одной папке и ревьюером кода в другой, потому что абзац над разговором другой.

Он же отправляется заново первым на каждом ходу, так что длинный системный промпт — это налог, оплачиваемый по разу на запрос всю жизнь сессии.

Читать дальше