системный промпт
system prompt
Блок инструкций, который харнесс ставит перед вашим разговором, до того как модель что-либо увидит: кто она, что ей можно, какие есть инструменты и как их просить. Вы его не пишете, и он тратит контекстное окно наравне со всем остальным.
В большинстве локальных харнессов это обычный текстовый файл — а значит, специализировать модель означает править файл, а не обучать что-либо. Одни и те же веса становятся налоговым консультантом в одной папке и ревьюером кода в другой, потому что абзац над разговором другой.
Он же отправляется заново первым на каждом ходу, так что длинный системный промпт — это налог, оплачиваемый по разу на запрос всю жизнь сессии.