активные параметры
active parameters
Сколько модели реально работает, чтобы выдать один токен, в отличие от того, сколько её лежит в памяти. В имени вроде qwen3.6-35b-a3b число a3b — это оно: 35 миллиардов параметров хранится, 3 миллиарда используется на токен. Оно предсказывает скорость, а общее число — память.
У плотной модели такого числа нет: ответ всегда «все». A-число появляется только у mixture of experts, и его отсутствие само по себе информация: нет a-числа — модель плотная.
При выборе два числа тянут в разные стороны. Общее число параметров решает, влезет ли файл. Активные параметры решают, выносимо ли будет ждать.