VRAM
Память, распаянная на видеокарте, отдельно от системной оперативки компьютера. На ПК это жёсткий потолок для локальных моделей: потребительские карты NVIDIA идут с 8–24 ГБ, а верхняя граница доходит до 32 ГБ. Модель, которая не влезла, выплёскивается в системную память и замедляется на порядок.
Две платформы ломаются по-разному, и стоит понимать, против какой поломки вы выбираете. NVIDIA упирается в стену: под пределом очень быстро, за ним модель едва работает. Apple Silicon вместо этого деградирует, потому что единая память позволяет модели расползтись в куда больший пул на скорости, которая спадает постепенно.
Поэтому одни и те же деньги на одной платформе покупают скорость, а на другой — вместимость.