граничное устройство
edge device
Железо, которое запускает модель локально, на краю сети, а не звонит в дата-центр: телефон, ноутбук, маленький сервер в шкафу. Смысл в том, что инференс происходит на самом устройстве, поэтому данные никуда не уходят. 1-битная сборка модели на 27B, 3,9 ГБ на диске, работает на iPhone 17 Pro Max примерно на 11 токенах в секунду.