BitNet на микроконтроллерах: как устроен запуск 1.58-битной LLM на кластере ESP32-S3
Модели с экстремально низкой разрядностью всё чаще рассматривают для устройств без GPU, но их реальная работа упирается в то, как именно ядра выполняют умножение матриц. В статье разбирается…
Читать далее