Метка: dynamic quantization
-
Оптимизация моделей глубокого обучения с помощью весовой квантизации: практическое руководство по работе с ResNet18 в PyTorch
В современной области глубокого обучения оптимизация моделей для развёртывания в условиях ограниченных ресурсов становится как никогда важной. Весовая квантизация решает эту задачу, снижая точность параметров модели, обычно с 32-битных чисел с плавающей запятой до представлений с меньшей разрядностью. Это позволяет создавать более компактные модели, которые могут работать быстрее на оборудовании с ограниченными ресурсами. В этом…