Статья об искусственном интеллекте от Microsoft представляет WINA: систему активации без обучения для эффективной работы с большими языковыми моделями
Большие языковые модели (БЯМ) с миллиардами параметров лежат в основе многих сервисов, управляемых искусственным интеллектом, в различных отраслях. Однако их огромный размер и сложная архитектура делают вычислительные затраты во время логического вывода (inference) существенной проблемой. Оптимизация баланса между вычислительной эффективностью и качеством вывода стала важнейшей областью исследований. Основная проблема заключается в том, как БЯМ обрабатывают … Читать далее