Метка: вычислительный бюджет
-
Генеративные модели вознаграждения в больших языковых моделях: оптимизация рассуждений при ограниченных вычислительных ресурсах
Большие языковые модели (LLMs) продемонстрировали значительный прогресс в области рассуждений в различных областях, включая математику и естественные науки. Однако улучшение этих способностей к рассуждению во время тестирования остаётся задачей, над которой активно работают исследователи. Основное внимание уделяется разработке методов эффективного масштабирования вычислений во время тестирования при максимальном повышении качества рассуждений. Текущие методологии включают генерацию нескольких…