Исследователи представили метод адаптивного распределения семантической емкости (ASCA) для параллельных генеративных рекомендательных систем. Новый подход решает проблему ограничений авторегрессионных моделей, связанных с затратным поиском по лучу (beam search). Вместо последовательного прогнозирования токенов система генерирует их параллельно, что позволяет использовать более длинные и гибкие идентификаторы объектов без потери производительности и точности предсказаний.

Традиционные подходы к семантическим идентификаторам (semantic IDs) часто опираются на жестко заданные и однородные структуры, где длина идентификатора фиксирована для всех категорий товаров. Это создает узкое место при масштабировании систем на большие каталоги. Метод ASCA динамически распределяет семантическую емкость, выделяя больше ресурсов для сложных или популярных категорий, что повышает качество ранжирования и эффективность обработки данных.

Внедрение параллельной генерации значительно сокращает время инференса, делая генеративные рекомендательные системы пригодными для работы в реальном времени. Авторы метода продемонстрировали, что адаптивная структура идентификаторов позволяет модели лучше улавливать иерархические связи между товарами, минимизируя ошибки при предсказании длинных последовательностей, которые ранее были недоступны для параллельных методов из-за высокой вычислительной сложности.

Ключевые факты

  • Метод ASCA устраняет необходимость в дорогостоящем поиске по лучу, характерном для авторегрессионных моделей.
  • Параллельная генерация токенов позволяет использовать более длинные идентификаторы объектов, повышая точность рекомендаций.
  • Адаптивное распределение емкости заменяет ручную настройку однородных структур идентификаторов.
  • Новый подход оптимизирует вычислительные затраты при работе с крупномасштабными товарными каталогами.