Hacker News · 31.07.2026 ·ИИ в бизнесе

Netflix внедряет LLM-native рекомендации в GenRec

Netflix представил GenRec — новую архитектуру рекомендательных систем, которая переходит от классических методов машинного обучения к подходу, основанному на больших языковых моделях. Система позволяет обрабатывать сложные контекстные запросы пользователей и учитывать семантические связи между контентом, обеспечивая более точную персонализацию в реальном времени за счет интеграции LLM непосредственно в пайплайны ранжирования.

Традиционные рекомендательные системы Netflix опирались на матричную факторизацию и глубокие нейронные сети, которые хорошо справлялись с предсказанием предпочтений на основе истории просмотров. Однако такие модели ограничены в понимании нюансов запросов и не могут гибко реагировать на изменение интересов пользователя в рамках одной сессии. GenRec решает эту проблему, используя LLM для генерации представлений (эмбеддингов) контента, которые учитывают не только метаданные, но и текстовые описания, отзывы и тематические связи.

Переход к LLM-native архитектуре позволяет компании эффективнее использовать неструктурированные данные. Модель способна «понимать» контекст запроса пользователя, даже если он сформулирован в свободной форме, и сопоставлять его с библиотекой контента. Это снижает зависимость от жестко заданных тегов и категорий, позволяя системе предлагать более релевантные фильмы и сериалы, основываясь на глубоком анализе смыслового содержания медиатеки.

Ключевые факты

GenRec использует LLM для создания семантических представлений контента, выходя за рамки традиционных коллаборативных фильтров.
Система оптимизирована для работы с неструктурированными данными, включая описания и пользовательские метаданные.
Новый подход позволяет учитывать динамический контекст сессии пользователя для повышения точности рекомендаций.
Архитектура направлена на снижение сложности управления метаданными при сохранении высокой скорости инференса в продакшене.

Источник: Hacker News

Обсудить с ИИ

Похожие материалы

Hacker News · Инфраструктура для агентов Инфраструктура для инференса LLM в Netflix Netflix представил архитектуру собственной платформы для обслуживания больших языковых моделей, оптимизированную для внутренних нужд компании. Система обеспечивает масштабируемый инференс, позволяя командам быстро развертывать ИИ-решения с минимальными задержками. Инженерный стек сфокусирован на высокой доступности, эффективном управлении ресурсами GPU и интеграции с существующими пайплайнами обработки данных, что критически важно для поддержки агентных систем в продакшене. Hacker News · ИИ в бизнесе Опыт Netflix в создании собственной инфраструктуры для инференса LLM Netflix представила архитектуру собственной платформы для обслуживания больших языковых моделей, ориентированную на высокую производительность и масштабируемость. Система позволяет эффективно управлять инференсом моделей внутри компании, обеспечивая гибкость при работе с различными задачами — от генерации контента до оптимизации внутренних процессов. Решение фокусируется на минимизации задержек и оптимизации затрат при поддержке разнообразных моделей в продакшене. arXiv · Исследования и наука CALMRec: новый метод борьбы с искажениями в рекомендательных системах на базе LLM Исследователи представили CALMRec — архитектуру для рекомендательных систем, которая разделяет долгосрочные предпочтения пользователя, сиюминутные намерения и влияние истории показов. В отличие от стандартных LLM-рекомендателей, склонных к формированию «петли обратной связи» из-за переоценки кликов, этот метод использует причинно-следственный анализ для более точного моделирования реального интереса пользователя и повышения качества долгосрочных прогнозов. Hacker News · Инфраструктура для агентов Как Netflix организовала собственную инфраструктуру для инференса LLM Netflix представила архитектуру своей платформы для обслуживания больших языковых моделей, ориентированную на высокую доступность и масштабируемость. Инженеры компании отказались от использования готовых API в пользу собственного решения, которое позволяет гибко управлять нагрузкой, оптимизировать затраты и обеспечивать низкую задержку при выполнении запросов в рамках внутренних сервисов компании. arXiv · ИИ в бизнесе GR2: новый подход к ранжированию в рекомендательных системах через LLM Исследователи представили GR2 — специализированную модель для этапа финального переранжирования в рекомендательных системах. Решение устраняет разрыв между возможностями больших языковых моделей и требованиями индустриальных систем, обеспечивая высокую точность при обработке каруселей и сеток контента. Модель оптимизирует вовлеченность пользователей, эффективно обрабатывая сложные контекстные зависимости, которые часто упускаются традиционными алгоритмами ранжирования. Hacker News · Инфраструктура для агентов Архитектура Modulator: новый подход к управлению потоками данных в LLM Разработчики представили архитектуру Modulator — концептуальный фреймворк для управления сигналами внутри LLM. Система разделяет логику обработки данных и генерацию контента, позволяя динамически модулировать скрытые состояния модели. Это решение направлено на повышение точности управления поведением агентов и улучшение контроля над контекстом в реальном времени, что критично для сложных многошаговых задач. Hacker News · Данные и инжиниринг GenDB: генеративный движок запросов на базе LLM GenDB представляет собой новый подход к взаимодействию с базами данных, где традиционные SQL-запросы заменяются генеративными моделями. Система позволяет пользователям формулировать запросы на естественном языке, которые затем преобразуются в исполняемый код для извлечения данных. Основная цель проекта — снизить порог входа для работы с аналитическими системами и упростить процесс извлечения инсайтов из неструктурированных и структурированных наборов данных. Hacker News · Исследования и наука Автоматизированный поиск алгоритмов удаления концепций в LLM Исследователи представили новый подход к автоматическому поиску алгоритмов для удаления нежелательных концепций из весов нейронных сетей. Используя агентную систему, авторы смогли обнаружить эффективные методы «стирания» знаний, которые превосходят существующие ручные подходы. Это позволяет точечно корректировать поведение моделей, минимизируя побочные эффекты для общей производительности и сохраняя функциональность системы после удаления конкретных данных или концепций. arXiv · Память и RAG Co-LMLM: новый подход к обучению моделей с внешней базой знаний Исследователи представили архитектуру Co-LMLM (Continuous-Query Limited Memory Language Models), которая переносит хранение фактологических знаний из весов нейросети во внешнюю базу данных. В отличие от стандартных LLM, такая модель в процессе генерации текста динамически обращается к внешним источникам, что позволяет обновлять знания без необходимости дорогостоящего дообучения и обеспечивает лучший контроль над достоверностью информации. arXiv · Обучение и дообучение Метод Neuron-Aware для самообучения LLM без участия человека Исследователи представили метод Neuron-Aware Data Selection, позволяющий дообучать большие языковые модели без использования человеческой разметки или внешних экспертных данных. Технология опирается на самодистилляцию, где модель использует собственные выходы в качестве обучающих сигналов. Подход фокусируется на отборе наиболее информативных данных через анализ активации нейронов, что значительно повышает качество генерации в специализированных областях при отсутствии дорогостоящих аннотаций.

← Все материалы