Duck's on Recs

Вот такое сегодня прилетело, даже интересно чем там люди занимаются :)

Репортаж с KDD 2026 ⬆️

На прошлой неделе команда AI VK Research участвовала в KDD 2026 — одной из ключевых мировых ML-конференций. Наши ребята представили результаты двух своих исследований, посвящённых развитию рекомендательных систем.

Что обсуждали на KDD, какие тренды появились и как прошла презентация работ команды, рассказывает старший исследователь AI VK Research Артём Матвеев 🎬


Подробнее об исследованиях

➡️ https://arxiv.org/abs/2607.02818
🟣 https://habr.com/ru/companies/vk/articles/1068050/

➡️ https://arxiv.org/abs/2607.02115
🟣 https://t.me/aihubvk

#aivkhub #конференция #kdd #recsys #репортаж

💅💅💅

SIGIR'26 (часть 2): день со статьей

Сегодня был еще один день с постерами, на котором я больше четырех часов простоял у своего. Под вечер уже кажется сорвал голос и так себе говорил из-за этого.

С локацией постера мне очень повезло, он был на проходном месте, из-за чего суммарно у постера за это время остановились и пообщались более 50 человек (просто вчиталось суммарно больше). В какой-то момент к постеру, подошел инженер из ByteDance (TikTok) и начал говорить, что они у них такая же боль есть как у меня в статье. Будут пробовать схожую идею в A/B тесте в будущем.

Закину еще люминальное пространство, которое я нашел, когда заблудился в здании конференции уже поздно вечером :)

SIGIR'26 (часть 1): дни 1–2

Уже прошли 2 из 5 дней SIGIR'26. Поскольку официальное открытие было только во второй день, решил объединить первые два дня в один пост. SIGIR устроен примерно как и многие другие конференции: в первый день проходят туториалы и Doctoral Consortium, затем три основных дня с докладами и постерными сессиями, а в последний день воркшопы.

В первый день я сходил на два туториала: LLM Personalization и IR & Reasoning.

Про LLM Personalization рассказывала большая команда из нескольких азиатских университетов, включая NUS. С частью ребят я был знаком ещё с одной из конференций в 2024 году. Главная мысль туториала заключалась в том, что персонализация это не просто добавить историю пользователя в промпт. Авторы предложили рассматривать её как полноценный стек из нескольких частей: память, архитектура модели, alignment, test-time scaling и deployment. Больше всего мне запомнилась их предложение отойти от one-size-fits-all парадигмы и использовать для разных сценариев отдельные адаптеры, которые и отвечают за персонализацию. Похожую мысль буквально неделю назад видел в рилсах про работу Meta, связанную с моделированием человеческого мозга :)

На втором туториале про  https://reasoning-for-ir.github.io/ выступала команда https://scholar.google.com/citations?user=AVDkgFIAAAAJ из UvA. По моему субъективному мнению, его лаборатория одна из немногих в Европе по Information Retrieval, которая занимается действительно интересными вещами. Больше всего запомнился анализ того, что именно RL даёт моделям для reasoning. Рассказывали, что  https://arxiv.org/abs/2504.13837 не сильно меняет top-k ответы модели, а лишь немного поднимает вероятность уже хороших результатов. Были и отсылки к философии и 12 типам рассуждений. На мой вопрос о том, достигнет ли модель AGI, если в совершенстве сможет освоить все эти типы, Мартин ответил, что тогда другие модели нам уже просто не понадобятся. Ждём и надеемся! Ещё поговорили про Implicit Reasoning. Он сказал, что лично верит в это направление и его команда уже им занимается. Пока основная проблема в том, как заставить модель действительно рассуждать с помощью латентных токенов, а не просто использовать их как ещё одно скрытое представление.

Был еще забавный момент был, когда на вопрос: “Can Bayesian methods enhance the reasoning capabilities of LLMs?” ответили: “Probably” :)

Оставшуюся часть первого дня провёл за нетворкингом: старался ловить людей из индустрии и узнавать, чем сейчас занимаются их команды. Многие активно инвестируют в Generative RecSys, что довольно ожидаемо. Самыми скрытными и труднодоступными оказались ребята из OneRec Team в Kuaishou. Для них буквально было специальное время, когда инженер из из команды посетит конференцию.

Во второй день прошло официальное открытие. Его можно увидеть на фото в посте.

Был keynote от бывшего Principal Engineer с примерно 20-летним опытом работы в Microsoft на тему "Towards Critical IR Theories and Practices". Там обсуждали технофеодализм, связанные с ним проблемы и то, как с этим можно жить. В качестве одного из решений предлагалось создавать независимые, unbiased и trustworthy рекомендательные системы. Идея оказалась очень похожа на то, что мы с ребятами придумали почти год назад на RecSys Summer School. Но открытый вопрос остался тем же: как сделать такую систему массовой и реально донести её до пользователей?

Оставшееся время я провёл в зале с постерами, где были работы из research, reproducibility и resource tracks. Больше всего запомнился постер инженера из Booking/Aampe про Off-Policy Evaluation. Работа оказалась довольно похожа на нашу, про которую я писал пару постов назад. По постеру показалось, что их метод можно рассматривать как частный случай нашего подхода. Ещё увидел постер с идеей проекта, которую больше полугода назад давал своим студентам на практике про использование LLM для улучшения контентного эмбеда в сценарии с предсказаниями semantic IDs. Надо было самим довести её до ума, и сейчас была бы ещё одна публикация на конфе :)

P.S. Места в посте не хватает, в комментариях допишу и добавлю статистику

http://arxiv.org/abs/2511.21989 (Google, DeepMind, UC Davis)

В сентябре я посетил RecSys 2025, одну из главных конференций по рекомендательным системам. Помимо участия в презентации работ от Яндекса, где я тогда работал, было интересно пообщаться с исследователями из топовых лабораторий. В частности, мне запомнился симпозиум Google/YouTube/DeepMind о перспективах и рисках направления LLM × RecSys.

На днях как раз вышла работа от части этих исследователей. Приятно видеть знакомые имена в новых статьях!)

Основная идея: решить проблему холодного старта на стадии кандидатогенерации с использованием RL и LLM.

Сама проблема довольно известная: когда новый товар появляется в системе, у него нет истории взаимодействий. Большинство CF-based моделей не могут обучить для него качественное представление из-за отсутствия данных. В итоге новые товары почти не попадают в список кандидатов, пока не накопят достаточно фидбека.

Предлагается обучить политику, отбора пользователей для аугментации их истории холодными айтемами.

Вот как это работает:

Модель политики видит признаки пользователя и решает, брать ли его для аугментации или нет. Для выбранных пользователей LLM получает пользовательскую историю взаимодействий и два случайных холодных айтема. Её задача - ответить, какой из этих айтемов пользователь бы предпочёл.

После аугментации полученные пары (пользователь-айтем) объединяются с оригинальными данными и на низ обучается двухбашенная модель на задачу предсказания вероятности взаимодействия пользователя с айтемом. С помощью этой модели вычисляется recall@k по холодным айтемам, который используется как ревард для обучении ранее упомянутой политики. Для её обучения авторы используют REINFORCE алгоритм.

Если резюмировать этот алгоритм, то политика обучается отбирать тех пользователей, добавление чьей LLM-based аугментации к оригинальным данным наиболее эффективно для обучения кандидатогенератора.

Эксперименты проводят на серии датасетов от Amazon. Что можно выделить, так это использование темпорального сплита!

По основным результатам получили прирост в ~2.5 раз (1.05% vs 2.65%) для recall@50 на холодных айтемах, но при этом общий recall@50 упал (5.55% vs 4.69%).

Из ablation:
- добавление пользовательского представления из двухбашенной модели в признаки политики значимо бустит качество (2.49% vs 3.08%)
- авторы ускоряют обучение через proxy rewards. Вместо полного переобучения двухбашенных моделей модели на каждой итерации обучения REINFORCE, они берут уже предобученную модель и только дообучают её на 3 эпохи. Этот подход даёт более стабильный сигнал для обучения политики, чем обучение модели с нуля с ранней остановкой (2.49% vs 1.65%), но все еще хуже чем с полным обучением модели с нуля (2.49% vs 2.65%)

Чего мне лично не хватило:
- сравнения по требованиям по вычислительным ресурсам с обучением на обычных данных без аугментации, насколько дороже обучение с LLM + REINFORCE?
- A/B эксперимента, интересно, как это показало бы себя в YouTube
- более детального обоснования ряда архитектурных решений: например, модель политики выглядит очень маленькой, всего один слой (!) поверх статистик