Step By Step Learning AI

如果这个仓库对你有帮助，欢迎点击右上角 Star ⭐ 支持一下，让更多人发现它！

欢迎来到 StepByStepLearningAI 仓库！这个仓库是微信公众号”稳扎稳打学AI”的配套资源库，旨在帮助大家逐步、系统地学习人工智能，特别是推荐算法领域。我们每天精挑细选最优质、最新鲜的推荐算法论文，陪你一起保持进步、不断精进。

关于公众号“稳扎稳打学AI”

• 公众号介绍：关注我，每天为你精选推荐算法paper，帮助你稳扎稳打地学习AI。公众号由刘明星（微信: lmxhappy）运营，内容聚焦于推荐、广告和搜索等。
• paper推荐原则：我们优先选择高影响力、实用性强的论文，包括但不限于LLM在推荐中的应用、搜索词推荐等实际案例分析。
• 知乎专栏：更多内容可查看稳扎稳打学AI - 知乎专栏，已更新200+篇内容，涵盖热门论文解读。

仓库内容

这个仓库将逐步上传与公众号同步的资源，包括：

• 论文笔记和代码：针对公众号推荐的论文，提供详细解读、代码实现和实验复现。
• 学习路径：步步为营的AI学习指南，从基础到高级推荐算法。
• 示例文件：
  • MTFM.md：更多技术细节和模型框架（More Technical Framework Markdown）。
• 未来计划：TODO。

如何开始

1. 关注公众号：搜索“稳扎稳打学AI”或扫描二维码，获取每日论文推荐。
2. 克隆仓库：git clone https://github.com/lmxhappy/StepByStepLearningAI.git
3. 贡献：欢迎提交PR，分享你的学习笔记或代码实现。我们一起进步！

目录结构 & 内容说明

📁 子目录导航

• 跨域 跨领域推荐。

  • MTFM — 异构多场景推荐 Foundation Model (美团)
  • YouTube Music 跨域蒸馏 — 零样本跨域知识蒸馏，新歌收听+11% (YouTube)

• 用户行为序列建模 用户的历史行为序列建模，包括超长序列建模和普通序列建模。

  • STCA — 超长序列建模，完播率+3% (字节)
  • Ultra-HSTU — HSTU 2.0 超长序列建模 (Meta)
  • MoS — 序列聚类+MoE 搞定长序列 (Meta)
  • Sample Is Feature — 序列样本分词，CTR+2% (美团)
  • GenLI — 生成式长兴趣建模，RPM+1.6% (美团)
  • UxSID — 用聚类搞定超长序列建模，收入+0.3% (快手)
  • TokenMinds — 用户生成式SID特征双输出表征 (YouTube)
  • UniSGR — 增加用户SID特征，GMV+6% (阿里)
  • CMSL — 用户行为序列转成纯净意图流 (Meta)
  • EST — 异构特征统一建模，RPM+3% (阿里)

• 生成式推荐 生成式推荐。

  • OneLive — 生成式推荐落地直播场景 (快手)
  • Sigma — 生成式推荐，GMV+8% (阿里)
  • VectorizingTrie — 生成式召回解码提速最高1000倍 (Google)
  • GEM-Rec — 统一推荐与广告的生成式推荐 (Google)
  • RCLRec — 稀疏目标的生成式推荐，广告收入+2% (阿里国际)
  • CQ-SID — 搜索LLM生成式召回，贡献七成成交 (阿里)
  • DGI — SID与GR联合训练，RPM+1.11% (阿里)

• SID 语义ID学习与生成式检索。

  • QuaSID — SID 量化新方法，GMV+2% (快手)
  • AKT-Rec — 聚类相关特征提升长尾，GMV+3% (阿里)

• LLM4Rec LLM 在推荐/召回中的各类应用范式。

  • LLM语义召回 — LLM as annotator (Meta)
  • LLM合成查询生成 — 数据增强 (Airbnb)
  • 级联生成式LLM首页个性化 — LLM as ranker (Instacart)

• 特征交叉

  • MGDIN — 特征交叉新方法，CTR+3% (阿里)
  • SlimPer — 多层多槽位 Target Attention 增强 (Meta)
  • DANet — 折扣率显式建模，GMV+2% (阿里)

• I2I推荐 I2I（Item-to-Item）推荐。

  • DAIAN — 详情页 I2I 推荐，成交额+2% (阿里)

• 双塔召回 两塔架构的深度召回。

  • CS3 — 双塔召回，广告收入最高+8% (快手)
  • HILL — 树状聚类索引+深度召回，业务指标+2.57% (Meta)
  • HSNN — 深度召回，业务指标+3% (Meta)
  • RankGraph — 聚类用于图召回，降本增效 (Meta)

• 损失函数 排序、分类等核心损失函数的创新与优化。

  • VarBPR — 改进 BPR 成对损失，应对隐式反馈噪声

• 表征学习 嵌入表征质量、表示坍缩等问题的建模与优化。

  • RankUp — 解决大规模排序模型表示坍缩 (腾讯)

• ML Infra 机器学习基础设施 / 特征运维 / 模型部署等工程系统类论文。

  • IEFF — 特征优雅下线，又快又稳 (Meta)
  • Versioned Late Materialization — 推荐工程架构/特征物化 (Meta)

• 长尾问题 长尾样本、稀疏特征、低频物品、新用户、新item的建模与优化。

  • UTTSI — 特征随机丢弃+集成解决稀疏样本预测不准 (阿里)

联系方式

• 作者：刘明星
• 微信：lmxhappy
• 知乎：@思达-刘明星
• 反馈：欢迎在公众号留言或issue中讨论。

感谢你的关注！让我们稳扎稳打，学好AI！🚀