第五章 用户行为序列

1 用户行为序列（LastN）

1.1 LastN特征

  • LastN：用户最近的nnn次交互的物品
  • 把LastN物品ID做embedding，最后把nnn个向量取平均，作为用户的一种特征
  • 适用于召回双塔模型、粗排三塔模型、精排模型

2 DIN模型

  • DIN模型使用加权平均代替平均，即注意力机制。
  • 计算候选物品向量与LastN向量的相似度，以相似度为权重，求用户LastN物品向量的加权和。

2.1 简单平均 v.s. 注意力模型

  • 简单平均和注意力机制都适用于精排模型

  • 简单评价适用于双塔模型和三塔模型

    • 简单平均只用到LastN，属于用户自身的特征

  • 注意力机制不适用于双塔模型和三塔模型

    • 注意力机制需要用到LastN+候选物品
    • 用户塔看不到候选物品，不能把注意力机制用在用户塔

3 SIM模型

  • DIN模型的缺点：

    • 注意力层的计算量∝n\propto n∝n
    • 关注短期兴趣，以往长期兴趣（计算量和性能的权衡）

  • 改进思路：快速排除掉与候选物品无关的LastN物品

  • SIM模型：保留用户长期项未记录，nnn的大小可以是几千

    • 对于每个候选物品，在用户LastN记录中做快速查找，找到kkk个相似物品
      • Hard Search（保留LastN物品中类目相同的，无需训练）
      • Soft Serach（物品做embedding，把候选物品向量作为query做kkk近邻查找）
    • 把LAstN变为TopK，然后输入到注意力层
      • 小Trick：使用时间信息

Q：为什么SIM使用时间信息？

A：DIN的序列短（近期），SIM的序列长（长期）

Logo
天工造物局

北京人形旗下天工造物具身智能开源社区，聚焦具身天工与慧思开物两大平台

更多推荐

deck.gl TripsLayer 出租车轨迹动画示例实战：从示例运行到着色器原理

TripsLayer 是 deck.gl 中用于渲染**随时间流动的轨迹动画**（如出租车行程、物流路径、迁徙路线）的核心图层。本文以仓库中的最小独立示例 [examples/website/trips](https://link.gitcode.com/i/1442af8f442f4cff39ff546e050fceb5) 为骨架，带你完成从安装依赖、启动应用、理解曼哈顿出租车数据格式，到深入

avatar 天工造物局

Foundry Anvil 中 eth_simulateV1 的 Blob 交易与 Blob Gas 字段规范化：原理、实现与测试验证

本篇技术指南以 [anvil-simulate-blob-transactions.md](https://link.gitcode.com/i/3d2ebe227262de169335eb290af80da8) 这条 changelog 条目为起点，深入剖析 Foundry Anvil 对 `eth_simulateV1` RPC 返回结果中 blob（EIP-4844）交易与 blob gas

avatar 天工造物局

LMCache CLI 实战：用 `lmcache kvcache clear` 管理运行中服务的 KV Cache 状态

本文是一份针对 LMCache 官方 CLI 命令 `lmcache kvcache` 的完整技术指南。该命令用于在**运行中的 LMCache 服务（MP HTTP server）**上管理 KV cache 状态，当前提供 `clear` 子命令，用于清空 L1（CPU 内存）层中缓存的全部 KV 数据。读完本文，你将掌握该命令的完整参数体系、退出码语义、终端/JSON/静默三种输出模式，并能

avatar 天工造物局