MMOE

MMOE是指Multi-gate Mixture-of-Experts
注意看Expert后面加了s，说明了有多个专家。
而在MMOE中专家是指用来对输入特征计算的神经网络，每个神经网络根据输入计算出来的向量都会有所不同。

MMOE的低层

在这里插入图片描述

MMOE的上一层

在这里插入图片描述
通过MMOE的低层算出的向量和权重系数，进一步通过多个神经网络分别算出多个指标。

MMOE的问题——极化现象

在这里插入图片描述
在MME中OSoftmax是在估价某种指标时各专家的权重，如果权重为0，说明该专家系统将会失效，某种指标并未用到该专家系统，甚至有可能出现某个专家系统未被任何指标使用过的情况。（也就相当于该专家系统存在和不存在是相同的作用。）
在这里插入图片描述

如何解决极化现象

在这里插入图片描述

# 推荐算法
Logo
天工造物局

北京人形旗下天工造物具身智能开源社区，聚焦具身天工与慧思开物两大平台

更多推荐

deck.gl TripsLayer 出租车轨迹动画示例实战：从示例运行到着色器原理

TripsLayer 是 deck.gl 中用于渲染**随时间流动的轨迹动画**（如出租车行程、物流路径、迁徙路线）的核心图层。本文以仓库中的最小独立示例 [examples/website/trips](https://link.gitcode.com/i/1442af8f442f4cff39ff546e050fceb5) 为骨架，带你完成从安装依赖、启动应用、理解曼哈顿出租车数据格式，到深入

avatar 天工造物局

Foundry Anvil 中 eth_simulateV1 的 Blob 交易与 Blob Gas 字段规范化：原理、实现与测试验证

本篇技术指南以 [anvil-simulate-blob-transactions.md](https://link.gitcode.com/i/3d2ebe227262de169335eb290af80da8) 这条 changelog 条目为起点，深入剖析 Foundry Anvil 对 `eth_simulateV1` RPC 返回结果中 blob（EIP-4844）交易与 blob gas

avatar 天工造物局

LMCache CLI 实战：用 `lmcache kvcache clear` 管理运行中服务的 KV Cache 状态

本文是一份针对 LMCache 官方 CLI 命令 `lmcache kvcache` 的完整技术指南。该命令用于在**运行中的 LMCache 服务（MP HTTP server）**上管理 KV cache 状态，当前提供 `clear` 子命令，用于清空 L1（CPU 内存）层中缓存的全部 KV 数据。读完本文，你将掌握该命令的完整参数体系、退出码语义、终端/JSON/静默三种输出模式，并能

avatar 天工造物局