对比学习论文阅读 SimSiam Exploring Simple Siamese Representation Learning

qq_45738761

428人浏览 · 2024-04-24 11:42:05

qq_45738761 · 2024-04-24 11:42:05 发布

对比学习论文阅读：

对比学习论文阅读 simCLR A Simple Framework for Contrastive Learning of Visual Representations-CSDN博客

对比学习论文阅读 MOCO Momentum Contrast for Unsupervised Visual Representation Learning-CSDN博客

对比学习论文阅读 BYOL Bootstrap Y our Own LatentA New Approach to Self-Supervised Learning-CSDN博客

对比学习论文阅读 SimSiam Exploring Simple Siamese Representation Learning-CSDN博客

探索简单孪生表示学习

论文发现孪生网路可以在1没有负样本2没有大批量3没有动量编码器（只通过禁止梯度回传）的情况下学习到特征表示

将图像x做增强后通过编码器f（backbone+投影MLP）提取特征，其中一方再通过一个预测MLP(记为h)对结果进行变换。定义D为双方余弦相似度的负值。该过程可以描述为，，定义损失函数为 ---称为对称损失。

损失函数作用于整个数据集，总损失是所有图像损失的平均，故最小的可能损失为-1

文章中最重要的概念是Stop-gradient梯度停止/禁止梯度回传。对损失函数进行简单修改：

实验：

消融实验证明去除sg，果然崩溃导致了退化解，后续作者还用实验证明退化解是“崩溃”导致的

之后作者通过各种实验来确定究竟是网络中的哪个结构避免了崩溃：

Sg：移除，则崩溃

预测头：移除，则崩溃。冻结预测头参数，则模型不收敛

Batch Size：影响不大

BN层：BN有助于训练优化，这与监督学习中BN的作用类似；但并未看到BN有助于避免“崩溃”的证据

损失函数：SimSiam的有效性不依赖于对称损失，只是论文设计的对称损失函数更加有效

伪代码：

天工造物局

北京人形旗下天工造物具身智能开源社区，聚焦具身天工与慧思开物两大平台

更多推荐

Handy 离线语音转写教程：免费开源，本地跑不连网

你肯定遇到过：语音输入 5 分钟，云转写服务要登录、要付费；或者出差没网，想口述一段会议纪要，发现全都没法用。Handy 离线语音转写工具就是为解决这个问题做的，声音全程不出你的电脑。## 🎯 这个工具是什么Handy 是一款免费、开源、跨平台（Windows / macOS / Linux）的离线语音转写应用。按住快捷键说话，松手后文字直接粘贴进任意输入框，全程不联网。核心能力就三条：

天工造物局

Supabase Edge Functions 编写与部署完整指南：Deno 运行时上的无服务器利器

Supabase Edge Functions 是基于 Deno 运行时编写、面向 Web 的无服务器函数服务，帮你把后端逻辑部署到全球边缘节点。作为 Postgres 开发平台的核心能力之一，它让你用 TypeScript 就能快速搭建低延迟的 API 端点、Webhook 接收器和 AI 集成服务，无需管理任何服务器。本文将从零带你完成一个 Edge Function 的创建、本地调试与全球部

天工造物局

celld从v0.1.0到v0.2.0为何不能滚动升级：两个破坏性变更详解

celld 是一个自托管、分布式的 Durable Objects 开源守护进程，它在你自己的机器上运行 Cloudflare Workers，每个对象对应一个独立的 SQLite 数据库，并持续复制到你自己拥有的 S3 兼容存储桶中。如果你正准备把 v0.1.0 的集群（fleet）升级到 v0.2.0，这篇文章必须先读：这次升级**不能滚动升级**，必须采用"先停光、再启动"的一次性发布方式。