Domain Adaptation 和 Domain Generalization的辨析:

  • Domain Adaptation: 重点在于克服源域和目标域分布不同

  • Doamin Generalization:

    • 目标域未知

    • 对一定范围下，任何的目标域都要起作用

    • 成熟主流的方法主要分三类：

      • feature-based method: 设计跨域不变特征实现

      • classifier-based method：针对每个数据集，也就是源域中每一个子域对子分类器进行设计，然后将子分类器结合成一个融合分类器

      • instance-reweighting method

 

知识蒸馏和迁移学习：

  • 知识蒸馏可以看成是迁移学习的一个特列，是实现迁移学习的一种有效形式。
  • 迁移学习是一个宏大的概念：
    • 域训练，域自适应，域泛化，多任务学习等等都是。
    • 甚至元学习，小样本学习也可以看成是迁移学习的问题。
  • 知识蒸馏是非常经典的基于迁移学习的模型压缩技术，在学术界研究非常活跃，在工业界也有许多应用和较大潜力。
  • 相同点： 从大数据，大模型学习知识到目标数据

 

Domain Randomization: 域随机化技术----领域数据生成

  • 廉价合成数据训练神经网络

 

Open Set Domain Adaptaion: 开放集域自适应

  • 源域和目标域类别不相同

 

 

Logo
天工造物局

北京人形旗下天工造物具身智能开源社区，聚焦具身天工与慧思开物两大平台

更多推荐

Understand Anything 多智能体知识图谱管线：从代码扫描到可交互 Dashboard 的实现解析

本文以 Understand Anything 的官方文档为主线，系统拆解它如何用一条「Tree-sitter 静态分析 + LLM 语义理解」的多智能体管线，把任意代码库 / 知识库 / 文档转换成可探索、可检索、可问答的知识图谱，并落到一个可交互的 Web Dashboard。读完你应能掌握：如何安装并在 Claude Code / Codex / Cursor / Copilot / Gem

avatar 天工造物局

graphify 视频音视频转写全流程解析：从 detect 结果到知识图谱文档的 Step 2.5

graphify 的核心能力是把任意语料（代码、文档、PDF、图片）转化为可查询的知识图谱，而视频与音频文件无法被直接阅读，必须先把它们转写成文本。本文围绕 `graphify` 运行手册中的转写参考文档 [transcribe.md](https://link.gitcode.com/i/d3285781588e0f1b84886dfdbc4fe7f6)，完整讲解 "Step 2.5 - Tra

avatar 天工造物局

ML-For-Beginners 终章：经典机器学习在金融、医疗、零售等八大行业中的真实落地场景

本篇技术指南基于开源课程仓库 ML-For-Beginners 的收尾课程《Postscript: Machine learning in the real world》（对应仓库目录 [9-Real-World/1-Applications](https://link.gitcode.com/i/6b23002df80861c20abf34d7db63ef41)）编写。该课此前 11 周的教学带

avatar 天工造物局