前文连接:持续学习的综述: 理论、方法与应用(一)
前文连接:持续学习的综述: 理论、方法与应用(二:理论基础)

泛化分析

目前持续学习的理论研究主要是在增量任务的训练集上进行的,假设它们的测试集遵循相似的分布,候选解具有相似的泛化性。然而,由于学习多个任务的目标通常是高度非凸的,因此存在许多局部最优解,它们在每个训练集上的表现相似,但在测试集上的泛化性却有显著不同[313],[443]。对于持续学习,理想的解决方案不仅需要从训练集到测试集的任务内泛化性,还需要任务间泛化性,以适应其分布的增量变化。

在这里插入图片描述

Logo

北京人形旗下天工造物具身智能开源社区,聚焦具身天工与慧思开物两大平台

更多推荐