什么是零样本学习?

什么是零样本学习?

发表于昨天 22:32

零样本学习，通俗地说，就是让模型学会“没见过也能认出来”。

比如，训练模型时只给它看过猫、狗、马的图片，没有给它看过斑马图片。但如果我们提前告诉它：“斑马是一种像马、身上有黑白条纹的动物。”那么测试时给它一张斑马图片，它就有可能根据“像马”和“有条纹”这些描述，把斑马认出来。

所以，零样本学习并不是“完全不用数据学习”，而是说：模型在训练阶段没有见过某个类别的样本，但可以借助类别的文字描述、属性特征、语义关系等“额外知识”，去识别这个新类别。

打个比方，这就像一个学生没做过某道新题，但他学过相关概念和解题方法，看到题目描述后，也能尝试推断出答案。零样本学习的关键，就是让模型不是死记每个类别长什么样，而是学会根据描述和已有知识进行迁移判断。

发表于昨天 21:15

零样本学习（ZeroShot Learning）是指模型在训练阶段没有见过某个类别的标注样本，但在测试阶段仍能识别或处理该类别。它的核心思想是利用类别名称、属性描述、文本嵌入等辅助信息，建立已见类别与未见类别之间的联系，从而实现知识迁移。例如，模型训练时只见过“马”和“斑马”，测试时要求识别从未见过的“驴”，就可以借助“马”“斑马”“驴”之间的语义关系来判断。零样本学习与少样本学习不同：少样本学习在训练或适应阶段会提供少量目标类别样本，而零样本学习通常不提供目标类别的标注样本。

发表于昨天 20:10

零样本学习（ZeroShot Learning，简称ZSL）指的是一种机器学习设定：模型在训练阶段只见过一部分类别，但在测试阶段需要识别那些从未在训练中出现过、也没有标注样本的新类别。这里的“零样本”并不是说模型对任务毫无信息，而是说目标类别没有直接的训练样本；模型需要借助类别之间的语义描述、属性、词向量、文本说明或其他辅助知识，把已学到的视觉或特征模式迁移到未见类别上。它要解决的核心问题是：当某些类别缺少标注数据时，模型能否仍然进行识别或推理。

与传统监督学习相比，零样本学习的关键区别在于训练类别和测试类别通常不相交。例如，训练时模型见过“马”“羊”“狗”等类别，测试时要识别“斑马”。模型没有见过斑马图片的标注样本，但可能知道“斑马”具有“像马”“有条纹”“四足动物”等语义属性，或者知道“斑马”这个词在文本嵌入空间中与“马”“条纹”接近。于是模型可以学习从图像特征到语义空间的映射，再根据测试类别的语义表示进行匹配。也就是说，零样本学习往往不是直接学习“图像到类别标签”的映射，而是学习“图像特征到语义描述”的关系，再利用语义描述连接未见类别。

零样本学习常见的辅助信息包括人工定义的属性，例如颜色、形状、有没有翅膀、是否食肉；也包括类别的文本描述、词向量、知识图谱关系，以及近年来大规模视觉语言模型中的文本提示和图文对齐表示。按任务设置，常见的有传统零样本学习和广义零样本学习。传统零样本学习通常假设测试样本只来自未见类别；广义零样本学习则要求模型同时区分已见类别和未见类别，这更接近真实应用，但也更难，因为模型容易偏向训练中见过的类别。

从方法上看，零样本学习大致有几类思路。第一类是基于属性或语义嵌入的方法，把图像映射到属性空间，再与类别语义原型比较。第二类是嵌入对齐方法，学习视觉空间和语义空间之间的兼容关系。第三类是生成式方法，利用已见类别的数据和类别语义，生成未见类别的伪特征，从而把零样本问题转化为近似监督学习问题。第四类是借助大规模图文预训练模型的方法，通过文本描述为零样本分类提供监督信号。例如，给定“斑马”的文本描述，模型可以比较图像与不同类别文本的匹配程度。

零样本学习的主要困难包括语义鸿沟、枢纽性和偏见问题。语义鸿沟指人工属性或文本描述未必能完整表达类别视觉特征；枢纽性指某些类别语义表示容易成为许多样本的共同近邻，导致误判；偏见问题指广义零样本学习中模型倾向预测已见类别。评估时通常分别考察未见类别准确率、已见类别准确率和调和平均指标，以衡量模型在迁移到新类别时是否保持平衡。

什么是零样本学习?

本周热门