【笔记】关于N-WayK-Shot分类问题的理解

【笔记】关于N-WayK-Shot分类问题的理解Time: 2019年10⽉27⽇
Author:Veagau
在看讲Repitle的论⽂【On First-Order Meta-Learning Algorithm】时,实验环节对N-Way K-Shot分类问题的SetUp进⾏的描述引起了我的⼆度思考,以前对这个问题的理解感觉没摸透,以此为契机,重新思考得出了⼀种理解。
所谓N-Way K-Shot 分类问题就是指⽤少量样本构建分类任务。主要应⽤于少样本学习(Few-Shot Learning)领域样本数据不⾜的情况,后来逐渐延伸到元学习(Meta-Learning)领域。
声音定位
元学习需要通过在⼤量的任务上进⾏学习,学习到泛化能⼒强⼤的模型算法,以快速适应新的任务,即学会学习。麻石脱硫除尘器
因为元学习是以⼀个个的任务(如分类任务)作为⾃⼰的训练数据的,传统的基于⼤量数据的训练任务显然不适⽤于⽬前的研究(算⼒约束)。
从字⾯上理解,N-Way就是N-路或N-类,K-Shot就是K-次或K-个。rake接收机
每次在构建分类任务时,从数据集⾥抽取N-类的数据,每⼀类数据由K-个样本构成。这样就形成了⼀个⼩型分类任务的数据集,实际上就是原始数据集的⼀次采样。
那这个⼩型分类任务的训练集和测试集具体是怎么划分的呢?
其实这个问题也是困扰我很久的,看了⼏篇⽂献都没明⽩。训练过程中⽤的是什么数据?测试过程中呢?直到我看到这篇论⽂中的描述:
If we are doing K-shot, N-way classification, then we sample tasks by selecting N classes from C and then selecting K + 1
examples for each class. We split these examples into a training set and a test set, where the test set contains a single example for each class.
其中关键的⼀点就是,在取数据时对于N类数据,每⼀类其实取了K+1个样本,⽽不是K个!
梭子鱼综合症然后就是这个+1引出了我的理解。
以5-Way 5-Shot分类问题为例,在构建⼀个任务的数据集时的具体流程应该如下:
1. 从元数据集(Meta-dataset)中随机抽取5类(Way)样本,每⼀类样本随机抽取5+1个(Shot)实例
元数据集:也就是整体数据集中,可以理解为传统的⼤型数据集,其中的数据类别>>N-Way,每⼀类的实例数量
>>K-Shot.
2. 从这5类样本的6个实例中,每类样本随机抽取5个实例⼀起作为Training Set(→Support Set),每⼀类剩下的⼀个实例⼀起
组成Testing Set(→Query Set)。
由于元学习是以任务(Task)作为⾃⼰的训练数据的,即元学习的实际训练集和测试集是由⼀个个的Task组成
的,所以为了进⾏区分,每个任务内部的训练集(Training Set)更名为⽀持集(Support Set)、测试集更名为
查询集(Query Set)。
3. 训练:从Support Set中每⼀类随机选取⼀个实例,⼀起够成⼀组训练数据,输⼊到模型中,进⾏训练。
4. 测试:从Query Set中随机抽取⼀个实例,⽤模型判断其属于哪⼀类。
这个判断过程其实可以视为⼀种查询过程,给定了⽀持集,只要让模型能够准确的查询到其属于⽀持集中的哪
⼀类即可证明模型性能较好。
5. 重复⼏轮,最终得出该任务模型的准确率,实际上即是元学习参数确定的模型在该任务上的损失。
6. 损失梯度反向传播到元学习参数,对其进⾏更新,也即元学习过程。
图⽰如下:
Way 1(C1)Way 2
(C2)
Way3
(C3)
Way 4
智能停车场系统管理
wifi温控器(C4)
Way5
(C5)
C11C21C31C41C51Support C12C22C32C42C52Support C13C23C33C43C53Support C14C24C34C44C54Support C15C25C35C45C55Support C16C26C36C46C56Query

本文发布于:2024-09-22 06:51:35,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/3/307577.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:任务   数据   学习   训练   模型   分类
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议