• 四川郎酒股份有限公司获第十二届人民企业社会责任奖年度环保奖 2019-05-13
  • 银保监会新规剑指大企业多头融资和过度融资 2019-05-12
  • 韩国再提4国联合申办世界杯 中国网友无视:我们自己来 2019-05-11
  • 中国人为什么一定要买房? 2019-05-11
  • 十九大精神进校园:风正扬帆当有为 勇做时代弄潮儿 2019-05-10
  • 粽叶飘香幸福邻里——廊坊市举办“我们的节日·端午”主题活动 2019-05-09
  • 太原设禁鸣路段 设备在测试中 2019-05-09
  • 拜耳医药保健有限公司获第十二届人民企业社会责任奖年度企业奖 2019-05-08
  • “港独”没出路!“梁天琦们”该醒醒了 2019-05-07
  • 陈卫平:中国文化内涵包含三方面 文化复兴表现在其中 2019-05-06
  • 人民日报客户端辟谣:“合成军装照”产品请放心使用 2019-05-05
  • 【十九大·理论新视野】为什么要“建设现代化经济体系”?   2019-05-04
  • 聚焦2017年乌鲁木齐市老城区改造提升工程 2019-05-04
  • 【专家谈】上合组织——构建区域命运共同体的有力实践者 2019-05-03
  • 【华商侃车NO.192】 亲!楼市火爆,别忘了买车位啊! 2019-05-03
    • / 8
    • 下载费用:20 金币  

    重庆时时彩个位十位: 一种基于深度迁移学习的图片分类方法.pdf

    摘要
    申请专利号:

    重庆时时彩单双窍门 www.4mum.com.cn CN201910016242

    申请日:

    20190108

    公开号:

    CN109523018A

    公开日:

    20190326

    当前法律状态:

    实质审查的生效

    有效性:

    审中

    法律详情: 实质审查的生效
    IPC分类号: G06N3/04;G06K9/62 主分类号: G06N3/04;G06K9/62
    申请人: 重庆邮电大学
    发明人: 王进;王科;李林洁;杨俏;孙开伟;刘彬
    地址: 400065 重庆市南岸区南山街道崇文路2号
    优先权:
    专利代理机构: 50102 代理人: 刘小红;陈栋梁
    PDF完整版下载: PDF下载
    法律状态
    申请(专利)号:

    CN201910016242

    授权公告号:

    法律状态公告日:

    20190419

    法律状态类型:

    实质审查的生效

    摘要

    本发明请求?;ひ恢只谏疃惹ㄒ蒲暗耐计掷喾椒?,其中,所述的领域适应至少包含两个领域的数据,分别为源域和目标域,并且源域数据为已标记的样本数据.所述方法主要包括以下步骤:步骤1)数据准备阶段.准备源域数据和目标域数据,确定目标类别集合.步骤2)特征提取模型构建阶段.使用ResNet和自注意力网络构建基础特征提取模型.步骤3)领域对抗模型构建阶段.使用领域对抗模型预测样本类别和样本领域;步骤4)训练阶段.对源域和目标域样本进行领域标记,设置基于样本迁移权重的损失函数.步骤5)预测阶段.对目标域数据进行预测,将类别预测结果作为最终结果.本发明降低标记成本,达到知识迁移的目的。

    权利要求书

    1.一种基于深度迁移学习的图片分类方法,其特征在于,包括以下步骤: 步骤1、数据准备阶段:获取目标域数据,并确定相应的目标类别集合,获取已标记有目标类别的数据,作为源域数据; 步骤2、特征提取模型构建阶段:使用ResNet构建模型基础网络,提取基础特征;将ResNet的输出连接到一个自注意力网络,增强图片的结构信息,减少颜色及纹理对类别的影响;将步骤1准备的数据输入到步骤2的特征提取模型,提取图片的特征,输出特征向量; 步骤3、领域对抗模型构建阶段:将步骤2输出的特征输入到步骤3的领域对抗模型,输出预测的领域及该图片的类别,将特征提取模型的输出连接到一个预测目标类别的全连接层,得到预测的类别信息,将预测的类别信息与特征提取模型的输出进行拼接,输入至领域判别的全连接层,并通过梯度取反逆向更新领域判别全连接层的参数; 步骤4、训练阶段:将源域和目标域数据进行领域标记,使用源域、目标域的领域预测结果分别计算出迁移权重和迁移损失,使用源域的类别预测结果计算出分类损失,将迁移损失和分类损失的和作为反向传播的损失更新模型; 步骤5、预测阶段:将目标域的数据输入模型,将类别输出作为最终的预测结果。 2.根据权利要求1所述的一种基于深度迁移学习的图片分类方法,其特征在于,所述步骤1数据准备阶段:获取目标域数据,并确定相应的目标类别集合,获取已标记有目标类别的数据,作为源域数据,具体包括: 确定待分类的服装商品图片样本集作为目标域样本数据集Dtarget,确定将要分为的类别集合C,其中包含的主要类别为\u0026lt;sweet,wet,shirt,...\u0026gt;,下载ImageNet数据集,并选择其中含有Clothing标记的图片样本集合,作为已有标记的源域样本数据集Dsource,并将Dsource按照样本的类别标记为文件夹名称分别保存。 3.根据权利要求1所述的一种基于深度迁移学习的图片分类方法,其特征在于,所述步骤2特征提取模型构建阶段的具体操作包括:使用预训练的含有101层的ResNet模型作为基础的特征提取模型,去除ResNet最后一层全连接层,替换为一个包含2048个神经元的自注意力网络,用来增强图片的全局结构特征,注意力网络的注意力权重计算公式如下,其中,x为图片样本,f(x)为ResNet的输出,i、j表示坐标位置,表示第i个位置对于第j个位置的关注度; 其中特征提取模型的输出为注意力网络加权在ResNet模型上的输出,其计算公式如下;同样,f(x)为ResNet的输出,β为上式所计算出的关注度参数,得到的F(x)为特征提取模型的输出. F(x)out=f(x)·β 模型训练参数设置为(batch_size:64,iteration:50000),优化器参数设置为(learning_rate:0.01,momentum:0.8,weight_decay:0.00001,gamma:3)。 4.根据权利要求3所述的一种基于深度迁移学习的图片分类方法,其特征在于,所述步骤3领域适应模型构建阶段的具体操作包括:将特征提取模型的输出连接至一个类别预测的全连接层,其中,该全连接层的神经元个数为类别集合元素数,并对全连接层的输出进行softmax归一化,得到预测的类别概率; 将预测的类别概率与特征提取模型的输出进行横向拼接,此时的单个样本包含两个部分,其一是特征提取模型输出的特征,其二是模型预测的类别概率,将拼接结果作为新的特征输入至包含一个神经元的领域判别的全连接层,并通过梯度取反逆向更新领域判别的全连接层的参数,梯度取反逆向更新计算公式如下所示,其中θ为模型的参数,Δ为损失函数对于θ的导数,t为迭代次数,ɑ为更新步长; θt+1=θt+αΔ 新增全连接层的参数均使用均匀分布进行初始化,初始化方差设置为30.5,模型的输出包含两个部分,一部分为softmax输出的预测类别,另一部分是领域判别的全连接层输出的预测领域。 5.根据权利要求4所述的一种基于深度迁移学习的图片分类方法,其特征在于,所述步骤4模型的运行阶段具体包括:将源域和目标域数据进行领域标记,标记源域的领域标记为1,目标域的领域标记为0,将源域的数据输入到模型中,预测出类别标记和领域标记,使用源域预测出的类别标记与源域的真实的类别标记计算出关于类别学习的损失,类别学习损失计算公式如下,x表示特征提取模型的输出,class表示真实的标记,j表示类别索引; 对源域和目标域的批数据进行纵向拼接,构成混合域数据,使用混合域预测出的领域标记与混合域真实的领域标记计算出关于领域判别的损失,领域判别损失的计算公式如下,其中x表示模型的输出,y表示真实的领域标记. loss(x,y)domain=-[y·logx+(1-y)·log(1-x)] 对于每个样本,存在不同的迁移性,通过对抗模型的预测结果得出样本的迁移权重,其迁移权重计算公式如下,其中x为领域对抗模型预测的结果,函数H为熵. weight=0.5+H(x) 因此,模型的反向传播的误差包含两个方面,一方面为通过迁移权重进行加权的源域分类损失,另一方面为源域和目标域的领域迁移损失,将两方面的损失进行求和,作为反向传播所用的损失,用来更新模型参数,拟合模型,其计算公式如下,其中,weight是计算出的样本迁移权重,x是特征提取模型的输出,class是图片真实标记,y是图片预测的标记,lossclass为分类损失,lossdomain为迁移损失. lossbackward=weight·loss(x,class)class+loss(x,y)domain。

    关 键 词:
    一种 基于 深度 迁移 学习 图片 分类 方法
      专利查询网所有资源均是用户自行上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作他用。
    0条评论

    还可以输入200字符

    暂无评论,赶快抢占沙发吧。

    关于本文
    本文标题:一种基于深度迁移学习的图片分类方法.pdf
    链接地址://www.4mum.com.cn/p-6153962.html
    关于我们 - 网站声明 - 网站地图 - 资源地图 - 友情链接 - 网站客服客服 - 联系我们

    [email protected] 2017-2018 www.4mum.com.cn网站版权所有
    经营许可证编号:粤ICP备17046363号-1 
     


    收起
    展开
  • 四川郎酒股份有限公司获第十二届人民企业社会责任奖年度环保奖 2019-05-13
  • 银保监会新规剑指大企业多头融资和过度融资 2019-05-12
  • 韩国再提4国联合申办世界杯 中国网友无视:我们自己来 2019-05-11
  • 中国人为什么一定要买房? 2019-05-11
  • 十九大精神进校园:风正扬帆当有为 勇做时代弄潮儿 2019-05-10
  • 粽叶飘香幸福邻里——廊坊市举办“我们的节日·端午”主题活动 2019-05-09
  • 太原设禁鸣路段 设备在测试中 2019-05-09
  • 拜耳医药保健有限公司获第十二届人民企业社会责任奖年度企业奖 2019-05-08
  • “港独”没出路!“梁天琦们”该醒醒了 2019-05-07
  • 陈卫平:中国文化内涵包含三方面 文化复兴表现在其中 2019-05-06
  • 人民日报客户端辟谣:“合成军装照”产品请放心使用 2019-05-05
  • 【十九大·理论新视野】为什么要“建设现代化经济体系”?   2019-05-04
  • 聚焦2017年乌鲁木齐市老城区改造提升工程 2019-05-04
  • 【专家谈】上合组织——构建区域命运共同体的有力实践者 2019-05-03
  • 【华商侃车NO.192】 亲!楼市火爆,别忘了买车位啊! 2019-05-03