• 四川郎酒股份有限公司获第十二届人民企业社会责任奖年度环保奖 2019-05-13
  • 银保监会新规剑指大企业多头融资和过度融资 2019-05-12
  • 韩国再提4国联合申办世界杯 中国网友无视:我们自己来 2019-05-11
  • 中国人为什么一定要买房? 2019-05-11
  • 十九大精神进校园:风正扬帆当有为 勇做时代弄潮儿 2019-05-10
  • 粽叶飘香幸福邻里——廊坊市举办“我们的节日·端午”主题活动 2019-05-09
  • 太原设禁鸣路段 设备在测试中 2019-05-09
  • 拜耳医药保健有限公司获第十二届人民企业社会责任奖年度企业奖 2019-05-08
  • “港独”没出路!“梁天琦们”该醒醒了 2019-05-07
  • 陈卫平:中国文化内涵包含三方面 文化复兴表现在其中 2019-05-06
  • 人民日报客户端辟谣:“合成军装照”产品请放心使用 2019-05-05
  • 【十九大·理论新视野】为什么要“建设现代化经济体系”?   2019-05-04
  • 聚焦2017年乌鲁木齐市老城区改造提升工程 2019-05-04
  • 【专家谈】上合组织——构建区域命运共同体的有力实践者 2019-05-03
  • 【华商侃车NO.192】 亲!楼市火爆,别忘了买车位啊! 2019-05-03
    • / 28
    • 下载费用:30 金币  

    重庆时时彩开奖直播软件下载: 一种数据迁移控制方法、数据迁移方法及装置.pdf

    关 键 词:
    一种 数据 迁移 控制 方法 装置
      专利查询网所有资源均是用户自行上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作他用。
    摘要
    申请专利号:

    CN201310253280.2

    申请日:

    2013.06.24

    公开号:

    CN103324592A

    公开日:

    2013.09.25

    当前法律状态:

    授权

    有效性:

    有权

    法律详情: 授权|||实质审查的生效IPC(主分类):G06F 13/28申请日:20130624|||公开
    IPC分类号: G06F13/28 主分类号: G06F13/28
    申请人: 华为技术有限公司
    发明人: 陈昊; 杨宝川; 陆斌
    地址: 518129 广东省深圳市龙岗区坂田华为总部办公楼
    优先权:
    专利代理机构: 北京同达信恒知识产权代理有限公司 11291 代理人: 黄志华
    PDF完整版下载: PDF下载
    法律状态
    申请(专利)号:

    CN201310253280.2

    授权公告号:

    ||||||

    法律状态公告日:

    2016.11.23|||2013.10.30|||2013.09.25

    法律状态类型:

    授权|||实质审查的生效|||公开

    摘要

    本发明公开了一种CC-NUMA系统中的数据迁移控制方法,通过引入源端NC和目的端NC之间的各条数据传输路径所包含的各条传输链路的带宽占用率,作为采用DMA方式迁移数据时所利用的数据传输路径的选取依据,从而在采用DMA方式迁移数据时,不再是盲目地选取数据传输路径,而是可以该选取依据来选取合适的数据传输路径进行数据迁移,从而避免了采用DMA方式对数据进行迁移的过程中容易形成热点传输路径和数据拥塞的问题。本发明实施例还提供一种CC-NUMA系统中的数据迁移控制装置,以及一种CC-NUMA系统中的数据迁移方法及装置。

    权利要求书

    权利要求书
    1.   一种高速缓存非对称一致性内存访问系统中的数据迁移控制方法,其特征在于,包括:
    从源端节点控制器NC和目的端NC所共属的高速缓存非对称一致性内存访问CC?NUMA系统中,确定所述源端NC和所述目的端NC之间的各条数据传输路径;其中,所述源端NC和所述目的端NC分别为待采用直接内存访问DMA方式进行迁移的数据所对应的源端NC和目的端NC;
    根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取数据传输路径;
    将选取的数据传输路径的信息发送给所述源端NC,以使得所述源端NC通过选取的所述数据传输路径,采用直接内存访问DMA方式,将所述源端NC中的待采用DMA方式进行迁移的数据传输至所述目的端NC。

    2.   如权利要求1所述的方法,其特征在于,从所述源端NC和所述目的端NC所共属的CC?NUMA系统中,确定所述各数据传输路径,具体包括:
    接收到所述源端NC发送的请求采用DMA方式迁移数据的请求消息后,从所述源端NC和所述目的端NC所共属的CC?NUMA系统中,确定所述各数据传输路径。

    3.   如权利要求1或2所述的方法,其特征在于,所述方法还包括:
    确定所述源端NC中的待采用DMA方式进行迁移的数据的数据量;则
    根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取数据传输路径,具体包括:
    根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率、所述各条数据传输路径所包含的各条传输链路的额定带宽以及所述数据量,确定分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间;
    根据分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,从所述各条数据传输路径中选取数据传输路径。

    4.   如权利要求3所述的方法,其特征在于,根据分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,从所述各条数据传输路径中选取数据传输路径,具体包括:
    从分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间中,确定最短时间;
    从所述各条数据传输路径中,选取所述最短时间所对应的传输路径。

    5.   如权利要求1所述的方法,其特征在于,采用下述方式获得所述各条数据传输路径所包含的各条传输链路的带宽占用率:
    针对所述各条数据传输路径中的每条数据传输路径执行:从设置在该条数据传输路径上的特定NC中的带宽监控组件中,获取由所述带宽监控组件所记录的、该条数据传输路径所包含的、所述特定NC两侧的传输链路的带宽占用率;直至该条数据传输路径中的每条传输链路的带宽占用率均被不重复地获取完毕;
    其中,任意数据传输路径上的特定NC均满足:其为位于该数据传输路径上的、除所述源端NC和所述目的端NC外的其他NC。

    6.   一种高速缓存非对称一致性内存访问系统中的数据迁移方法,其特征在于,包括:
    源端节点控制器NC接收中央管理器发送的数据传输路径的信息;
    所述源端NC通过所述数据传输路径,采用直接内存访问DMA方式,将所述源端NC中的待采用DMA方式进行迁移的数据传输至目的端NC;
    其中,所述中央管理器采用下述方式确定所述数据传输路径:
    从所述源端NC和所述目的端NC所共属的高速缓存非对称一致性内存访问CC?NUMA系统中,确定所述源端NC和所述目的端NC之间的各条数据传输路径;并根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取所述数据传输路径。

    7.   如权利要求6所述的方法,其特征在于,所述方法还包括:
    所述源端NC向所述中央管理器发送请求采用DMA方式迁移数据的请求消息;则
    所述数据传输路径的信息是由所述中央管理器接收到所述请求消息后发送的。

    8.   如权利要求6或7所述的方法,其特征在于,所述方法还包括:
    所述源端NC确定所述待采用DMA方式进行迁移的数据的数据量;
    将所述数据量的信息发送给所述中央管理器,以使得所述中央管理器:根据所述各条数据传输路径所包含的各条传输链路的带宽占用率、所述各条数据传输路径所包含的各条传输链路的额定带宽以及所述数据量,确定分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,并根据分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,从所述各条数据传输路径中选取数据传输路径。

    9.   一种高速缓存非对称一致性内存访问系统中的数据迁移控制装置,其特征在于,包括:
    数据传输路径确定单元,用于从源端节点控制器NC和目的端NC所共属的高速缓存非对称一致性内存访问CC?NUMA系统中,确定所述源端NC和所述目的端NC之间的各条数据传输路径;其中,所述源端NC和所述目的端NC分别为待采用直接内存访问DMA方式进行迁移的数据所对应的源端NC和目的端NC;
    数据传输路径选取单元,用于根据获得的所述数据传输路径确定单元确定的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取数据传输路径;
    信息发送单元,用于将数据传输路径选取单元选取的数据传输路径的信息发送给所述源端NC,以使得所述源端NC通过选取的所述数据传输路径,采用直接内存访问DMA方式,将所述源端NC中的待采用DMA方式进行迁移的数据传输至所述目的端NC。

    10.   如权利要求9所述的装置,其特征在于,所述数据传输路径确定单元具体用于:接收到所述源端NC发送的请求采用DMA方式迁移数据的请求消息后,从所述源端NC和所述目的端NC所共属的CC?NUMA系统中,确定所述各数据传输路径。

    11.   如权利要求9或10所述的装置,其特征在于,所述装置还包括:
    数据量确定单元,用于确定所述源端NC中的待采用DMA方式进行迁移的数据的数据量;则
    所述数据传输路径选取单元具体包括:
    时间确定子单元,用于根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率、所述各条数据传输路径所包含的各条传输链路的额定带宽以及数据量确定单元确定的所述数据量,确定分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间;
    数据传输路径选取子单元,用于根据时间确定子单元确定的分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,从所述各条数据传输路径中选取数据传输路径。

    12.   如权利要求11所述的装置,其特征在于,所述数据传输路径选取子单元具体用于:从分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间中,确定最短时间;从所述各条数据传输路径中,选取所述最短时间所对应的传输路径。

    13.   如权利要求9所述的装置,其特征在于,采用下述方式获得所述各条数据传输路径所包含的各条传输链路的带宽占用率:
    针对所述各条数据传输路径中的每条数据传输路径执行:从设置在该条数据传输路径上的特定NC中的带宽监控组件中,获取由所述带宽监控组件所记录的、该条数据传输路径所包含的、所述特定NC两侧的传输链路的带宽占用率;直至该条数据传输路径中的每条传输链路的带宽占用率均被不重复地获取完毕;
    其中,任意数据传输路径上的特定NC均满足:其为位于该数据传输路径上的、除所述源端NC和所述目的端NC外的其他NC。

    14.   一种高速缓存非对称一致性内存访问系统中的数据迁移装置,其特征在于,包括:
    信息接收单元,用于接收中央管理器发送的数据传输路径的信息;
    数据传输单元,用于通过信息接收单元接收的所述信息所表示的所述数据传输路径,采用直接内存访问DMA方式,将所述装置中的待采用DMA方式进行迁移的数据传输至目的端节点控制器NC;
    其中,所述中央管理器采用下述方式确定所述数据传输路径:
    从所述源端NC和所述目的端NC所共属的高速缓存非对称一致性内存访问CC?NUMA系统中,确定所述源端NC和所述目的端NC之间的各条数据传输路径;并根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取所述数据传输路径。

    15.   如权利要求14所述的装置,其特征在于,所述装置还包括:
    请求消息发送单元,用于向所述中央管理器发送请求采用DMA方式迁移数据的请求消息;则
    所述数据传输路径的信息是由所述中央管理器接收到所述请求消息后发送的。

    16.   如权利要求14或15所述的装置,其特征在于,所述装置还包括:
    数据量确定单元,用于确定所述待采用DMA方式进行迁移的数据的数据量;
    信息发送单元,用于将数据量确定单元确定的所述数据量的信息发送给所述中央管理器,以使得:所述中央管理器根据所述各条数据传输路径所包含的各条传输链路的带宽占用率、所述各条数据传输路径所包含的各条传输链路的额定带宽以及所述数据量,确定分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,并根据分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,从所述各条数据传输路径中选取数据传输路径。

    17.   一种高速缓存非对称一致性内存访问系统中的数据迁移控制装置,其特征在于,包括:
    处理器,用于从源端节点控制器NC和目的端NC所共属的高速缓存非对称一致性内存访问CC?NUMA系统中,确定所述源端NC和所述目的端NC之间的各条数据传输路径;根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取数据传输路径;其中,所述源端NC和所述目的端NC分别为待采用直接内存访问DMA方式进行迁移的数据所对应的源端NC和目的端NC;
    信号发送器,用于将处理器选取的数据传输路径的信息发送给所述源端NC,以使得所述源端NC通过选取的所述数据传输路径,采用直接内存访问DMA方式,将所述源端NC中的待采用DMA方式进行迁移的数据传输至所述目的端NC。

    18.   一种高速缓存非对称一致性内存访问系统中的数据迁移装置,其特征在于,包括:
    信号接收器,用于接收中央管理器发送的数据传输路径的信息;
    处理器,用于通过信号接收器接收的所述信息所表示的所述数据传输路径,采用直接内存访问DMA方式,将所述装置中的待采用DMA方式进行迁移的数据传输至目的端节点控制器NC;
    其中,所述中央管理器采用下述方式确定所述数据传输路径:
    从所述源端NC和所述目的端NC所共属的高速缓存非对称一致性内存访问CC?NUMA系统中,确定所述源端NC和所述目的端NC之间的各条数据传输路径;并根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取所述数据传输路径。

    说明书

    说明书一种数据迁移控制方法、数据迁移方法及装置
    技术领域
    本发明涉及数据传输技术领域,尤其涉及一种高速缓存非对称一致性内存访问系统中的数据迁移控制方法、数据迁移方法及装置。
    背景技术
    在基于节点控制器(NC,Node Controller)的高速缓存非对称一致性内存访问(CC?NUMA,Cache Coherent?Non Uniform Memory Access)系统中,直接内存访问(DMA,Direct Memory Access)是大数据量的数据迁移的有效方式。下面举例说明现有的基于NC的CC?NUMA系统中的DMA流程。
    如图1所示,以包含8个中央处理器(CPU,Central Processing Unit)S0~S7的CC?NUMA系统为例,每个NC通过QPI或其他总线连接2个CPU。比如,NC0连接S0和S1,NC1连接S2和S3,等等。两个NC之间的传输链路旁标注的百分比用于标识传输链路的使用百分比,即该传输链路上传输的报文所占用的带宽在该传输链路的额定带宽中的占比。传输链路旁标注的该百分比越高,表示传输链路越繁忙、空闲的带宽越??;反之,则说明该传输链路越空闲、空闲的带宽越大。此外,图1中带有箭头的虚线用于表示数据从源端迁移到目的端的迁移路径,比如,图1中所示的该虚线用于表示:数据从源端NC0迁移到目的端NC1的迁移路径为:将数据直接从源端NC0迁移到目的端NC1,而不需要其他NC对数据进行转发。
    现有技术中,在如图1所示的该CC?NUMA系统中实现DMA的流程主要分为以下三个步骤:
    步骤一:源端NC确定需要采用DMA方式进行迁移的数据在源端NC的存储空间中的位置,比如直接确定数据在该存储空间中的起始地址和结束地址,或者根据数据在该存储空间中的起始地址和数据的总量(或称数据长度),来确定数据在该存储空间中的位置;
    步骤二:按照数据的迁移路径,执行将处于确定出的上述位置的数据进行迁移;
    步骤三:目的端NC在接收到采用DMA方式迁移来的数据后,将该数据存入预设的存储空间。
    虽然采用DMA方式对数据进行迁移可以实现在一次数据迁移过程中迁移大量的数据,然而,由于采用DMA方式对数据进行迁移耗时长,从而按照DMA方式对数据进行的迁移过程很可能会和一些跨NC的数据访问所对应的数据迁移过程一起作用,因此容易形成热点传输路径和数据拥塞,降低CC?NUMA系统的性能。
    如何在采用DMA方式对数据进行迁移的过程中避免容易形成热点传输路径和数据拥塞,是CC?NUMA系统中亟待解决的问题。
    发明内容
    本发明实施例提供一种CC?NUMA系统中的数据迁移控制方法、数据迁移方法及装置,用以在CC?NUMA系统中采用DMA方式对数据进行迁移时,避免形成热点传输路径和数据拥塞。
    本发明实施例采用以下技术方案:
    第一方面,提供一种高速缓存非对称一致性内存访问系统中的数据迁移控制方法,包括:从源端节点控制器NC和目的端NC所共属的高速缓存非对称一致性内存访问CC?NUMA系统中,确定所述源端NC和所述目的端NC之间的各条数据传输路径;其中,所述源端NC和所述目的端NC分别为待采用直接内存访问DMA方式进行迁移的数据所对应的源端NC和目的端NC;根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取数据传输路径;将选取的数据传输路径的信息发送给所述源端NC,以使得所述源端NC通过选取的所述数据传输路径,采用直接内存访问DMA方式,将所述源端NC中的待采用DMA方式进行迁移的数据传输至所述目的端NC。
    结合第一方面,在第一种可能的实现方式中,从所述源端NC和所述目的端NC所共属的CC?NUMA系统中,确定所述各数据传输路径,具体包括:接收到所述源端NC发送的请求采用DMA方式迁移数据的请求消息后,从所述源端NC和所述目的端NC所共属的CC?NUMA系统中,确定所述各数据传输路径。
    结合第一方面或者第一方面的第一种可能的实现方式,在第二种可能的实现方式中,所述方法还包括:确定所述源端NC中的待采用DMA方式进行迁移的数据的数据量;则根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取数据传输路径,具体包括:根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率、所述各条数据传输路径所包含的各条传输链路的额定带宽以及所述数据量,确定分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间;根据分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,从所述各条数据传输路径中选取数据传输路径。
    结合第一方面的第二种可能的实现方式,在第三种可能的实现方式中,根据分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,从所述各条数据传输路径中选取数据传输路径,具体包括:从分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间中,确定最短时间;从所述各条数据传输路径中,选取所述最短时间所对应的传输路径。
    结合第一方面,在第四种可能的实现方式中,采用下述方式获得所述各条数据传输路径所包含的各条传输链路的带宽占用率:
    针对所述各条数据传输路径中的每条数据传输路径执行:从设置在该条数据传输路径上的特定NC中的带宽监控组件中,获取由所述带宽监控组件所记录的、该条数据传输路径所包含的、所述特定NC两侧的传输链路的带宽占用率;直至该条数据传输路径中的每条传输链路的带宽占用率均被不重复地获取完毕;其中,任意数据传输路径上的特定NC均满足:其为位于该数据传输路径上的、除所述源端NC和所述目的端NC外的其他NC。
    第二方面,提供一种高速缓存非对称一致性内存访问系统中的数据迁移方法,包括:源端节点控制器NC接收中央管理器发送的数据传输路径的信息;所述源端NC通过所述数据传输路径,采用直接内存访问DMA方式,将所述源端NC中的待采用DMA方式进行迁移的数据传输至目的端NC;其中,所述中央管理器采用下述方式确定所述数据传输路径:
    从所述源端NC和所述目的端NC所共属的高速缓存非对称一致性内存访问CC?NUMA系统中,确定所述源端NC和所述目的端NC之间的各条数据传输路径;并根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取所述数据传输路径。
    结合第二方面,在第一种可能的实现方式中,所述方法还包括:所述源端NC向所述中央管理器发送请求采用DMA方式迁移数据的请求消息;则所述数据传输路径的信息是由所述中央管理器接收到所述请求消息后发送的。
    结合第二方面或者第二方面的第一种可能的实现方式中,所述方法还包括:所述源端NC确定所述待采用DMA方式进行迁移的数据的数据量;将所述数据量的信息发送给所述中央管理器,以使得所述中央管理器:根据所述各条数据传输路径所包含的各条传输链路的带宽占用率、所述各条数据传输路径所包含的各条传输链路的额定带宽以及所述数据量,确定分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,并根据分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,从所述各条数据传输路径中选取数据传输路径。
    第三方面,提供一种高速缓存非对称一致性内存访问系统中的数据迁移控制装置,包括:数据传输路径确定单元,用于从源端节点控制器NC和目的端NC所共属的高速缓存非对称一致性内存访问CC?NUMA系统中,确定所述源端NC和所述目的端NC之间的各条数据传输路径;其中,所述源端NC和所述目的端NC分别为待采用直接内存访问DMA方式进行迁移的数据所对应的源端NC和目的端NC;数据传输路径选取单元,用于根据获得的所述数据传输路径确定单元确定的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取数据传输路径;信息发送单元,用于将数据传输路径选取单元选取的数据传输路径的信息发送给所述源端NC,以使得所述源端NC通过选取的所述数据传输路径,采用直接内存访问DMA方式,将所述源端NC中的待采用DMA方式进行迁移的数据传输至所述目的端NC。
    结合第三方面,在第一种可能的实现方式中,所述数据传输路径确定单元具体用于:接收到所述源端NC发送的请求采用DMA方式迁移数据的请求消息后,从所述源端NC和所述目的端NC所共属的CC?NUMA系统中,确定所述各数据传输路径。
    结合第三方面或第三方面的第一种可能的实现方式,在第二种可能的实现方式中,所述装置还包括:数据量确定单元,用于确定所述源端NC中的待采用DMA方式进行迁移的数据的数据量;则所述数据传输路径选取单元具体包括:时间确定子单元,用于根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率、所述各条数据传输路径所包含的各条传输链路的额定带宽以及数据量确定单元确定的所述数据量,确定分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间;数据传输路径选取子单元,用于根据时间确定子单元确定的分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,从所述各条数据传输路径中选取数据传输路径。
    结合第三方面的第二种可能的实现方式,在第三种可能的实现方式中,所述数据传输路径选取子单元具体用于:从分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间中,确定最短时间;从所述各条数据传输路径中,选取所述最短时间所对应的传输路径。
    结合第三方面,在第四种可能的实现方式中,采用下述方式获得所述各条数据传输路径所包含的各条传输链路的带宽占用率:
    针对所述各条数据传输路径中的每条数据传输路径执行:从设置在该条数据传输路径上的特定NC中的带宽监控组件中,获取由所述带宽监控组件所记录的、该条数据传输路径所包含的、所述特定NC两侧的传输链路的带宽占用率;直至该条数据传输路径中的每条传输链路的带宽占用率均被不重复地获取完毕;其中,任意数据传输路径上的特定NC均满足:其为位于该数据传输路径上的、除所述源端NC和所述目的端NC外的其他NC。
    第四方面,提供一种高速缓存非对称一致性内存访问系统中的数据迁移装置,包括:信息接收单元,用于接收中央管理器发送的数据传输路径的信息;数据传输单元,用于通过信息接收单元接收的所述信息所表示的所述数据传输路径,采用直接内存访问DMA方式,将所述装置中的待采用DMA方式进行迁移的数据传输至目的端节点控制器NC;其中,所述中央管理器采用下述方式确定所述数据传输路径:
    从所述源端NC和所述目的端NC所共属的高速缓存非对称一致性内存访问CC?NUMA系统中,确定所述源端NC和所述目的端NC之间的各条数据传输路径;并根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取所述数据传输路径。
    结合第四方面,在第一种可能的实现方式中,所述装置还包括:请求消息发送单元,用于向所述中央管理器发送请求采用DMA方式迁移数据的请求消息;则所述数据传输路径的信息是由所述中央管理器接收到所述请求消息后发送的。
    结合第四方面或第四方面的第一种可能的实现方式,在第二种可能的实现方式中,所述装置还包括:数据量确定单元,用于确定所述待采用DMA方式进行迁移的数据的数据量;信息发送单元,用于将数据量确定单元确定的所述数据量的信息发送给所述中央管理器,以使得:所述中央管理器根据所述各条数据传输路径所包含的各条传输链路的带宽占用率、所述各条数据传输路径所包含的各条传输链路的额定带宽以及所述数据量,确定分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,并根据分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,从所述各条数据传输路径中选取数据传输路径。
    第五方面,提供一种高速缓存非对称一致性内存访问系统中的数据迁移控制装置,包括:处理器,用于从源端节点控制器NC和目的端NC所共属的高速缓存非对称一致性内存访问CC?NUMA系统中,确定所述源端NC和所述目的端NC之间的各条数据传输路径;根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取数据传输路径;其中,所述源端NC和所述目的端NC分别为待采用直接内存访问DMA方式进行迁移的数据所对应的源端NC和目的端NC;信号发送器,用于将处理器选取的数据传输路径的信息发送给所述源端NC,以使得所述源端NC通过选取的所述数据传输路径,采用直接内存访问DMA方式,将所述源端NC中的待采用DMA方式进行迁移的数据传输至所述目的端NC。
    第六方面,提供一种高速缓存非对称一致性内存访问系统中的数据迁移装置,包括:信号接收器,用于接收中央管理器发送的数据传输路径的信息;处理器,用于通过信号接收器接收的所述信息所表示的所述数据传输路径,采用直接内存访问DMA方式,将所述装置中的待采用DMA方式进行迁移的数据传输至目的端节点控制器NC;其中,所述中央管理器采用下述方式确定所述数据传输路径:
    从所述源端NC和所述目的端NC所共属的高速缓存非对称一致性内存访问CC?NUMA系统中,确定所述源端NC和所述目的端NC之间的各条数据传输路径;并根据获得的所述各条数据传输路径所包含的各条传输链路的带宽占用率,从所述各条数据传输路径中选取所述数据传输路径。
    本发明实施例的有益效果如下:
    通过本发明实施例提供的上述方案,由于引入了源端NC和目的端NC之间的各条数据传输路径所包含的各条传输链路的带宽占用率,作为采用DMA方式迁移数据时所利用的数据传输路径的选取依据,从而在采用DMA方式迁移数据时,不再是盲目地选取数据传输路径,而是可以该选取依据来选取合适的数据传输路径进行数据迁移,从而避免了采用DMA方式对数据进行迁移的过程中容易形成热点传输路径和数据拥塞的问题。
    附图说明
    图1为现有技术中的基于节点控制器的CC?NUMA系统拓扑示意图;
    图2为本发明实施例提供的一种CC?NUMA系统中的数据迁移控制方法的具体流程示意图;
    图3为本发明实施例提供的一种CC?NUMA系统中的数据迁移方法的具体流程示意图;
    图4为实施例1的实施场景示意图;
    图5为实施例1中实现采用DMA的方式迁移数据的流程示意图;
    图6a为现有技术中的数据迁移方案采用的具体架构的示意图;
    图6b为实施例1中的数据迁移方案采用的具体架构的示意图;
    图7为在NC中设置的用于实时监控传输链路的使用百分比的组件的示意图;
    图8为实施例1中采用的“平均滑动窗口带宽统计方式”的具体实现原理图;
    图9为在大型数据库中实现本发明实施例提供的数据迁移控制方法的示意图;
    图10为本发明实施例提供的第一种CC?NUMA系统中的数据迁移控制装置的具体结构示意图;
    图11为本发明实施例提供的第一种CC?NUMA系统中的数据迁移装置的具体结构示意图;
    图12为本发明实施例提供的第二种CC?NUMA系统中的数据迁移控制装置的具体结构示意图;
    图13为本发明实施例提供的第二种CC?NUMA系统中的数据迁移装置的具体结构示意图。
    具体实施方式
    通过对现有技术进行研究发现,现有的基于NC的CC?NUMA系统中,正常的数据传递(即采用非DMA方式进行的数据传输)都是以64Byte为单位的,即数据量为64Byte的数据包为一个高速缓冲存储器队列(cache line)。正常的数据传递的过程的特点为:数据包长度短、数据包交互频率较高。根据该特点可知,正常的数据传递的过程中不适合采用动态路由的方式来确定数据传输路径。这是由于动态路由的原理在于:在按照某数据传输路径对数据进行传输的同时,确定一条新的数据传输路径,由于确定新的数据传输路径必然会耗费一定的时间,而正常的数据传递的过程中传输的数据包的长度较短,因此可能新的数据传输路径还没有确定完成,数据包就已经按照某数据传输路径从源端NC发送到了目的端NC。
    由于动态路由不适合应用在小数据包(如数据量为64Byte的数据包)交互频繁的CC?NUMA系统中,因此当前的基于NC的CC?NUMA系统中都是使用静态路由的方式。静态路由的原理在于:在进行数据传输之前,就根据某种数据传输路径确定规则,确定源端NC与目的端NC之间的数据传输路径;然后再通过该数据传输路径,将数据从源端NC迁移到目的端NC。
    相比于动态路由的方式,上述静态路由的方式更适合应用于小数据包交互频繁的CC?NUMA系统中。然而,由于基于DMA方式进行的数据迁移的处理对象一般是数据量较大的数据,从而静态路由的方式在基于NC的CC?NUMA系统中进行DMA方式下的数据迁移时又显得不够灵活。究其原因,主要是由于基于DMA方式进行的数据迁移一般是以KB甚至MB为单位的,从而数据迁移的持续时间比较长,在这样的情况下,一旦某条链路中的小数据包交互频繁态,而该条链路又要基于DMA方式来进行持续时间较长的数据迁移工作,那么该条链路就很容易成为CC?NUMA系统的热点传输路径而容易出现数据拥塞。
    由此可见,基于NC的CC?NUMA系统中的基于DMA的数据传输过程需要采用一种新型的数据传输路径的确定方式,以避免形成热点传输路径和数据拥塞。
    为了解决上述技术问题,本发明实施例提供了一种CC?NUMA系统中的数据迁移方案。该方案引入了源端NC和目的端NC之间的各条数据传输路径所包含的各条传输链路的带宽占用率,作为采用DMA方式迁移数据时所利用的数据传输路径的选取依据,从而在采用DMA方式迁移数据时,不再是盲目地选取数据传输路径,而是可以该选取依据来选取合适的数据传输路径进行数据迁移,从而避免了采用DMA方式对数据进行迁移的过程中容易形成热点传输路径和数据拥塞的问题。
    以下结合说明书附图对本发明的实施例进行说明,应当理解,此处所描述的实施例仅用于说明和解释本发明,并不用于限制本发明。并且在不冲突的情况下,本说明中的实施例及实施例中的特征可以互相结合。
    首先,本发明实施例提供一种CC?NUMA系统中的数据迁移控制方法,该方法的具体流程示意图如图2所示,包括如下主要步骤:
    步骤21,从源端NC和目的端NC所共属的CC?NUMA系统中,确定源端NC和目的端NC之间的各条数据传输路径。
    其中,这里所述的源端NC和目的端NC分别为待采用DMA方式进行迁移的数据所对应的源端NC和目的端NC。
    本发明实施例中,用于实施如图2所示的该方法的设备可以是一种数据迁移设备,该设备可以是在接收到源端NC发送的请求采用DMA方式迁移数据的请求消息后,才执行步骤21。
    步骤22,根据获得的各条数据传输路径所包含的各条传输链路的带宽占用率,从确定出的源端NC和目的端NC之间的各条数据传输路径中选取数据传输路径。
    本发明实施例中,一种具体的实现从上述各条数据传输路径中选取数据传输路径的方式可以如下:
    首先,根据获得的各条数据传输路径所包含的各条传输链路的带宽占用率、各条数据传输路径所包含的各条传输链路的额定带宽,以及待迁移数据的数据量,确定分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间;
    然后,根据分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间,从各条数据传输路径中选取数据传输路径。
    可选的,由于最优数据传输路径往往是耗费的时间最短的数据传输路径,因此,本发明实施例中,还可以从分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间中确定最短时间,然后再从各条数据传输路径中,选取确定出的该最短时间所对应的数据传输路径。若通过此方式确定出的数据传输路径有多条,则可以通过随机方式选取其中任意一条;或者选取包含的节点(NC)最少的一条数据传输路径。
    本发明实施例中,还可以仅仅根据传输链路的带宽占用率和传输链路的额定带宽来确定最优路由路径。比如,可以分别针对源端NC与目的端NC之间的每条数据传输路径分别计算:该数据传输路径所包含的各传输链路的带宽占用率与相应的额定带宽的乘积之和;然后,再通过比较计算出的各乘积之和,确定最优数据传输路径。除此之外,本领域技术人员根据合理的推断而得出的任何以传输链路的带宽占用率作为确定数据传输路径的依据的方式,均在本发明的?;し段е?。
    步骤23,将选取的数据传输路径的信息发送给源端NC,以使得源端NC通过选取的数据传输路径,采用DMA方式,将源端NC中的待采用DMA方式进行迁移的数据传输至目的端NC。
    本发明实施例提供的该方法中,可以但不限于采用下述方式获得各条数据传输路径所包含的各条传输链路的带宽占用率:
    针对各条数据传输路径中的每条数据传输路径执行:从设置在该条数据传输路径上的特定NC中的带宽监控组件中,获取由带宽监控组件所记录的、该条数据传输路径所包含的、该特定NC两侧的传输链路的带宽占用率;直至该条数据传输路径中的每条传输链路的带宽占用率均被不重复地获取完毕;
    其中,任意数据传输路径上的特定NC均满足:其为位于该数据传输路径上的、除待采用DMA方式进行迁移的数据所对应的源端NC和目的端NC外的其他NC。
    通过本发明实施例提供的上述方法,由于引入了源端NC和目的端NC之间的各条数据传输路径所包含的各条传输链路的带宽占用率,作为采用DMA方式迁移数据时所利用的数据传输路径的选取依据,从而在采用DMA方式迁移数据时,不再是盲目地选取数据传输路径,而是可以该选取依据来选取合适的数据传输路径进行数据迁移,从而避免了采用DMA方式对数据进行迁移的过程中容易形成热点传输路径和数据拥塞的问题。
    出于与如图2所示的方法的同一发明构思,本发明实施例还提供一种CC?NUMA系统中的数据迁移方法,该方法的具体流程示意图如图3所示,包括如下主要步骤:
    步骤31,源端节点控制器NC接收中央管理器发送的数据传输路径的信息;
    其中,该中央管理器可以采用下述方式确定数据传输路径:
    从待采用DMA方式进行迁移的数据所对应的源端NC和目的端NC所共属的CC?NUMA系统中,确定源端NC和目的端NC之间的各条数据传输路径;并根据获得的各条数据传输路径所包含的各条传输链路的带宽占用率,从各条数据传输路径中选取所述数据传输路径。
    步骤32,源端NC通过上述数据传输路径的信息所表示的数据传输路径,采用DMA方式,将源端NC中的待采用DMA方式进行迁移的数据传输至目的端NC。
    为了触发中央管理器确定数据传输路径,本发明实施例提供的该方法还可以包括步骤:源端NC向中央管理器发送请求采用DMA方式迁移数据的请求消息。从而中央管理器在接收到该请求消息后,再确定数据传输路径,并发送数据传输路径的信息。
    可选的,上述方法还可以包括步骤:源端NC确定待采用DMA方式进行迁移的数据的数据量;并将确定出的该数据量的信息发送给中央管理器。以使得中央管理器可以根据上述各条数据传输路径所包含的各条传输链路的带宽占用率、各条数据传输路径所包含的各条传输链路的额定带宽,以及该数据量,确定分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间;并根据分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间,从各条数据传输路径中选取数据传输路径。
    由于该方法也可以实现在采用DMA方式迁移数据时,不再盲目地选取数据传输路径,从而避免了采用DMA方式对数据进行迁移的过程中容易形成热点传输路径和数据拥塞的问题。
    以下结合实际,通过对两个实施例的介绍,详细说明本发明实施例提供的上述方案在实际中的应用。
    实施例1
    实施例1的实施场景为包含8个CPU的S0~S7的CC?NUMA系统,如图4所示。该系统包含4个NC,分别为NC0~NC3,且每个NC均通过快速通道互联(QPI,Quick Path Interconnect)或其他总线连接2个CPU。两个NC之间的传输链路旁标注的百分比用于标识传输链路的使用百分比(即带宽利用率),即该传输链路上传输的报文所占用的带宽在该传输链路的额定带宽中的占比。传输链路旁标注的该百分比越高,表示传输链路越繁忙、空闲的带宽越??;反之,则说明该传输链路越空闲、空闲的带宽越大。此外,图4中带有箭头的较粗虚线用于表示数据从源端迁移到目的端的迁移路径;而带有箭头的较细虚线则用于表示中央管理器(Central Manager)获取传输链路的使用百分比的路径。
    需要说明的是,实施例1中的该Central Manager是一个独立于NC和CPU外的一个部件,其是一个实际的物理装置,主要作为全局控制器,可以通过带外的方式来实时监控整个CC?NUMA系统中的热点传输链路,并实现对采用DMA方式进行的迁移的数据的路由方式进行动态调整。在本领域中,NC之间的数据传输是带内传输,也就是通过连接NC的物理传输通道进行传输;而相对于带内传输而言,带外传输是指通过不同于NC之间的物理传输通道的其他单独的物理传输通道进行数据传输。带外传输所使用的传输媒介和带内传输所使用的传输媒介不同,一般说来,在相同的传输场景下,带外传输的传输媒介的传输速率低于带内传输所使用的传输媒介的传输速率。本发明实施例中,上述“带外的方式”即指通过带外传输的方式。
    基于带外的方式,该Central Manager可以通过带外的一些接口(例如Smbus,I2C等总线协议),和CC?NUMA系统中的各个NC建立连接并进行信息交互。Central Manager与NC之间的连接与NC之间的传输链路是相互独立、互不干扰的。
    为了使得Central Manager能够获知如图4所示的该CC?NUMA系统中的每条传输链路的使用百分比,每个NC都可以对自身所包含的、连接有其他NC的端口处的数据流量进行实时统计,从而确定各端口所对应的传输链路的使用百分比。Central Manager基于各NC实时统计的传输链路的使用百分比,就可以动态的对NC发起的采用DMA方式进行传输的数据的路由路径进行确定??裳〉?,传输链路的使用百分比的信息可以存储于NC的端口的寄存器中。从而Central Manager通过访问各个NC的端口的寄存器,就可以获取到寄存器中存储的传输链路的使用百分比的信息。
    具体地,实施例1中实现采用DMA的方式迁移数据的流程示意图如图5所示,主要包括下述步骤:
    步骤51,源端NC选择需要采用DMA方式进行迁移的数据(以下简称待迁移数据)所对应的存储空间的地址信息(该地址信息一般包括待迁移数据所对应的起始地址的信息以及待迁移数据的长度),以及确定目的端NC的标识,并且将确定出的存储空间的地址信息、目的端NC的标识以及源端NC自身的标识发送给Central Manager;
    比如,存储空间的地址信息、目的端NC的标识以及源端NC自身的标识可以是携带在一个用于请求采用DMA的方式迁移数据的请求消息中发送给Central Manager的。
    步骤52,Central Manager根据获得的如图4所示的该CC?NUMA系统中的每条传输链路的使用百分比,以及源端NC发送来的存储空间的地址信息、目的端NC的标识以及源端NC自身的标识,确定源端NC与目的端NC之间的最优路由路径,并将确定出的该最优路由路径的信息发送给源端NC;
    步骤53,源端NC根据Central Manager发送来的最优路由路径的信息,通过该最优路径,将待采用DMA的方式进行迁移的数据传输到目的端NC;
    步骤54,目的端NC将接收到的从源端NC迁移来的上述数据进行存储,比如存储到预先设置的存储空间,流程结束。
    以下通过对比实施例1中的数据迁移方案和现有技术中的数据迁移方案,详细说明实施例1中的数据迁移方案的优势:
    首先,对实施例1中的数据迁移方案和现有技术中的数据迁移方案所采用的具体架构进行对比说明。
    现有技术中的数据迁移方案采用的具体架构请参见图6a,实施例1中的数据迁移方案采用的具体架构请参见图6b。由于图6a以及图6b中的数字和字符等的含义与前文所介绍过的图1和图4中对应的数字和字符等的含义相同,因此此处不再赘述。
    针对现有技术中的数据迁移方案采用的具体架构而言,由于该架构中并不包含Central Manager这样的设备,从而当有NC欲采用DMA的方式进行数据迁移时,是按照静态路由的方式,通过预先设置好的数据传输路径对数据进行迁移。现有技术中的该方案不会考虑传输链路的使用百分比,从而采用DMA的方式进行的数据迁移过程带是盲目的,难以灵活地避开热点传输路径,甚至会与采用其他方式进行的数据迁移过程相冲突,导致形成热点传输路径,进而引起数据拥塞。
    针对实施例1中的数据迁移方案采用的具体架构而言,其通过在原有的CC?NUMA系统的基础上,引入Central Manager这样一个装置(部件)来实现根据传输链路的使用百分比确定采用DMA的方式进行迁移的数据的数据传输路径,从而降低了按照DMA的方式进行的数据迁移过程的盲目性,通过根据传输链路的使用百分比来合理地选取较优的数据传输路径,就可以实现灵活地避开热点传输路径,避免与采用其他方式进行的数据迁移过程相冲突,因此也就使得CC?NUMA系统中不易形成热点传输路径,进而也就不易引起数据拥塞。
    基于如图6a和图6b所示的具体架构,可以进行下述假设:
    1)从源端NC到目的端NC有数据量为A(Byte)的数据需要采用DMA的方式进行传输;
    2)每两个NC之间的传输链路的额定带宽均等于固定带宽B(Gbps);
    3)不同传输链路所传输的数据量往往存在差异,从而不同传输链路的使用百分比(带宽利用率)往往不同。具体的,针对不同传输链路所假设的使用百分比请见图6a和图6b中的具体数字。
    基于上述假设,以下介绍如何根据实施例1中的数据迁移方案中提供的数据传输路径确定方式,在两种场景下分别实现选取最优数据传输路径。
    场景一:源端NC为NC0,而目的端NC为NC1
    Central Manager根据源端NC和目的端NC的标识NC0和NC1,以及CC?NUMA系统各NC之间的连接关系,可以确定源端NC和目的端NC之间的候选路由路径有:路由路径1(该路由路径包含的NC仅为NC0和NC1)和路由路径2(该路由路径包含的NC为NC0、NC2、NC3和NC1)。其中,这里所说的“路由路径”即前文所述的“数据传输路径”。
    针对路由路径1,可以采用下述公式[1]计算数据量为A的数据从NC0路由至NC1所需的时间t1:
    t1=A/(100?90)%B=10A/B          [1]
    针对路由路径2,可以采用下述公式[2]计算数据量为A的数据从NC0路由至NC1所需的时间t2:
    t2=A/(100?60)%B+A/(100?10)%B+A/(100?10)%B=4.7A/B     [2]
    通过上述计算,Central Manager可确定出存在:t2<t1,从而Central Manager可确定当前欲采用DMA的方式从NC0迁移至NC1的数据的最优路由路径为路由路径1。
    场景二:源端NC为NC0,而目的端NC为NC3
    类似于针对场景一的处理方式,Central Manager确定NC0与NC3之间的路由路径包括:路由路径3(该路由路径包含的NC为NC0、NC1和NC3)和路由路径4(该路由路径包含的NC为NC0、NC2和NC3)。
    针对路由路径3,可以采用下述公式[3]计算数据量为A的数据从NC0路由至NC3所需的时间t3:
    t3=A/(100?90)%B+A/(100?10)%B=11.1A/B          [3]
    针对路由路径4,可以采用下述公式[4]计算数据量为A的数据从NC0路由至NC3所需的时间t4:
    t4=A/(100?60)%B+A/(100?10)%B=3.6A/B          [4]
    通过上述计算,Central Manager可确定出存在:t4<t3,从而Central Manager可确定当前欲采用DMA的方式从NC0迁移至NC3的数据的最优路由路径为路由路径4。
    由上述计算过程可以看出,实施例1中由于引入了Central Manager来实现根据传输链路的使用百分比确定最优路由路径,从而实施例1提供的方案不会有静态路由的方式所存在的数据传输路径难以灵活调整的问题。
    需要说明的是,上述计算方式仅为根据传输链路的使用百分比确定最优路由路径的一种具体方式。本发明实施例中,还可以仅仅根据传输链路的使用百分比和传输链路的额定带宽来确定最优路由路径。比如,可以分别针对源端NC与目的端NC之间的每条数据传输路径分别计算:该数据传输路径所包含的各传输链路的使用百分比与相应的额定带宽的乘积之和;然后,再通过比较计算出的各乘积之和,确定最优数据传输路径。除此之外,本领域技术人员根据合理的推断而得出的任何以传输链路的使用百分比作为确定数据传输路径的依据的方式,均在本发明的?;し段е?。
    此外还需要说明的是,实施例1中,可以在NC中设置用于实时监控传输链路的使用百分比的组件。如图7所示,以NC2为例,NC2分别和NC0、NC3相连的端口中可以各设一个PM(带宽监控组件)组件,即分别为PM0和PM1。该PM0和PM1均可以实时监控并存储相应的传输链路的使用百分比。比如,PM0可以实时监控NC0和NC2之间的传输链路的使用百分比并进行存储;而PM1则可以实施监控NC2和NC3之间的传输链路的使用百分比并进行存储。Central Manager可以通过旁路的接口读取各个PM组件所存储的使用百分比,如图7中带有箭头的实线所示,其为Central Manager发出的用于读取PM0和PM1所存储的使用百分比的访问信号。
    由于图7中的数字和字符等的含义与前文所介绍过的图1和图4中对应的数字和字符等的含义相同,因此此处不再赘述。
    在实施例1中,传输链路的使用百分比可以有很多的统计方法,以下仅列举其中一种。本领域技术人员基于下述该方式,经过合理的推断而得出的其他方式都可以视为该方式的扩展方式,从而都在本发明的?;し段е?。
    实施例1中采用的传输链路的使用百分比的统计方式可以称为“平均滑动窗口带宽统计方式”,该方式的具体实现原理图如图8所示。以下对图8中的各线条和符号所表示的含义进行说明:
    1、坐标轴的横坐标为时间,而纵坐标为传输链路的带宽。
    2、较粗的折线为“瞬时带宽(Real time Performance)曲线”,而较细的折线则为“滑动窗口带宽(Slide Window Average Performance)曲线”。
    3、T0为滑动窗口的大小。
    在T1这一时刻,滑动窗口所对应的带宽的大小等于图8中比较靠左侧的黑点的纵坐标的值X1。X1等于:瞬时带宽曲线位于图8中左侧的滑动窗口中的一段上的各个点的纵坐标的值的平均值。类似地,在T2这一时刻,滑动窗口所对应的带宽的大小等于图8中比较靠右侧的黑点的纵坐标的值X2。X2等于:瞬时带宽曲线位于图8中右侧的滑动窗口中的一段上的各个点的纵坐标的值的平均值。以此类推,滑动窗口带宽曲线上的每个点的纵坐标的值都可以按照上述类似方式而确定的。需要说明的是,在计算0~T0这一时间段所对应的滑动窗口带宽曲线上的每个点的纵坐标的值时,会利用到对应于?T0~0这一时间段的瞬时带宽曲线,但为了保证图8的清晰度与简要,这部分瞬时带宽曲线未在图8中标出。
    基于图8所示的滑动窗口带宽曲线,可以采用下述公式[5]计算任意T时刻的滑动窗口平均带宽a:
    <mrow><MI>a</MI> <MO>=</MO> <MFRAC><MI>b</MI> <MI>c</MI> </MFRAC><MO>-</MO> <MO>-</MO> <MO>-</MO> <MO>[</MO> <MN>5</MN> <MO>]</MO> </MROW>]]&gt;</MATH></MATHS> <BR>其中,b为滑动窗口带宽曲线位于滑动窗口[T?T0,T]的一段内的各点的纵坐标的值之和;c为滑动窗口带宽曲线位于滑动窗口[T?T0,T]的一段内的各点的总数。其中,c的大小取决于对传输链路的瞬时带宽进行采样时采用的采样率。 <BR>进一步地,根据下述公式[6],可以计算传输链路的使用百分比D: <BR><MATHS num="0002"><MATH><![CDATA[ <mrow><MI>D</MI> <MO>=</MO> <MFRAC><MI>a</MI> <MI>e</MI> </MFRAC><MO>-</MO> <MO>-</MO> <MO>-</MO> <MO>[</MO> <MN>6</MN> <MO>]</MO> </MROW>]]&gt;</MATH></MATHS> <BR>其中,e为传输链路的额定带宽。 <BR>在NC计算出传输链路的使用百分比后,可以将其存储在NC的状态寄存器中。这样Central&nbsp;Manager就可以通过带外的接口,去实时访问NC的状态寄存器,从而就能够获知传输链路的使用百分比。 <BR>实施例1中,滑动窗口的大小可以具体通过对NC中的配置寄存器中的相关参数进行调整而改变。 <BR>实施例2 <BR>实施例2主要是将本发明实施例提供的数据迁移控制方法应用到大型数据库中,以提升大型数据库的全系统性能。 <BR>如图9所示,为在大型数据库中实现本发明实施例提供的数据迁移控制方法的示意图。此处,对于图9中的与前文所介绍过的图1和图4中对应的数字和字符等的含义相同的数字和字符等略过不提,而重点说明图9中不同于图1与图4的部分。该些部分包括:Orig&nbsp;Shared&nbsp;Data表示待采用DMA的方式进行迁移的原始数据;Shared&nbsp;Data&nbsp;Copy1~3表示从源端NC迁移到其他NC中并存储的Orig&nbsp;Shared&nbsp;Data;带有箭头的实线表示CPU防问与自身相连接的NC中通过DAM的方式迁移来的数据。 <BR>由图9可以看到,当CC?NUMA系统运行大型数据库时,会有很多的共享数据(即图中的Shared&nbsp;Data)需要在分布在不同NC处的CPU上使用。最有效的办法就是把这些共享数据迁移到使用该些共享数据的CPU所连接的NC中。比如,假设原始的共享数据(图中所示的Orig&nbsp;Shared&nbsp;Data)存在于NC0,那么通过采用DMA的方式,使得NC1、NC2、NC3都拥有Orig&nbsp;Shared&nbsp;Data的拷贝之后,NC1、NC2、NC3所分别连接的CPU就可以发起对与自身相连接的NC的数据访问了。比如,当NC2获得了通过Shared&nbsp;Data&nbsp;Copy2后,与NC2相连接的S4和S5就可以从NC2处访问该Shared&nbsp;Data&nbsp;Copy2了。在如图9所示的该系统中采用本发明实施例提供的数据迁移控制方法,可以动态的根据CC?NUMA系统中的传输链路的使用百分比计算最优路由路径,从而绕开当前热点传输路径。因此,本发明实施提供的数据迁移控制方法更适用于进行需要耗费较长时间的基于DMA方式的数据迁移过程。 <BR>出于与本发明实施例提供的第一种CC?NUMA系统中的数据迁移控制方法相同的发明构思,本发明实施例还提供一种CC?NUMA系统中的数据迁移控制装置。该装置的具体结构示意图如图10所示,包括下述功能单元: <BR>数据传输路径确定单元101,用于从源端NC和目的端NC所共属的CC?NUMA系统中,确定源端NC和目的端NC之间的各条数据传输路径;其中,源端NC和目的端NC分别为待采用DMA方式进行迁移的数据所对应的源端NC和目的端NC; <BR>数据传输路径选取单元102,用于根据获得的数据传输路径确定单元101确定的各条数据传输路径所包含的各条传输链路的带宽占用率,从数据传输路径确定单元101确定的各条数据传输路径中选取数据传输路径; <BR>信息发送单元103,用于将数据传输路径选取单元102选取的数据传输路径的信息发送给源端NC,以使得源端NC通过选取的数据传输路径,采用直接内存访问DMA方式,将源端NC中的待采用DMA方式进行迁移的数据传输至目的端NC。 <BR>可选的,数据传输路径确定单元101具体可以用于:接收到源端NC发送的请求采用DMA方式迁移数据的请求消息后,从源端NC和目的端NC所共属的CC?NUMA系统中确定各数据传输路径。 <BR>可选的,本发明实施例提供的该装置还可以包括: <BR>数据量确定单元,用于确定源端NC中的待采用DMA方式进行迁移的数据的数据量?;谑萘咳范ǖピ墓δ?,数据传输路径选取单元102具体可以划分为以下能子单元: <BR>时间确定子单元,用于根据获得的各条数据传输路径所包含的各条传输链路的带宽占用率、各条数据传输路径所包含的各条传输链路的额定带宽以及数据量确定单元确定的数据量,确定分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间; <BR>数据传输路径选取子单元,用于根据时间确定子单元确定的分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间,从各条数据传输路径中选取数据传输路径。 <BR>可选的,上述数据传输路径选取子单元具体可以用于:从分别通过所述各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间中,确定最短时间;从各条数据传输路径中,选取该最短时间所对应的传输路径。 <BR>可选的,可以采用下述方式获得各条数据传输路径所包含的各条传输链路的带宽占用率: <BR>针对各条数据传输路径中的每条数据传输路径执行:从设置在该条数据传输路径上的特定NC中的带宽监控组件中,获取由带宽监控组件所记录的、该条数据传输路径所包含的、特定NC两侧的传输链路的带宽占用率;直至该条数据传输路径中的每条传输链路的带宽占用率均被不重复地获取完毕;其中,任意数据传输路径上的特定NC均满足:其为位于该数据传输路径上的、除源端NC和目的端NC外的其他NC。 <BR>出于与本发明实施例提供的第一种CC?NUMA系统中的数据迁移方法相同的发明构思,本发明实施例还提供一种CC?NUMA系统中的数据迁移装置,该装置的具体结构示意图如图11所示,包括下述功能单元: <BR>信息接收单元111,用于接收中央管理器发送的数据传输路径的信息; <BR>数据传输单元112,用于通过信息接收单元111接收的数据传输路径的信息所表示的数据传输路径,采用DMA方式将该装置中的待采用DMA方式进行迁移的数据传输至目的端NC; <BR>其中,中央管理器采用下述方式确定所述数据传输路径: <BR>从源端NC和目的端NC所共属的CC?NUMA系统中,确定源端NC和目的端NC之间的各条数据传输路径;并根据获得的各条数据传输路径所包含的各条传输链路的带宽占用率,从各条数据传输路径中选取所述数据传输路径。 <BR>可选的,如图11所示的该装置还可以包括: <BR>请求消息发送单元,用于向中央管理器发送请求采用DMA方式迁移数据的请求消息;则上述数据传输路径的信息是由中央管理器接收到该请求消息后发送的。 <BR>可选的,如图11所示的该装置还可以包括: <BR>数据量确定单元,用于确定待采用DMA方式进行迁移的数据的数据量; <BR>信息发送单元,用于将数据量确定单元确定的数据量的信息发送给所述中央管理器,以使得:中央管理器根据各条数据传输路径所包含的各条传输链路的带宽占用率、各条数据传输路径所包含的各条传输链路的额定带宽以及信息发送单元发送的该数据量的信息,确定分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,并根据分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间,从各条数据传输路径中选取数据传输路径。 <BR>出于与本发明实施例提供的第二种CC?NUMA系统中的数据迁移控制方法相同的发明构思,本发明实施例还提供一种CC?NUMA系统中的数据迁移控制装置。该装置的具体结构示意图如图12所示,包括下述功能实体: <BR>处理器121,用于从源端NC和目的端NC所共属的CC?NUMA系统中,确定源端NC和目的端NC之间的各条数据传输路径;以及根据获得的各条数据传输路径所包含的各条传输链路的带宽占用率,从确定的各条数据传输路径中选取数据传输路径;其中,源端NC和目的端NC分别为待采用DMA方式进行迁移的数据所对应的源端NC和目的端NC; <BR>信号发送器122,用于将处理器121选取的数据传输路径的信息发送给源端NC,以使得源端NC通过选取的数据传输路径,采用直接内存访问DMA方式,将源端NC中的待采用DMA方式进行迁移的数据传输至目的端NC。 <BR>可选的,处理器121具体可以用于:接收到源端NC发送的请求采用DMA方式迁移数据的请求消息后,从源端NC和目的端NC所共属的CC?NUMA系统中确定各数据传输路径。 <BR>可选的,处理器121还可以用于确定源端NC中的待采用DMA方式进行迁移的数据的数据量。从而处理器121根据获得的各条数据传输路径所包含的各条传输链路的带宽占用率,从确定的各条数据传输路径中选取数据传输路径,具体包括:根据获得的各条数据传输路径所包含的各条传输链路的带宽占用率、各条数据传输路径所包含的各条传输链路的额定带宽以及确定的数据量,确定分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间;根据确定的分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间,从各条数据传输路径中选取数据传输路径。 <BR>可选的,处理器121根据确定的分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间,从各条数据传输路径中选取数据传输路径,具体可以包括:处理器121从分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间中,确定最短时间;从各条数据传输路径中,选取该最短时间所对应的传输路径。 <BR>可选的,可以采用下述方式获得各条数据传输路径所包含的各条传输链路的带宽占用率: <BR>针对各条数据传输路径中的每条数据传输路径执行:从设置在该条数据传输路径上的特定NC中的带宽监控组件中,获取由带宽监控组件所记录的、该条数据传输路径所包含的、特定NC两侧的传输链路的带宽占用率;直至该条数据传输路径中的每条传输链路的带宽占用率均被不重复地获取完毕;其中,任意数据传输路径上的特定NC均满足:其为位于该数据传输路径上的、除源端NC和目的端NC外的其他NC。 <BR>出于与本发明实施例提供的第二种CC?NUMA系统中的数据迁移方法相同的发明构思,本发明实施例还提供另一种CC?NUMA系统中的数据迁移装置,该装置的具体结构示意图如图13所示,包括下述功能单元: <BR>信号接收器131,用于接收中央管理器发送的数据传输路径的信息; <BR>处理器132,用于通过信号接收器131接收的数据传输路径的信息所表示的数据传输路径,采用DMA方式将该装置中的待采用DMA方式进行迁移的数据传输至目的端NC; <BR>其中,中央管理器采用下述方式确定所述数据传输路径: <BR>从源端NC和目的端NC所共属的CC?NUMA系统中,确定源端NC和目的端NC之间的各条数据传输路径;并根据获得的各条数据传输路径所包含的各条传输链路的带宽占用率,从各条数据传输路径中选取所述数据传输路径。 <BR>可选的,处理器132还可以用于:向中央管理器发送请求采用DMA方式迁移数据的请求消息?;诖砥?32的该功能,上述数据传输路径的信息可以是由中央管理器接收到处理器132发送的该该请求消息后发送的。 <BR>可选的,处理器132还可以用于:确定待采用DMA方式进行迁移的数据的数据量;将确定的数据量的信息发送给所述中央管理器,以使得:中央管理器根据各条数据传输路径所包含的各条传输链路的带宽占用率、各条数据传输路径所包含的各条传输链路的额定带宽以及信息发送单元发送的该数据量的信息,确定分别通过所述各条数据传输路径传输所述待采用DMA方式进行迁移的数据所耗费的时间,并根据分别通过各条数据传输路径传输待采用DMA方式进行迁移的数据所耗费的时间,从各条数据传输路径中选取数据传输路径。 <BR>通过本发明实施例提供的上述方案,由于引入了源端NC和目的端NC之间的各条数据传输路径所包含的各条传输链路的带宽占用率,作为采用DMA方式迁移数据时所利用的数据传输路径的选取依据,从而在采用DMA方式迁移数据时,不再是盲目地选取数据传输路径,而是可以该选取依据来选取合适的数据传输路径进行数据迁移,从而避免了采用DMA方式对数据进行迁移的过程中容易形成热点传输路径和数据拥塞的问题。 <BR>本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD?ROM、光学存储器等)上实施的计算机程序产品的形式。 <BR>本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合??商峁┱庑┘扑慊绦蛑噶畹酵ㄓ眉扑慊?、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。 <BR>这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。 <BR>这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。 <BR>尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。 <BR>显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。</p> </div> </div> </div> </div> <div class="mt10 works-comment"> <div class="works-comment-hd"> <span class="font-tahoma">关于本文</div> <div style="line-height: 25px; padding: 10px 20px;"> 本文标题:一种数据迁移控制方法、数据迁移方法及装置.pdf<br /> 链接地址:<a href="//www.4mum.com.cn/p-5778617.html">//www.4mum.com.cn/p-5778617.html</a><br /> </div> </div> </div> <div class="boxright" id="boxright" > <div class="fr detail-aside" id="Div11" style="width:270px;"> <div class="box hot-keywords mt10" style="overflow: hidden;width: 268px; border:solid 1px #dedede;" id="relatebox0"> <div class="boxHd" > <div class="fl nt-ico mr5 ml13 ico" style="margin-top: 3px;"> </div> <h2 class="fl font-normal font16 font-yahei" style="font-size: 16px; font-weight: 100; margin-left: 0px; margin-top: 3px; font-family: 微软雅黑"> 当前资源信息</h2> </div> <div id="Div2" class="author-works-list bgF" style="overflow: hidden; padding:10px 10px; "> <table><tr><td> <dt class="author-avatar-box fl"><a class="author-avatar" title="狗狗币" href="u-5505.html"> <img src="//www.4mum.com.cn/images/avatar_small.gif" style="border-radius:50px 50px; " onerror="this.src='images/noavatar_small.gif'" alt="狗狗币"></a> </dt></td><td> <div class="author-name fl w100 ellipsis"> <a href="u-5505.html" target="_blank"> 狗狗币</a><img style="height:15px; width:20px; overflow:hidden; margin-right:10px;background:url(images/bg_index_ie6_781d95ab.png) no-repeat -185px 4px;display:none" src="images/s.gif" alt="企业认证" title="企业认证"/></div> <div class="author-level-bar"> <span class="mr5 author-grade author-grade5" title="会员等级"></span> </div></td></tr></table> <div class="fl" style="width: 240px;"> <p class="kh_cpZl"> 编号: cj20190318173102774807</p> <p class="kh_cpZl"> 类型: 共享资源</p> <p class="kh_cpZl"> 格式: PDF</p> <p class="kh_cpZl"> 大?。?7.70MB</p> <p class="kh_cpZl"> 上传时间: 2019-03-18</p> </div> </div> </div> <div class="box hot-keywords mt10" style="overflow: hidden;width: 268px; border:solid 1px #dedede;" id="relatebox"> <div class="boxHd" style="padding-bottom: 0px;"> <div class="fl keywords-ico mr5 ml13 ico"> </div> <h2 class="fl font-normal font16 font-yahei" style="font-size: 16px; font-weight: 100; margin-left: 0px; margin-top: 3px; font-family: 微软雅黑"> 相关资源</h2> </div> <div id="author-works-list" class="author-works-list bgF"> <li class="vprdn"> <img alt="智能枪支管理系统.pdf" class="pdf" src="Images/s.gif" /><a target="_parent" href="//www.4mum.com.cn/p-7326879.html" title="智能枪支管理系统.pdf">智能枪支管理系统.pdf</a> </li> <li class="vprdn"> <img alt="用于弹药储运监测与智能管理的方法.pdf" class="pdf" src="Images/s.gif" /><a target="_parent" href="//www.4mum.com.cn/p-7326820.html" title="用于弹药储运监测与智能管理的方法.pdf">用于弹药储运监测与智能管理的方法.pdf</a> </li> <li class="vprdn"> <img alt="一种具有指静脉识别功能的枪支及枪支管理系统.pdf" class="pdf" src="Images/s.gif" /><a target="_parent" href="//www.4mum.com.cn/p-7326812.html" title="一种具有指静脉识别功能的枪支及枪支管理系统.pdf">一种具有指静脉识别功能的枪支及枪支管理系统.pdf</a> </li> <li class="vprdn"> <img alt="一种具有指静脉识别功能的枪支及枪支管理系统.pdf" class="pdf" src="Images/s.gif" /><a target="_parent" href="//www.4mum.com.cn/p-7326802.html" title="一种具有指静脉识别功能的枪支及枪支管理系统.pdf">一种具有指静脉识别功能的枪支及枪支管理系统.pdf</a> </li> <li class="vprdn"> <img alt="智能枪支管理系统.pdf" class="pdf" src="Images/s.gif" /><a target="_parent" href="//www.4mum.com.cn/p-7326456.html" title="智能枪支管理系统.pdf">智能枪支管理系统.pdf</a> </li> <li class="vprdn"> <img alt="一种基于RFID的枪支位置判定系统.pdf" class="pdf" src="Images/s.gif" /><a target="_parent" href="//www.4mum.com.cn/p-7326443.html" title="一种基于RFID的枪支位置判定系统.pdf">一种基于RFID的枪支位置判定系统.pdf</a> </li> <li class="vprdn"> <img alt="信用卡套现识别方法和装置.pdf" class="pdf" src="Images/s.gif" /><a target="_parent" href="//www.4mum.com.cn/p-7326441.html" title="信用卡套现识别方法和装置.pdf">信用卡套现识别方法和装置.pdf</a> </li> <li class="vprdn"> <img alt="用于控制生产过程的系统和方法.pdf" class="pdf" src="Images/s.gif" /><a target="_parent" href="//www.4mum.com.cn/p-6421312.html" title="用于控制生产过程的系统和方法.pdf">用于控制生产过程的系统和方法.pdf</a> </li> <li class="vprdn"> <img alt="一种处理视频的方法及其系统.pdf" class="pdf" src="Images/s.gif" /><a target="_parent" href="//www.4mum.com.cn/p-6421251.html" title="一种处理视频的方法及其系统.pdf">一种处理视频的方法及其系统.pdf</a> </li> <li class="vprdn"> <img alt="基于脑电信号特征的影片剪辑筛选辅助仪及实现方法.pdf" class="pdf" src="Images/s.gif" /><a target="_parent" href="//www.4mum.com.cn/p-6421139.html" title="基于脑电信号特征的影片剪辑筛选辅助仪及实现方法.pdf">基于脑电信号特征的影片剪辑筛选辅助仪及实现方法.pdf</a> </li> <li class="vprdn"> <img alt="基于动态内插技术的通用化测控信道模拟方法.pdf" class="pdf" src="Images/s.gif" /><a target="_parent" href="//www.4mum.com.cn/p-6421123.html" title="基于动态内插技术的通用化测控信道模拟方法.pdf">基于动态内插技术的通用化测控信道模拟方法.pdf</a> </li></div> </div> <div class="box hot-keywords mt10" id="box3" style="overflow: hidden;width: 268px; border:solid 1px #dedede;"> <div class="boxHd" style="border: none;padding-bottom: 0px;"> <div class="fl keywords-ico mr5 ml13 ico"> </div> <h2 class="fl font-normal font16 font-yahei" style="font-size: 16px; font-weight: 100; margin-left: 0px; margin-top: 3px; font-family: 微软雅黑"> 相关搜索</h2> </div> <div class="hot-keywords-list"> <a target="_blank" href="search.html?p=0&q=%e4%b8%80%e7%a7%8d" class="tag-item ico" title="一种" hidefocus="true"><span class="ico"><em> 一种</em></span></a> <a target="_blank" href="search.html?p=0&q=%e6%95%b0%e6%8d%ae" class="tag-item ico" title="数据" hidefocus="true"><span class="ico"><em> 数据</em></span></a> <a target="_blank" href="search.html?p=0&q=%e8%bf%81%e7%a7%bb" class="tag-item ico" title="迁移" hidefocus="true"><span class="ico"><em> 迁移</em></span></a> <a target="_blank" href="search.html?p=0&q=%e6%8e%a7%e5%88%b6" class="tag-item ico" title="控制" hidefocus="true"><span class="ico"><em> 控制</em></span></a> <a target="_blank" href="search.html?p=0&q=%e6%96%b9%e6%b3%95" class="tag-item ico" title="方法" hidefocus="true"><span class="ico"><em> 方法</em></span></a> <a target="_blank" href="search.html?p=0&q=%e8%a3%85%e7%bd%ae" class="tag-item ico" title="装置" hidefocus="true"><span class="ico"><em> 装置</em></span></a> <input name="ctl00$Content$hiddenCategoryID" type="hidden" id="Content_hiddenCategoryID" value="122" /> </div> </div> </div> </div> <!--end boxright--> <!--end layout01--> </div> <!--end mainpart--> </div> <div class="aspNetHidden"><input type="hidden" name="__VIEWSTATEGENERATOR" id="__VIEWSTATEGENERATOR" value="541A68AF" /></div></form> <div style="display: none" id="Div3"> </div> <div id="jubao" class="jubao" style="display: none;"> <div class="jubaoTitle"> 举报类型</div> <ul class="vprdn"> <li class="vprdn"> <input type="radio" id="jubaoSel12" name="jubaoSel12" value="12" />&nbsp;&nbsp; <label for="jubaoSel12">广告或垃圾信息</label> </li> <li class="vprdn"> <input type="radio" id="jubaoSel13" name="jubaoSel13" value="13" />&nbsp;&nbsp; <label for="jubaoSel13">色情、淫秽、低俗信息</label> </li> <li class="vprdn"> <input type="radio" id="jubaoSel14" name="jubaoSel14" value="14" />&nbsp;&nbsp; <label for="jubaoSel14">反政府、反人类、反社会等反动信息</label> </li> <li class="vprdn"> <input type="radio" id="jubaoSel15" name="jubaoSel15" value="15" />&nbsp;&nbsp; <label for="jubaoSel15">散布赌博、暴力、凶杀、恐怖或者教唆犯罪等信息</label> </li> <li class="vprdn"> <input type="radio" id="jubaoSel16" name="jubaoSel16" value="16" />&nbsp;&nbsp; <label for="jubaoSel16">侮辱、诽谤等人身攻击信息</label> </li> <li class="vprdn"> <input type="radio" id="jubaoSel17" name="jubaoSel17" value="17" />&nbsp;&nbsp; <label for="jubaoSel17">散布谣言、扰乱社会秩序,破坏社会稳定等信息</label> </li> <li style="text-align: center; height: 50px; margin-top: 10px;"> <input type="hidden" id="hidTypeID" /> <input type="button" onclick="saveJuBao()" value="提 交" />&nbsp;&nbsp;&nbsp;&nbsp;<input type="button" onclick="$('#jubao').hide();" value="取 消" /></li> </ul> </div> <div id="jubaoResponse" class="jubao" style="display: none;"> <div class="jubaoTitle"> 提示</div> <ul class="vprdn"> <li class="vprdn"> <h4 style="text-align: center; color: rgb(83, 136, 35);"> </h4> </li> <li style="text-align: center; height: 50px; margin-top: 10px;"> <input type="button" onclick="$('#jubaoResponse').hide();" value="关 闭" /> </ul> </div></div> <div class="tempdiv" style="display:none;line-height:0px;height:0px; overflow:hidden;"> </div> <!-- JiaThis Button END --> <span id="LabelScript"></span> </div> </div> <!--foot--><div class="bg_100 foot_nav_bg" style=" min-width:1200px;"> <div class="foot_nav"> <a href="//www.4mum.com.cn/h-33.html" target="_blank" rel="nofollow">关于我们</a> - <a href="//www.4mum.com.cn/h-34.html" target="_blank" rel="nofollow">网站声明</a> - <a href="//www.4mum.com.cn/h-35.html" target="_blank" rel="nofollow"> 网站地图</a> - <a href="//www.4mum.com.cn/sitemap.html" target="_blank" rel="nofollow"> 资源地图</a> - <a href="//www.4mum.com.cn/friend.aspx" target="_blank" rel="nofollow">友情链接</a> - <a rel="nofollow">网站客服</a> - <a href="//www.4mum.com.cn/h-93.html" target="_blank" rel="nofollow">联系我们</a> </div></div><div class="bg_100 siteInner_bg" style=" min-width:1200px;"> <div class="siteInner"> <p style="text-align: center; line-height: 1.75em;"><span style="font-size: 14px;"><span style="font-size: 14px; color: rgb(102, 102, 102); font-family: 微软雅黑, Arial, &#39;Times New Roman&#39;; line-height: 20px; text-align: center;">copyright@ 2017-2018 www.4mum.com.cn网站版权所有</span><br style="color: rgb(102, 102, 102); font-family: 微软雅黑, Arial, &#39;Times New Roman&#39;; font-size: 12px; line-height: 20px; text-align: center; white-space: normal; "/><span style="font-size: 14px; color: rgb(102, 102, 102); font-family: 微软雅黑, Arial, &#39;Times New Roman&#39;; line-height: 20px; text-align: center;">经营许可证编号:粤ICP备17046363号-1&nbsp;</span></span> &nbsp;</p><p><br/></p> </div></div><!--foot end--> <!-- 代码部分begin --><div class="QQ_S" style="height: 172px;position:fixed;right: 0px;bottom: 20px; top:auto;"> <div class="Q_top" onclick="HideFoot()"> <span class="signi"></span>收起</div> <div class="Q_botm"> <div class="Q_pic"> <div class="Q_pic_hide"> <a target="_blank" title="在线客服" rel="nofollow"><span class="hide_pic"></span>在线客服</a> </div> </div> <div class="Q_anser"> <div class="Q_anser_hide"><a target="_blank" title="意见反馈"> <span class="hide_pic1"></span>意见反馈 </a> </div> </div> <div class="Q_sign"> <div class="Q_sign_hide" onclick="backToTop();"><a href="javascript:void(0)" title="返回顶部"><span class="hide_pic2"></span>返回顶部 </a></div> </div> </div></div><div class="QQ_S1"> <div class="Q_top1" onclick="ShowFoot()"> <span class="signj"></span>展开</div> <div class="Q_botm1"> <div class="Q_pic1"> <div class="Q_pic1_hide"> <a href="//www.4mum.com.cn/" title="重庆时时彩单双窍门">重庆时时彩单双窍门</a></div> </div> <div class="Q_sign1"> <div class="Q_sign1_hide" onclick="backToTop();"><a href="javascript:void(0)">返回顶部</a></div> </div> </div></div> <!-- 代码部分end --> <li><a href="//www.4mum.com.cn/77d944/69034815.html ">四川郎酒股份有限公司获第十二届人民企业社会责任奖年度环保奖 </a> 2019-05-13</li> <li><a href="//www.4mum.com.cn/euy29/3433514.html ">银保监会新规剑指大企业多头融资和过度融资 </a> 2019-05-12</li> <li><a href="//www.4mum.com.cn/a62999/3431813.html ">韩国再提4国联合申办世界杯 中国网友无视:我们自己来 </a> 2019-05-11</li> <li><a href="//www.4mum.com.cn/4kf294/98434412.html ">中国人为什么一定要买房? </a> 2019-05-11</li> <li><a href="//www.4mum.com.cn/33r392/76278011.html ">十九大精神进校园:风正扬帆当有为&nbsp;勇做时代弄潮儿 </a> 2019-05-10</li> <li><a href="//www.4mum.com.cn/1jd106/47417610.html ">粽叶飘香幸福邻里——廊坊市举办“我们的节日·端午”主题活动 </a> 2019-05-09</li> <li><a href="//www.4mum.com.cn/997397/2262689.html ">太原设禁鸣路段 设备在测试中 </a> 2019-05-09</li> <li><a href="//www.4mum.com.cn/br3559/3646538.html ">拜耳医药保健有限公司获第十二届人民企业社会责任奖年度企业奖 </a> 2019-05-08</li> <li><a href="//www.4mum.com.cn/9h7915/8581547.html ">“港独”没出路!“梁天琦们”该醒醒了 </a> 2019-05-07</li> <li><a href="//www.4mum.com.cn/3n3511/2345366.html ">陈卫平:中国文化内涵包含三方面 文化复兴表现在其中 </a> 2019-05-06</li> <li><a href="//www.4mum.com.cn/b0059/6332815.html ">人民日报客户端辟谣:“合成军装照”产品请放心使用 </a> 2019-05-05</li> <li><a href="//www.4mum.com.cn/v5j888/7405464.html ">【十九大·理论新视野】为什么要“建设现代化经济体系”?&nbsp;&nbsp; </a> 2019-05-04</li> <li><a href="//www.4mum.com.cn/pl1926/4722623.html ">聚焦2017年乌鲁木齐市老城区改造提升工程 </a> 2019-05-04</li> <li><a href="//www.4mum.com.cn/14g861/9039202.html ">【专家谈】上合组织——构建区域命运共同体的有力实践者 </a> 2019-05-03</li> <li><a href="//www.4mum.com.cn/7jn906/5662951.html ">【华商侃车NO.192】 亲!楼市火爆,别忘了买车位啊! </a> 2019-05-03</li> <script>(function(){ var src = (document.location.protocol == "") ? "//js.passport.qihucdn.com/11.0.1.js?9ed1f3a8f9c3ff069b7b95c01474c743":"https://jspassport.ssl.qhimg.com/11.0.1.js?9ed1f3a8f9c3ff069b7b95c01474c743"; document.write('<script src="' + src + '" id="sozz"><\/script>'); })(); </script> <script> (function(){ var bp = document.createElement('script'); var curProtocol = window.location.protocol.split(':')[0]; if (curProtocol === 'https') { bp.src = 'https://zz.bdstatic.com/linksubmit/push.js'; } else { bp.src = '//push.zhanzhang.baidu.com/push.js'; } var s = document.getElementsByTagName("script")[0]; s.parentNode.insertBefore(bp, s); })(); </script> <a href="//www.378430.live">福彩3d和值走势图表图</a> <a href="//437811.live">什么是股票涨跌幅</a> <a href="//www.560397.live">甘肃体彩11选五技巧</a> <a href="//www.948321.live">新疆时时彩开奘结果</a> <a href="//www.705456.live">陕西快乐10分分布图</a> <a href="//www.1662957.live">澳洲幸运8</a> <a href="//www.144685.live">任选九开奖17153期奖金</a> <a href="//www.3561267.live">广东时时彩11选五秘籍</a> <a href="//www.1496269.live">百变王牌投注技巧</a> <a href="//www.254883.live">重庆幸运农场19码计划</a> <a href="//www.5270261.live">福建时时彩开奖结果</a> <a href="//www.692429.live">恋战银月赚钱吗</a> <a href="//www.3422012.live">20选5走势图带坐标</a> <a href="//www.6117302.live">江苏十一选五历史开奖</a> <a href="//www.2738221.live">足球让分胜负规则</a> <a href="//www.768261.live">安徽快三走势图分布图图表</a> </body></html>