• 四川郎酒股份有限公司获第十二届人民企业社会责任奖年度环保奖 2019-05-13
  • 银保监会新规剑指大企业多头融资和过度融资 2019-05-12
  • 韩国再提4国联合申办世界杯 中国网友无视:我们自己来 2019-05-11
  • 中国人为什么一定要买房? 2019-05-11
  • 十九大精神进校园:风正扬帆当有为 勇做时代弄潮儿 2019-05-10
  • 粽叶飘香幸福邻里——廊坊市举办“我们的节日·端午”主题活动 2019-05-09
  • 太原设禁鸣路段 设备在测试中 2019-05-09
  • 拜耳医药保健有限公司获第十二届人民企业社会责任奖年度企业奖 2019-05-08
  • “港独”没出路!“梁天琦们”该醒醒了 2019-05-07
  • 陈卫平:中国文化内涵包含三方面 文化复兴表现在其中 2019-05-06
  • 人民日报客户端辟谣:“合成军装照”产品请放心使用 2019-05-05
  • 【十九大·理论新视野】为什么要“建设现代化经济体系”?   2019-05-04
  • 聚焦2017年乌鲁木齐市老城区改造提升工程 2019-05-04
  • 【专家谈】上合组织——构建区域命运共同体的有力实践者 2019-05-03
  • 【华商侃车NO.192】 亲!楼市火爆,别忘了买车位啊! 2019-05-03
    • / 17
    • 下载费用:30 金币  

    免费重庆时时彩预测软件: 一种面向数据处理的能耗优化数据集分配方法.pdf

    关 键 词:
    一种 面向 数据处理 能耗 优化 数据 分配 方法
      专利查询网所有资源均是用户自行上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作他用。
    摘要
    申请专利号:

    CN201410124657.9

    申请日:

    2014.03.31

    公开号:

    CN103927231A

    公开日:

    2014.07.16

    当前法律状态:

    授权

    有效性:

    有权

    法律详情: 授权|||实质审查的生效IPC(主分类):G06F 9/50申请日:20140331|||公开
    IPC分类号: G06F9/50 主分类号: G06F9/50
    申请人: 华中科技大学
    发明人: 曹强; 万胜刚; 钱璐; 谭诗诗; 谢长生
    地址: 430074 湖北省武汉市洪山区珞喻路1037号
    优先权:
    专利代理机构: 华中科技大学专利中心 42201 代理人: 梁鹏
    PDF完整版下载: PDF下载
    法律状态
    申请(专利)号:

    CN201410124657.9

    授权公告号:

    ||||||

    法律状态公告日:

    2016.10.05|||2014.08.13|||2014.07.16

    法律状态类型:

    授权|||实质审查的生效|||公开

    摘要

    本发明公开了一种面向数据处理的能耗优化数据集分配方法,包括:把待分配数据集按照IOPS属性值从大到小依次排序形成待分配数据集队列,数据中心服务器也按照IOPS能力从大到小依次排序构成待分配服务器队列;同时创建已分配服务器队列和各个数据中心服务器的已分配数据集队列,从上述待分配数据集队列头部取出第一个待分配数据集,同时判断已分配服务器队列是否为空,若已分配服务器队列为空,则从待分配服务器队列头部选取第一台服务器作为当前数据中心服务器。本方法使得IOPS需求大的热点数据集得以集中分配在数据中心服务器上,避免了处理大规模数据过程中虚拟机的放置和迁移问题,达到了全面优化数据中心能耗值、平衡服务器负载的目的。

    权利要求书

    权利要求书
    1.  一种面向数据处理的能耗优化数据集分配方法,其特征在于,包括以下步骤:
    (1)获取待分配数据集的属性值,以得到第一属性值集合A;
    (2)获取数据中心服务器的属性值,以得到第二属性值集合B;
    (3)把第一属性值集合A中待分配数据集按照其IOPS属性值从大到小依次排序形成待分配数据集队列,把第二属性集集合B中所有数据中心服务器也按照其IOPS属性值从大到小依次排序构成待分配服务器队列;
    (4)从待分配数据集队列M中选取出将进行分配的当前数据集,同时根据已分配服务器队列L和待分配服务器队列N中队列元素的不同情况选取出对应的当前数据中心服务器,将该当前数据集分配到当前数据中心服务器中,并重新计算当前数据中心服务器的平均CPU使用值、平均IOPS使用值、以及平均内存使用值;
    (5)将获取的当前数据中心服务器的平均IOPS使用值、平均CPU使用值、以及平均内存使用值,乘以该数据中心服务器已分配数据集列表中已分配数据集的总数,得到总IOPS、CPU、内存使用值,与数据中心服务器的峰值IOPS、峰值CPU和峰值内存进行比较,根据比较结果将数据集部署到符合条件的数据中心服务器上,当所有待分配数据集都分配完成或者所有数据中心服务器都分配完成,过程结束。

    2.  根据权利要求1所述的能耗优化数据集分配方法,其特征在于,
    分配数据集的属性包括:存储容量、内存容量、数据集对CPU的需求值、IOPS以及访问频率;
    数据中心服务器的属性包括存储容量、内存容量、CPU对数据集的处理能力、以及IOPS。

    3.  根据权利要求1所述的能耗优化数据集分配方法,其特征在于,步 骤(3)包括以下子步骤:
    (3-1)将第一属性值集合A中的待分配数据集按照其IOPS属性从大到小进行排序,以形成待分配数据集队列M;
    (3-2)将第二属性值集合B中的数据中心服务器按照其IOPS属性从大到小依次排列,以形成待分配服务器队列N;
    (3-3)建立全局已分配服务器队列L,并为所有n台数据中心服务器建立已分配数据集队列集合(K1,K2....,Kn),该已分配数据集队列集合中的每个已分配数据集队列K1,K2....,Kn分别对应于第一台数据中心服务器、第二台数据中心服务器、…第n台数据中心服务器。

    4.  根据权利要求1所述的能耗优化数据集分配方法,其特征在于,步骤(4)包括以下子步骤:
    (4-1)从待分配数据集队列M中取出位于队首的待分配数据集作为当前数据集;
    (4-2)判断已分配服务器队列L是否为空,如果为空,则转入步骤(4-3),否则转入步骤(4-4);
    (4-3)从待分配服务器队列N中取出位于队首的待分配服务器作为当前数据中心服务器t,然后转入步骤(4-5);
    (4-4)从已分配服务器队列L中取出位于队首的已分配服务器作为当前数据中心服务器t;
    (4-5)将当前数据集放到当前数据中心服务器t的已分配数据集队列Kt中,并重新计算当前数据中心服务器的平均IOPS使用值、平均CPU使用值、以及平均内存使用值。

    5.  根据权利要求4所述的能耗优化数据集分配方法,其特征在于,步骤(4-5)中计算平均IOPS使用值的过程采用以下公式:
    IOPSaverage=Σi=1i=kIOPSi×fiΣi=1i=kfi]]>
    其中,k为当前数据中心服务器t已分配数据集队列中数据集总个数,f为已分配数据集访问频率,fi表示第i个已分配数据集的访问频率。

    6.  根据权利要求5所述的能耗优化数据集分配方法,其特征在于,步骤(4-5)中计算平均CPU使用值的过程采用以下公式:
    CPUaverage=Σi=1i=kCPUi×fiΣi=1i=kfi.]]>

    7.  根据权利要求6所述的能耗优化数据集分配方法,其特征在于,步骤(4-5)中计算平均内存使用值的过程采用以下公式:
    MEMORYaverage=Σi=1i=kMEMORYi×fiΣi=1i=kfi.]]>

    8.  根据权利要求1所述的能耗优化数据集分配方法,其特征在于,步骤(5)包括以下子步骤:
    (5-1)将获取的当前数据中心服务器的平均IOPS使用值、平均CPU使用值、以及平均内存使用值,乘以该数据中心服务器已分配数据集列表中已分配数据集的总数,以得到总IOPS、CPU、内存使用值,并判断其是否均分别小于数据中心服务器的峰值IOPS、峰值CPU和峰值内存,如果小于,则将当前数据集分配到该数据中心服务器,然后转到步骤(5-6),否则转到步骤(5-2);
    (5-2)将当前数据集从当前数据中心服务器t的已分配数据集队列Kt中取出;
    (5-3)判断已分配服务器队列是否到尾部,若已到尾部,则从待分配服务器队列N中取出位于队首的待分配服务器作为当前数据中心服务器t,然后转入步骤(5-6),否则,转入步骤(5-5);
    (5-4)从已分配服务器队列L中选取下一数据中心服务器作为当前数据中心服务器t;
    (5-5)将当前数据集作为该数据中心服务器的负载,即将当前数据集加入数据中心服务器t的已分配数据集队列Kt,计算当前数据中心服务器的平均IOPS值、平均CPU和平均内存值,将其乘以该服务器已分配数据集列表中已分配数据集的总数,以得到总IOPS、CPU、并判断其是否都小于数据中心服务器t的对应峰值,若总IOPS值、CPU值、内存值都小于数据中心服务器t的峰值,则返回步骤(5-1),否则将当前数据集分配到该数据中心服务器;
    (5-6)单次分配完成,然后转步骤(4),继续进行分配,直到待分配数据集分配完成或者待分配服务器分配完成为止,然后过程结束。

    说明书

    说明书一种面向数据处理的能耗优化数据集分配方法
    技术领域
    本发明属于数据中心能耗优化技术领域,更具体地,涉及一种面向数据处理的能耗优化数据集分配方法。
    背景技术
    当前典型数据中心包含成千上万的计算机节点,这些节点包括计算机节点、网络节点和存储节点。其应用场景、配置方式、使用模式和负载行为有很大的不同。但是,各种数据中心却面临着同一个函待解决的难题:惊人的能耗问题。据美国环境?;な?007年提交给美国国会的报告指出,2006年美国全国服务器和数据中心消耗约610亿度电,电费开销为45亿美元。McKensey公司预测到2020年数据中心将成为第一大二氧化碳排放行业。
    由于数据中心的能耗问题日益严重,引发了学术界对数据中心计算机系统能耗的研究热潮。数据中心能耗优化方案更是涉及到系统的多个层次和多个技术领域。现如今,优化数据中心能耗最主要的手段是使用虚拟化技术进行服务器的整合。虚拟化技术允许多个操作系统实例逻辑上独立运行在相同的硬件资源上,其主要实施手段是利用虚拟机监控器统一管理和调度虚拟机,在硬件资源上执行相应的服务。
    然而,现阶段大多数数据中心能耗优化研究工作都集中在数据中心虚拟机的计算资源调度和分配方案上,并从数据中心数据集的分配角度考虑。事实上,在数据中心中由于海量数据的迁移成本太高,因此数据分布很大程度上决定了计算资源的分布。大多数情况下,数据中心的数据集是随机的分布在所有服务器节点上的。但是,真实情况下,数据集的访问频率是完全不同的,基本满足重尾分布定律,既是20%的数据占有80%的访问频率。 所以为了保证服务质量(Quality of Service,简称QoS),使得用户访问不受延迟或丢弃,基于数据集在存储服务器上的随机分配,在任何情况下都开启全部的服务器,而大部分存储服务器处于低负载甚至空闲,导致巨大的能耗问题以及各存储服务器负载不均衡问题。
    发明内容
    针对现有技术的以上缺陷或改进需求,本发明提供了一种面向数据处理的能耗优化数据集分配方法,其目的在于,解决现有数据中心数据集在存储服务器上的随机分配导致极大能源浪费和负载不均衡的技术问题,在保证QoS的前提下,将用户的请求数据集按照本发明提供的分配方案部署到服务器节点上,从而达到优化数据中心处理能耗的目的。
    为实现上述目的,按照本发明的一个方面,提供了一种面向数据处理的能耗优化数据集分配方法,包括以下步骤:
    (1)获取待分配数据集的属性值,以得到第一属性值集合A;
    (2)获取数据中心服务器的属性值,以得到第二属性值集合B;
    (3)把第一属性值集合A中待分配数据集按照其IOPS属性值从大到小依次排序形成待分配数据集队列,把第二属性集集合B中所有数据中心服务器也按照其IOPS属性值从大到小依次排序构成待分配服务器队列;
    (4)从待分配数据集队列M中选取出将进行分配的当前数据集,同时根据已分配服务器队列L和待分配服务器队列N中队列元素的不同情况选取出对应的当前数据中心服务器,将该当前数据集分配到当前数据中心服务器中,并重新计算当前数据中心服务器的平均CPU使用值、平均IOPS使用值、以及平均内存使用值;
    (5)将获取的当前数据中心服务器的平均IOPS使用值、平均CPU使用值、以及平均内存使用值,乘以该数据中心服务器已分配数据集列表中已分配数据集的总数,得到总IOPS、CPU、内存使用值,与数据中心服务器的峰值IOPS、峰值CPU和峰值内存进行比较,根据比较结果将数据集部署到符 合条件的数据中心服务器上,当所有待分配数据集都分配完成或者所有数据中心服务器都分配完成,过程结束。
    优选地,分配数据集的属性包括:存储容量、内存容量、数据集对CPU的需求值、IOPS以及访问频率,数据中心服务器的属性包括存储容量、内存容量、CPU对数据集的处理能力、以及IOPS。
    优选地,步骤(3)包括以下子步骤:
    (3-1)将第一属性值集合A中的待分配数据集按照其IOPS属性从大到小进行排序,以形成待分配数据集队列M;
    (3-2)将第二属性值集合B中的数据中心服务器按照其IOPS属性从大到小依次排列,以形成待分配服务器队列N;
    (3-3)建立全局已分配服务器队列L,并为所有n台数据中心服务器建立已分配数据集队列集合(K1,K2....,Kn),该已分配数据集队列集合中的每个已分配数据集队列K1,K2....,Kn分别对应于第一台数据中心服务器、第二台数据中心服务器、…第n台数据中心服务器。
    优选地,步骤(4)包括以下子步骤:
    (4-1)从待分配数据集队列M中取出位于队首的待分配数据集作为当前数据集;
    (4-2)判断已分配服务器队列L是否为空,如果为空,则转入步骤(4-3),否则转入步骤(4-4);
    (4-3)从待分配服务器队列N中取出位于队首的待分配服务器作为当前数据中心服务器t,然后转入步骤(4-5);
    (4-4)从已分配服务器队列L中取出位于队首的已分配服务器作为当前数据中心服务器t;
    (4-5)将当前数据集放到当前数据中心服务器t的已分配数据集队列Kt中,并重新计算当前数据中心服务器的平均IOPS使用值、平均CPU使用值、以及平均内存使用值。
    优选地,步骤(4-5)中计算平均IOPS使用值的过程采用以下公式:
    IOPSaverage=Σi=1i=kIOPSi×fiΣi=1i=kfi]]>
    其中,k为当前数据中心服务器t已分配数据集队列中数据集总个数,f为已分配数据集访问频率,fi表示第i个已分配数据集的访问频率。
    优选地,步骤(4-5)中计算平均CPU使用值的过程采用以下公式:
    CPUaverage=Σi=1i=kCPUi×fiΣi=1i=kfi.]]>
    优选地,步骤(4-5)中计算平均内存使用值的过程采用以下公式:
    MEMORYaverage=Σi=1i=kMEMORYi×fiΣi=1i=kfi.]]>
    优选地,步骤(5)包括以下子步骤:
    (5-1)将获取的当前数据中心服务器的平均IOPS使用值、平均CPU使用值、以及平均内存使用值,乘以该数据中心服务器已分配数据集列表中已分配数据集的总数,以得到总IOPS、CPU、内存使用值,并判断其是否均分别小于数据中心服务器的峰值IOPS、峰值CPU和峰值内存,如果小于,则将当前数据集分配到该数据中心服务器,然后转到步骤(5-6),否则转到步骤(5-2);
    (5-2)将当前数据集从当前数据中心服务器t的已分配数据集队列Kt中取出;
    (5-3)判断已分配服务器队列是否到尾部,若已到尾部,则从待分配服务器队列N中取出位于队首的待分配服务器作为当前数据中心服务器t, 然后转入步骤(5-6),否则,转入步骤(5-5);
    (5-4)从已分配服务器队列L中选取下一数据中心服务器作为当前数据中心服务器t;
    (5-5)将当前数据集作为该数据中心服务器的负载,即将当前数据集加入数据中心服务器t的已分配数据集队列Kt,计算当前数据中心服务器的平均IOPS值、平均CPU和平均内存值,将其乘以该服务器已分配数据集列表中已分配数据集的总数,以得到总IOPS、CPU、并判断其是否都小于数据中心服务器t的对应峰值,若总IOPS值、CPU值、内存值都小于数据中心服务器t的峰值,则返回步骤(5-1),否则将当前数据集分配到该数据中心服务器;
    (5-6)单次分配完成,然后转步骤(4),继续进行分配,直到待分配数据集分配完成或者待分配服务器分配完成为止,然后过程结束。
    总体而言,通过本发明所构思的以上技术方案与现有技术相比,能够取得下列有益效果:
    1、由于本发明采用步骤(3)和步骤(4),其中步骤(3)把第一属性值集合A中待分配数据集按照其IOPS属性值从大到小依次排序形成待分配数据集队列,把第二属性集集合B中所有数据中心服务器也按照其IOPS属性值从大到小依次排序构成待分配服务器队列,在步骤(4)中,在当前数据集分配过程中,将当前数据集放到当前数据中心服务器t的已分配数据集队列Kt中,并重新计算当前数据中心服务器的平均IOPS使用值、平均CPU使用值、以及平均内存使用值。该分配方法使得IOPS需求大的热点数据集得以集中分配在数据中心服务器上,避免了处理大规模数据过程中虚拟机的放置和迁移问题,因此,本发明能够解决现有数据中心数据集在存储服务器上的随机分配导致极大能源浪费的技术问题;
    2、由于本发明采用了步骤(4-5-1)、(4-5-2)、(4-5-3),以(4-5-1)步骤,计算该数据中心服务器IOPS,取出该数据中心服务器已分配数据集 队列中所有已分配数据集,计算每个已分配数据集IOPS需求与频率乘积,并求和,再计算该数据中心服务器的已分配数据集队列中访问频率总和,二者相除,得到该数据中心服务器平均IOPS需求,乘以当前数据中心服务器已分配列表中已分配数据集的总数,得到该数据中心服务器总IOPS需求。步骤(4-5-2)、(4-5-3)同理计算得到总CPU需求,总内存需求,然后根据总IOPS需求、总CPU需求、总内存需求与当前数据中心服务器的峰值IOPS、CPU、内存值比较,进行分配,因此本发明能够解决现有数据中心数据集在存储服务器上的随机分配导致负载不均衡的技术问题。
    3、由于本发明在步骤(4)的子步骤(4-5)中计算当前数据中心服务器的平均IOPS使用值、平均CPU使用值、以及平均内存使用值时用到了数据访问频率,通过引入数据访问频率这一属性,访问频率通过给定时间内使用时间所占的比例进行估算,也就是如果统计时间是一个小时,则存取了半个小时,访问频率为0.5,这种方案,平衡了应用绝对访问数据的次数和访问时间的优势。
    附图说明
    图1是本发明面向数据处理的能耗优化数据集分配方法的流程图;
    图2是本发明方法中步骤(3)的细化流程图。
    图3是本发明方法中步骤(4)的细化流程图。
    图4是本发明方法中步骤(5)的细化流程图。
    具体实施方式
    为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。此外,下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。
    以下首先就本发明的技术术语进行解释和说明:
    存储容量:存储服务器的存储容量,一般以TBytes作为单位。
    内存容量:存储服务器的内存大小,一般以GBytes作为单位。
    CPU需求值:处理数据集需占用的CPU资源,单位是任务/秒。
    CPU对任务的处理能力:在某个时间点,任务程序运行占用的CPU资源,单位是任务/秒。
    IOPS:每秒进行读写(I/O)操作的次数(Input/Output Operations Per Second,简称IOPS)。存储端的IOPS是指存储每秒可接受多少次主机发出的访问。
    访问频率:给定时间内使用时间所占的比例。
    本发明的整体思路在于,提供一种面向数据处理的能耗优化数据集分配方法,分配初始时,把待分配数据集按照IOPS属性值从大到小依次排序形成待分配数据集队列,数据中心服务器也按照IOPS能力从大到小依次排序构成待分配服务器队列;同时创建已分配服务器队列和各个数据中心服务器的已分配数据集队列。分配进行时,从上述待分配数据集队列头部取出第一个待分配数据集,同时判断已分配服务器队列是否为空,若已分配服务器队列为空,则从待分配服务器队列头部选取第一台服务器作为当前数据中心服务器,并把该数据中心服务器加入到已分配服务器队列中;否则从已分配服务器队列头部取出第一台服务器作为当前数据中心服务器,按照下述方式重新计算当前数据中心服务器平均CPU使用值、平均IOPS使用值、平均内存使用值,乘以该服务器已分配数据集列表中已分配数据集的总数,得到总IOPS、CPU、内存使用值。以IOPS使用率为例,将取出的待分配数据集预先加入当前数据中心服务器的已分配数据集队列中,一起计算该数据中心服务器平均IOPS。从该数据中心服务器的已分配数据集队列中取出所有分配到该数据中心服务器的已分配数据集,计算每个已分配数据集IOPS需求与频率乘积,并求和,再计算该数据中心服务器的已分配数据集列表中访问频率总和,二者相除,得到该数据中心服务器平均IOPS需求, 乘以该数据中心服务器已分配数据集列表中已分配数据集的总数,得到该数据中心服务器总IOPS需求,如果该值小于此数据中心服务器的峰值IOPS,则可以考虑放入此数据中心服务器。参考上述IOPS使用率计算步骤,计算平均CPU和平均内存使用值,乘以该数据中心服务器已分配数据集列表中已分配数据集的总数,得到总CPU和内存使用值,如果总CPU和内存使用值都能够小于相应峰值,则将当前数据集分配到该数据中心服务器,若不满足条件,则回退上述将当前数据集加入该数据中心服务器的已分配数据集队列这一步骤,将当前数据集从该数据中心服务器已分配数据集列表中取出。同时判断已分配服务器队列是否到尾部,若已到尾部,则在待分配服务器队列头部选取队首数据中心服务器作为当前数据中心服务器;若队列未到尾部,则在已分配服务器队列中选取下一数据中心服务器作为当前数据中心服务器。同样将当前数据集作为该数据中心服务器的负载,计算平均IOPS使用值、平均CPU和平均内存使用值,乘以该数据中心服务器已分配数据集列表中已分配数据集的总数,得到总IOPS使用值、CPU使用值、内存使用值,进行比较,以部署所述当前数据集。如果依次遍历整个已分配服务器队列未找到合适数据中心服务器,则从待分配服务器队列头部中提取新数据中心服务器,放入待分配服务器队列尾部,并把当前数据集分配到这个空闲服务器,并在该数据中心服务器已分配数据集集合中增加当前数据集。当所有数据集都分配完成或者所有数据中心服务器都已分配,该分配完成。
    由于数据的访问是受时间约束的,以在线大规模数据访问为例,数据的访问在一天之内,根据时间的变化呈现一定的变化规律。在本发明中引入了数据访问频率这一属性,访问频率通过给定时间内使用时间所占的比例进行估算,也就是如果统计时间是一个小时,则存取了半个小时,访问频率为0.5。这种方案平衡了绝对访问次数和访问时间。
    如图1所示,本发明面向数据处理的能耗优化数据集分配方法包括:
    (1)获取待分配数据集的属性值,以得到第一属性值集合A;具体而言,分配数据集的属性包括:存储容量、内存容量、数据集对CPU的需求值、IOPS以及访问频率;
    (2)获取数据中心服务器的属性值,以得到第二属性值集合B。具体而言,数据中心服务器的属性包括存储容量、内存容量、CPU对数据集的处理能力、IOPS,这三个属性主要是数据中心服务器的硬件配置要求。
    (3)把第一属性值集合A中待分配数据集按照其IOPS属性值从大到小依次排序形成待分配数据集队列,把第二属性集集合B中所有数据中心服务器也按照其IOPS属性值从大到小依次排序构成待分配服务器队列;如图2所示,本步骤包括以下子步骤:
    (3-1)将第一属性值集合A中的待分配数据集按照其IOPS属性从大到小进行排序,以形成待分配数据集队列M;
    (3-2)将第二属性值集合B中的数据中心服务器按照其IOPS属性从大到小依次排列,以形成待分配服务器队列N;
    (3-3)建立全局已分配服务器队列L,并为所有n台数据中心服务器建立已分配数据集队列集合(K1,K2....,Kn),该已分配数据集队列集合中的每个已分配数据集队列K1,K2....,Kn分别对应于第一台数据中心服务器、第二台数据中心服务器、…第n台数据中心服务器;
    (4)从待分配数据集队列M中选取出将进行分配的当前数据集,同时根据已分配服务器队列L和待分配服务器队列N中队列元素的不同情况选取出对应的当前数据中心服务器,将该当前数据集分配到当前数据中心服务器中,并重新计算当前数据中心服务器的平均CPU使用值、平均IOPS使用值、以及平均内存使用值;如图3所示,本步骤包括以下子步骤:
    (4-1)从待分配数据集队列M中取出位于队首的待分配数据集作为当前数据集;
    (4-2)判断已分配服务器队列L是否为空,如果为空,则转入步骤
    (4-3),否则转入步骤(4-4);
    (4-3)从待分配服务器队列N中取出位于队首的待分配服务器作为当前数据中心服务器t。然后转入步骤(4-5);
    (4-4)从已分配服务器队列L中取出位于队首的已分配服务器作为当前数据中心服务器t;
    (4-5)将当前数据集分配到当前数据中心服务器中,即将当前数据集放到当前数据中心服务器t的已分配数据集队列Kt中,并重新计算当前数据中心服务器的平均IOPS使用值、平均CPU使用值、以及平均内存使用值。
    (4-5-1)计算平均IOPS使用值IOPSaverage:
    具体而言,平均IOPS使用值的计算过程如下:计算该数据中心服务器IOPS,取出该数据中心服务器已分配数据集队列中所有已分配数据集,计算每个已分配数据集IOPS需求与频率乘积,并求和,再计算该数据中心服务器的已分配数据集队列中访问频率总和,二者相除,得到该数据中心服务器平均IOPS需求,乘以当前数据中心服务器已分配列表中已分配数据集的总数,得到该数据中心服务器总IOPS需求。
    IOPSaverage=Σi=1i=kIOPSi×fiΣi=1i=kfi.]]>
    其中,k为当前数据中心服务器t已分配数据集队列中数据集总个数;f为已分配数据集访问频率;fi表示第i个已分配数据集的访问频率。
    (4-5-2)计算平均CPU使用值CPUaverage:
    计算该数据中心服务器平均CPU需求,取出该数据中心服务器已分配数据集列表中所有已分配数据集,计算每个已分配数据集CPU需求与频率乘积,并求和,再计算该数据中心服务器的已分配数据集列表中访问频率总和,二者相除,得到该数据中心服务器平均CPU需求,乘以当前数据中心服 务器已分配列表中已分配数据集的总数,得到总CPU使用值。
    CPUaverage=Σi=1i=kCPUi×fiΣi=1i=kfi.]]>
    (4-5-3)平均内存使用值MEMORYaverage:
    计算该数据中心服务器平均内存需求,取出该数据中心服务器已分配数据集列表中所有已分配数据集,计算每个已分配数据集内存容量与频率乘积,并求和,再计算该数据中心服务器的已分配数据集列表中访问频率总和,二者相除,得到该数据中心服务器平均内存容量需求,乘以当前数据中心服务器已分配列表中已分配数据集的总数,得到平均内存容量使用值。所述加权平均值计算公式包括:
    MEMORYaverage=Σi=1i=kMEMORYi×fiΣi=1i=kfi.]]>
    (5)将获取的当前数据中心服务器的平均IOPS使用值、平均CPU使用值、以及平均内存使用值,乘以该数据中心服务器已分配数据集列表中已分配数据集的总数,得到总IOPS、CPU、内存使用值,与数据中心服务器的峰值IOPS、峰值CPU和峰值内存进行比较,根据比较结果将数据集部署到符合条件的数据中心服务器上,当所有待分配数据集都分配完成或者所有数据中心服务器都分配完成,过程结束。如图4所示,本步骤包括以下子步骤:
    (5-1)将获取的当前数据中心服务器的平均IOPS使用值、平均CPU使用值、以及平均内存使用值,乘以该数据中心服务器已分配数据集列表中已分配数据集的总数,以得到总IOPS、CPU、内存使用值,并判断其是否均分别小于数据中心服务器的峰值IOPS、峰值CPU和峰值内存,如果小于,则 将当前数据集分配到该数据中心服务器,然后转到步骤(5-6),否则转到步骤(5-2);
    (5-2)将当前数据集从当前数据中心服务器t的已分配数据集队列Kt中取出。
    (5-3)判断已分配服务器队列是否到尾部,若已到尾部,则从待分配服务器队列N中取出位于队首的待分配服务器作为当前数据中心服务器t,然后转入步骤(5-6),否则,转入步骤(5-5)。
    (5-4)从已分配服务器队列L中选取下一数据中心服务器作为当前数据中心服务器t。
    (5-5)将当前数据集作为该数据中心服务器的负载,即将当前数据集加入数据中心服务器t的已分配数据集队列Kt,计算当前数据中心服务器的平均IOPS值、平均CPU和平均内存值,将其乘以该服务器已分配数据集列表中已分配数据集的总数,以得到总IOPS、CPU、并判断其是否都小于数据中心服务器t的对应峰值,若总IOPS值、CPU值、内存值都小于数据中心服务器t的峰值,则返回步骤(5-1),否则将当前数据集分配到该数据中心服务器。
    (5-6)单次分配完成,然后转步骤(4),继续进行分配,直到待分配数据集分配完成或者待分配服务器分配完成为止,然后过程结束。
    由上可见,本发明实施的一种面向数据处理的能耗优化数据集分配方法,在保证QoS(Quality of Service)服务质量,使得用户访问不受延迟或丢弃,基于本发明方案在数据中心服务器上部署数据集,解决了在任何情况下都开启全部的数据中心服务器,而大部分存储服务器处于低负载甚至空闲,导致巨大的能耗以及各存储服务器负载不均衡的问题。IOPS优先分配,以数据集访问频率作为加权,进行数据集到物理服务器的分配,这样使得IOPS需求大的热点数据集得以集中分配在服务器上,避免了处理数据过程中虚拟机的迁移,减少了物理服务器的开启台数,达到了全面优化数 据中心能耗值的目的。
    实例
    下面将结合具体实例进一步说明本发明的技术方案。参考图1,本发明实现了一种面向数据处理的能耗优化数据集分配方法。
    步骤1、获取调度域内各物理机属性值;
    具体包括:该调度域内设定有两个物理机PM1和PM2,PM1的总负载能力为(15TBytes,1000任务/s,8GBytes,800),服务器已分配数据集列表中,各数据集属性:5个D1=(4GBytes,100任务/s,1GBytes,100,0.5),4个D2=(2GBytes,100任务/s,80,0.5GBytes,0.25),2个D3=(1GBytes,50任务/s,50,0.25GBytes,1)。
    PM2的总负载能力为(5TBytes,1000任务/s,4GBytes,500),服务器已分配数据集列表中,各数据集属性:3个D1=(4GBytes,100任务/s,100,0.5GBytes,1),1个D2=(2GBytes,100任务/s,80,0.25GBytes,0.5),2个D3=(1GBytes,50任务/s,50,0.25GBytes,0.25)。
    为了更清楚地表述出PM1,PM2的峰值负载状态,将以上两个物理机的峰值负载能力表述为:
    PM1=(15TBytes,1000任务/s,8GBytes,800)。
    PM2=(5TBytes,1000任务/s,4GBytes,600)。
    步骤2、获取当前分配数据集的各属性值
    当前数据集D4=(4GBytes,150任务/s,50,0.5GBytes,1)。
    步骤3、计算服务器的数据集列表中的平均IOPS、CPU、内存值。
    具体包括:
    (1)将数据集D4加入服务器PM1的数据集列表中,根据公式计算:
    ①IOPSaverage,IOPStotal:
    IOPSaverage=(5*100*0.5)+(3*80*0.25)+(2*50*1)+(1*50*1)/(5*0.5+3*0.25+2*1+1*1)=73.6
    IOPStotal=IOPSaverage*11=809.6
    ②CPUaverage,CPUtotal:
    CPUaverage=(5*100*0.5)+(3*100*0.25)+(2*50*1)+(1*150*1)/(5*0.5+3*0.25+2*1+1*1)=92
    CPUtotal=CPUaverage*11=920
    ③MEMORYaverage,MEMORYtotal:
    MEMORYverage=(5*1*0.5)+(3*0.5*0.25)+(2*0.25*1)+(1*0.5*1)/(5*0.5+3*0.25+2*1+1*1)=0.62
    MEMORYtotal=MEMORYaverage*11=6.82(GBytes)
    与PM1服务器IOPS的峰值能力800比较,平均IOPS值大于PM1服务器IOPS的峰值能力,而平均CPU和IOPS值均小于PM1服务器CPU和内存峰值,即使如此,我们得出的结论依然是:PM1不满足分配条件,选取待分配列表中下一服务器PM2,重新计算IOPS,CPU,内存值,部署待分配数据集。
    (2)将数据集D4加入服务器PM2的数据集列表中,根据公式计算:
    ①IOPSaverage,IOPStotal:
    IOPSaverage=(3*100*1)+(1*80*0.5)+(2*50*0.25)+(1*50*1)/(3*1+1*0.5+2*0.25+1*1)=83
    IOPStotal=IOPSaverage*7=581
    ②CPUaverage,CPUtotal:
    CPUaverage=(3*100*1)+(1*100*0.5)+(2*50*0.25)+(1*150*1)/(3*1+1*0.5+2*0.25+1*1)=105
    CPUtotal=CPUaverage*7=735
    ③MEMORYaverage,MEMORYtotal:
    MEMORYverage=(3*0.5*1)+(1*0.25*0.5)+(2*0.25*0.25)+(1*0.5*1)/(3*1+1*0.5+2*0.25+1*1)=0.45
    MEMORYtotal=MEMORYaverage*7=3.15(GBytes)
    与PM2服务器IOPS的峰值能力600比较,平均IOPS值581小于PM2的IOPS峰值600,同时平均CPU值735小于PM2的CPU峰值1000,内存值3.15小于PM2的内存值4GBytes,由此得出结论,PM2的剩余能力够。则将数据集D4分配到该数据中心服务器。
    步骤4、输出分配结果:将分配数据集D4部署在服务器PM2上。
    由上述实施例可知,本发明实施的一种面向数据处理的能耗优化数据集分配方法,以IOPS优先,以数据集访问频率作为加权,进行数据集到物理服务器的分配,这样使得热点数据集得以集中分配在服务器上,避免了处理数据过程中虚拟机的迁移,减少了物理服务器的开启台数,达到了全面优化数据中心能耗值的目的。
    本领域的技术人员容易理解,以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的?;し段е??!  ∧谌堇醋宰ɡ鴚ww.www.4mum.com.cn转载请标明出处

    关于本文
    本文标题:一种面向数据处理的能耗优化数据集分配方法.pdf
    链接地址://www.4mum.com.cn/p-6116869.html
    关于我们 - 网站声明 - 网站地图 - 资源地图 - 友情链接 - 网站客服 - 联系我们

    [email protected] 2017-2018 www.4mum.com.cn网站版权所有
    经营许可证编号:粤ICP备17046363号-1 
     


    收起
    展开
  • 四川郎酒股份有限公司获第十二届人民企业社会责任奖年度环保奖 2019-05-13
  • 银保监会新规剑指大企业多头融资和过度融资 2019-05-12
  • 韩国再提4国联合申办世界杯 中国网友无视:我们自己来 2019-05-11
  • 中国人为什么一定要买房? 2019-05-11
  • 十九大精神进校园:风正扬帆当有为 勇做时代弄潮儿 2019-05-10
  • 粽叶飘香幸福邻里——廊坊市举办“我们的节日·端午”主题活动 2019-05-09
  • 太原设禁鸣路段 设备在测试中 2019-05-09
  • 拜耳医药保健有限公司获第十二届人民企业社会责任奖年度企业奖 2019-05-08
  • “港独”没出路!“梁天琦们”该醒醒了 2019-05-07
  • 陈卫平:中国文化内涵包含三方面 文化复兴表现在其中 2019-05-06
  • 人民日报客户端辟谣:“合成军装照”产品请放心使用 2019-05-05
  • 【十九大·理论新视野】为什么要“建设现代化经济体系”?   2019-05-04
  • 聚焦2017年乌鲁木齐市老城区改造提升工程 2019-05-04
  • 【专家谈】上合组织——构建区域命运共同体的有力实践者 2019-05-03
  • 【华商侃车NO.192】 亲!楼市火爆,别忘了买车位啊! 2019-05-03
  • 今日广西快乐十分走势 当日电脑综合资料 M5彩票安卓 湖北快3振幅 篮球规则犯规有哪些 广西快三计划全天官网 内蒙古快3第11期开奖结果查询 3d福彩组六吧 白小姐资料一肖中特期期准 重庆时时彩正规吗 怎么打好福州麻将 股票涨跌原理 股票涨跌是由谁决定的 江西多乐彩11选五 竞猜篮球app 互联网什么职业赚钱吗 福建31选7今天中奖号码