Developing energy forecasting model using
hybrid artificial intelligence method
Shahram Mollaiy-Berneti
Young Researchers and Elites Club, Bandar Abbas Branch, Islamic Azad University, Bandar Abbas, Iran
copy; Central South University Press and Springer-Verlag Berlin Heidelberg 2015
Abstract
An important problem in demand planning for energy consumption is developing an accurate energy forecasting model. In fact, it is not possible to allocate the energy resources in an optimal manner without having accurate demand value. A new energy forecasting model was proposed based on the back-propagation (BP) type neural network and imperialist competitive algorithm. The proposed method offers the advantage of local search ability of BP technique and global search ability of imperialist competitive algorithm. Two types of empirical data regarding the energy demand (gross domestic product (GDP), population, import, export and energy demand) in Turkey from 1979 to 2005 and electricity demand (population, GDP, total revenue from exporting industrial products and electricity consumption) in Thailand from 1986 to 2010 were investigated to demonstrate the applicability and merits of the present method. The performance of the proposed model is found to be better than that of conventional back-propagation neural network with low mean absolute error.
Key words: energy demand; artificial neural network; back- propagation algorithm; imperialist competitive algorithm
1 Introduction
Energy, as a resource of many things, plays an essential role as social and economic factor in the development of each country. Worldwide demand for energy has been rapidly increasing owing to increasing industrial, agricultural, transportation, commercial and housing activities. The population growth and improved standard of living are other affecting factors for the increase in energy demand. Therefore, development of energy demand-forecasting models is one of the most important mechanisms for energy planning, formulating strategies, and recommending energy policies.
Recently, artificial neural networks (ANNs) have gained increasing popularity as an analytical alternative technique in expressing highly non-linear relationship between the input and output variables that canrsquo;t be modeled in mathematics. They can learn from examples; handle noisy and incomplete data can perform prediction and generalization at high speed. ANNs have some advantages over other forecasting models. They have inherent ability to approximate any nonlinear function to an arbitrary accuracy and do not need any prior knowledge about the nature of the underlying process; they are adaptive and use only many parameters.
The literature demonstrates that some articles have been published in the favor of using ANNs in energy demand modeling and forecasting. KERMANSHAHI and IWAMIYA [1] developed an ANN approach to predict the peak electric load in Japan up to 2020. HSU and CHEN [2] assessed the performance of ANN approach to predict the regional peak load in Taiwan, China. The energy consumption for Turkey has been predicted using artificial neural network (ANN) technique [3]. PAO [4] proposed an ANN model for forecasting Taiwanrsquo;s electricity consumption. GONZAacute;LEZ- ROMERA et al [5] proposed the use of neural networks for extraction of both growing and fluctuating trends in monthly electricity load demand. HAMZACEBI [6] explored forecast of Turkeyrsquo;s net electricity energy consumption on sectoral bases until 2020 by applying ANNs. AZADEH et al [7] used ANN for forecasting the annual electricity consumption in high energy consuming industries in Iran. GEEM and ROPER[8] used neural networks to estimate energy demand in South Korea.
Training ANN is a complex process with the aim of finding an optimal (near optimal) set of connection weights according to some error criteria. Due to the fact that error space is complex with multiple local optima, even for simple functions being estimated, the problem of ANN training needs powerful techniques. In many cases, the gradient-based search methods have been conventionally adopted in the back propagation procedure for ANN training. The gradient-based training algorithm proceeds in a point-to-point way that is intrinsically local in scope. Accordingly, these algorithms are most likely trapped in local minima instead of global minima, and the derived solutions by this gradient technique are extremely dependent on the initial weights. As a result of these limitations with gradient-based technique, ANN researchers have explored global search heuristics, such as genetic algorithms (GAs) [9], ant colony optimization (ACO) [10], and simulated annealing (SA) [11].
As an alternative to current optimization strategies described above, in this work, a novel optimization strategy namely imperialist competitive algorithm (ICA) is proposed that has recently been introduced by ATASHPAZ-GARGARI and LUCAS [12] for dealing with different optimization tasks. It uses imperialism and imperialistic competition, socio-political evolution process, as source of inspiration. Although this algorithm occurs lately, it has shown its capability in several engineering applications [13minus;15].
The main aim of the present research is to deal with the application of hybrid ICA and BP (ICA-BP) algorithm to obtain the optimal weights and biases of the ANN in predicting the demand for energy in two real cases. The proposed method combines global search strategy of ICA with the local search ability of the traditional BP algorithm. The former attempts to avoid being trapped in the local optima and the later can rapidly find final optimum value. In this work, some experimental results are also given to make comparisons of effectiveness with those obtained by the conventional ANN in ter
剩余内容已隐藏，支付完成后下载完整资料
使用混合人工智能方法开发能源预测模型
摘要
制定能源需求计划中的一个重要问题是开发准确的能源预测模型。实际上，如果没有准确的需求值，就不可能以最佳方式分配能源。提出了一种基于BP神经网络和帝国主义竞争算法的能源预测模型。该方法具有BP技术的局部搜索能力和帝国主义竞争算法的全局搜索能力的优点。关于土耳其从1979年至2005年的能源需求（国内生产总值（GDP），人口，进口，出口和能源需求）和电力需求（人口，GDP，工业产品出口总收入和电力消耗）的两种经验数据1986年至2010年在泰国进行了调查，以证明本方法的适用性和优点。发现所提出的模型的性能优于具有低平均绝对误差的常规反向传播神经网络。
关键字：能源需求；人工神经网络;反向传播算法；帝国主义竞争算法
1引言
能源作为多种事物的资源，在每个国家的发展中作为社会和经济因素都发挥着至关重要的作用。由于工业，农业，运输，商业和住房活动的增加，全世界对能源的需求迅速增加。人口增长和生活水平提高是能源需求增加的其他影响因素。因此，开发能源需求预测模型是能源规划，制定策略和推荐能源政策的最重要机制之一。
近年来，人工神经网络（ANN）作为一种分析性替代技术越来越受欢迎，它可以表达无法在数学中建模的输入和输出变量之间的高度非线性关系。他们可以从例子中学习；处理嘈杂和不完整的数据可以高速执行预测和概括。与其他预测模型相比，人工神经网络具有一些优势。它们具有固有的能力，可以将任意非线性函数近似为任意精度，并且不需要任何有关基础过程本质的先验知识；它们是自适应的，仅使用许多参数。
文献表明，已经发表了一些文章，以支持在能源需求建模和预测中使用人工神经网络。KERMANSHAHI和IWAMIYA[1]开发了一种ANN方法来预测直到2020年日本的峰值电力负荷。HSU和CHEN[2]评估了ANN方法在预测中国台湾地区峰值负荷方面的性能。土耳其的能源消耗已使用人工神经网络（ANN）技术进行了预测[3]。PAO[4]提出了一个ANN模型来预测台湾的用电量。GONZAacute;LEZ-ROMERA等人[5]提出使用神经网络提取每月电力负荷需求的增长趋势和波动趋势。HAMZACEBI[6]通过应用人工神经网络探索了直到2020年土耳其部门电力净能耗的预测。AZADEH等[7]使用ANN预测伊朗高耗能行业的年电力消耗。GEEM和ROPER[8]使用神经网络来估计韩国的能源需求。
训练ANN是一个复杂的过程，目的是根据一些错误标准来找到最佳的（接近最佳）连接权重集合。由于错误空间是复杂的，具有多个局部最优值，即使对于估计的简单函数，ANN训练问题也需要强大的技术。在许多情况下，ANN训练的反向传播程序通常采用基于梯度的搜索方法。基于梯度的训练算法以点对点的方式进行，该点本质上在范围上是局部的。因此，这些算法很可能陷入局部最小值而不是全局最小值中，并且通过此梯度技术得出的解非常依赖于初始权重。由于基于梯度技术的这些局限性，ANN研究人员探索了全局搜索启发式方法，例如遗传算法（GA）[9]，蚁群优化（ACO）[10]和模拟退火（SA）[11]。
作为上述当前优化策略的替代方案，在这项工作中，ATASHPAZ-GARGARI和LUCAS[12]最近提出了一种新的优化策略，即帝国主义竞争算法（ICA），用于处理不同的优化任务。它以帝国主义和帝国主义竞争，社会政治演变过程为灵感来源。尽管该算法最近出现，但已在多种工程应用中显示出了其功能[13-15]。
本研究的主要目的是在两种实际情况下，运用ICA和BP混合算法（ICA-BP）来获得ANN的最佳权重和偏差，以预测能源需求。该方法结合了ICA的全局搜索策略和传统BP算法的局部搜索能力。前者试图避免陷入局部最优中，而后者可以迅速找到最终的最优值。在这项工作中，还给出了一些实验结果，以便就预测准确性与常规ANN获得的有效性进行比较。
2神经网络
神经网络是灵活的计算框架，能够捕获和表示复杂的输入输出关系。可以引用在系统建模中使用ANN的一个重要优点，即无需事先了解基础流程的性质。由于他们以并行和分布式的方式处理数据并进行学习，因此总体上，他们具有发现输入变量和呈现给网络的相应输出之间的非线性，认识不足和/或过于复杂的相关模式的能力。然后，当他们与训练样本输入一起呈现时，它们就会适应以重现所需的输出。
2.1网络结构
在为神经网络提出的各种体系结构中，前馈反向传播神经网络因其有效的泛化能力而被广泛使用。典型的前馈神经网络（FFNN）具有一个输入层，一个或多个隐藏层和一个输出层。每层都有其相应的神经元和重量连接。根据HORNIK等人[16]，原理上，带有单个隐藏层的FFNN包含足够数量的隐藏神经元，并带有任意激活功能，原则上可以将任意输入映射到每个输出，具有任意精度。向网络引入其他隐藏层将导致网络过度拟合训练数据，从而导致通用性差。
输入和输出神经元的数量分别等于输入和输出数据的数量。但是，确定隐藏层中神经元的最佳数量是一个难题。没有选择隐藏层神经元的最佳数量的一般规则。它因情况而异，并且取决于要建模的系统的复杂性。确定隐藏层中合适数量的神经元的最常见方法是通过实验或反复试验。
2.2激活函数
激活函数（也称为传递函数）将神经元所有输入的加权总和转换为输出激活。有不同的激活函数，例如线性，逻辑和双曲正切函数。大约可以使用所有功能，但是，为了训练FFNN，功能必须是可区分的。常用的激活函数很容易在任何地方进行区分，它们是对数S型曲线和纯线性函数，其一般形式为：
（1）
（2）
其中s是加权输入总和的集合。
2.3训练算法
文献中使用了几种类型的训练算法。但是，反向传播（BP）算法是最流行的类型。这是一种梯度下降搜索算法，它尝试根据网络输出和可用数据之间的差异来更新权重。它由两遍组成：前向遍历（误差计算）和后向遍历（参数调整）。在前向传递中，应用于输入神经元的活动模式的效果通过网络逐层传播，并产生网络的输出。连接权重是在开始时随机分配的，因此将输入值映射到输出，但没有有意义的模式。然后将这些输出与所需的输出进行比较，并产生如下的误差信号：
（3）
其中是目标输出，是计算的输出，是训练样本的数量。
在向后传递中，误差信号向后传播，并且调整突触权重以使网络的输出更接近所需的输出。权重的修改是根据：
（4）
（5）
其中是学习率，是动量系数。重复这些过程，直到达到所需的错误级别。
3帝国主义竞争算法
竞争算法（ICA）是一种新的进化算法，通过模拟人类的社会政治进化来寻找最佳解决方案[12]。图1显示了ICA的流程图。
图1 ICA算法流程图
与其他进化算法相似，ICA从称为国家的初始种群开始，代表了匹配问题的可能解决方案。在Nvar尺寸优化问题中，该国家（C）定义为：
（6）
通过评估成本函数可得出一个国家的成本（）：
（7）
国家分为两类：帝国主义者和共同组成帝国的殖民地。最初的殖民地根据帝国主义的力量在帝国主义者之间进行划分，而帝国主义的力量与其代价成反比。帝国主义者的标准化成本（cn）定义为：
（8）
其中和分别是第个帝国主义的成本及其规范化成本。有了所有帝国主义者的归一化成本，就可以计算出每个帝国主义者的归一化功率。
（9）
那么，帝国主义者的最初殖民地数量是：
（10）
其中是第个帝国的初始殖民地数量，是所有殖民地的数量。为了在帝国主义者之间划分殖民地，随机选择个殖民地并分配给每个帝国主义者。殖民地与帝国主义者一起形成了第个帝国。如图2所示，较大的帝国有较多的殖民地，而较弱的帝国则较少[12]。
图2 初始帝国[12]
形成最初的帝国后，他们每个人中的殖民地开始向相关的帝国主义发展。在向帝国主义迈进的过程中，如果一个殖民地拥有比其相关帝国主义更多的权力，他们将交换自己的职位，而成本较低的新地点将成为帝国主义。然后，其他殖民地朝这个新位置发展。
每个帝国的总权力取决于帝国主义者及其殖民地的权力，应计算出来，以进行帝国之间的竞争。通过定义总成本来建模此事实：
（11）
其中是第个帝国的总成本，是第个帝国主义者，是帝国的殖民地，xi;是一个正数，小于1。
帝国主义的竞争形成了ICA的基础，在这个ICA中，所有帝国都试图控制其他帝国的殖民地。因此，在竞争中，虚弱的帝国失去了权力和殖民地，最终崩溃了。
为了模拟这种竞争，首先根据每个帝国的总实力计算其拥有概率。通过以下方式获得归一化的总成本：
（12）
其中和分别是第个帝国的总成本和标准化总成本。然后，通过以下公式计算每个帝国的拥有概率：
（13）
为了在各个帝国之间划分殖民地，向量形成为
（14）
然后创建大小与相同的向量，其元素是均匀分布的随机数
（15）
然后通过从中减去来形成向量：
（16）
参照向量，将选定的菌落赋予其中的相关指数最大的帝国。
帝国主义的竞争汇聚成一个世界上最强大的帝国主义仍然存在的状态，所有殖民地都将在这个独特的帝国主义的控制之下。在这个理想的新世界中，帝国主义者和殖民地具有相同的地位和权力，这意味着该算法可以收敛到最佳解决方案。
4使用混合ICA-BP学习ANN
混合学习过程包括两个阶段：首先，使用ICA在连接权重和偏差空间中搜索由起点表示的良好区域，然后使用BP在该区域中找到几乎最优的解决方案。
图3 用于人工神经网络训练的混合ICA-BP框架
如图3所示，可以总结提出的ICA-BP混合网络的总体框架。它首先随机产生一个初始国家种群，每个国家作为候选解决方案，代表与网络相关的不同组连接权重和偏差。然后通过训练样本对每个生成的国家进行培训和评估，以确定其适用性。一个国家的适用性值是通过均方误差（MSE）指数计算得出的。国家通过同化政策和帝国主义竞争而不断发展，以使适应度值（等式（3））尽可能最小化，即逐渐趋于。当适应度值满足最终条件时，根据该启发式知识将搜索过程转换为梯度下降搜索。该阶段采用BP算法在网络训练开始时，选择获得的最佳连接权向量作为初始猜测。这种混合方法结合了ICA强大的全局搜索(探索)能力和BP强大的局部搜索微调(开发)能力。
5结果与讨论
拟议的混合网络已应用于土耳其的能源需求和泰国的电力消耗的两个实际案例。与土耳其案例研究相关的数据摘自参考文献[17]，泰国案例则从参考文献中获得[18]。
为了对提议的混合ICA-BP网络的潜力进行真实评估，还使用了具有一个隐藏层的常规标准BP神经网络（BPNN）。两种情况下的BPNN结构具有以下共同特征。学习率的值0.01和动量常数的值0.9用于BP算法（MATLAB中的默认值）。训练绩效目标（MSE）的均方误差（MSE）设置为0.0。此外，在隐藏层和输出层中分别考虑了S型和线性激活函数。
在开始建模过程之前，将通过整个数据集上变量的最大值和最小值在[-1，1]范围内对数据进行归一化。数据归一化可避免由于权重过大或过小而导致的饱和问题。最后，网络输出被归一化到其原始规模。
在ICA-BP
剩余内容已隐藏，支付完成后下载完整资料
资料编号：[238265]，资料为PDF文档或Word文档，PDF文档可免费转换为Word
以上是毕业论文外文翻译，课题毕业论文、任务书、文献综述、开题报告、程序设计、图纸设计等资料可联系客服协助查找。
