یک روش ترکیبی پیش‌بینی میان‌مدت قیمت برق در بازار تجدید ساختار شده با استفاده از ماشین بردار پشتیبان و شبکه‌های عصبی

نویسندگان

مرکز تحقیقات ریزشبکه‌های هوشمند، واحد نجف‌آباد، دانشگاه آزاد اسلامی، نجف‌آباد، ایران دانشکده مهندسی برق، واحد نجف‌آباد، دانشگاه آزاد اسلامی، نجف‌آباد، ایران

چکیده

در شبکه‌های هوشمند آینده، اطلاع از قیمت بازار برق برای هدایت رفتار مصرف‌کنندگان و تولیدکنندگان ضروری است. در این مقاله روش ترکیبی پیش‌بینی میان‌مدت قیمت برق در بازار تجدید ساختار شده با استفاده از ماشین بردار پشتیبان و شبکه‌های عصبی ارائه شده است. در این روش ابتدا حد زیاد برای قیمت‌ها در نظر گرفته می‌شود؛ سپس مجموعۀ آموزش به دو قسمت جهش‌های قیمت و قیمت‌های معمولی تقسیم می‌شود. پس از آن، روی داده‌های ورودی عملیات استخراج ویژگی با استفاده از اتوانکدرهای به‌هم‌چسبیده انجام می‌گیرد و با استفاده از هر یک از مجموعه‌های آموزش، مدل تخمین آموزش داده می‌شود. مدل‌های بردار پشتیبان با توابع کرنل مختلف و شبکۀ عصبی دولایه پیشخور با استفاده از روش پیشنهادی، آموزش و آزموده می‌شوند. نتایج شبیه‌سازی با استفاده از روش پیشنهادی نشان می‌دهند این روش در افزایش سرعت آموزش مدل تأثیر چشم‌گیری دارد و موجب بهبود دقت پیش‌بینی می‌شود.

کلیدواژه‌ها

موضوعات


عنوان مقاله [English]

A Hybrid Approach for Mid-Term Electricity Price Forecasting based on Support Vector Machine and Neural Networks

نویسندگان [English]

  • Navid Nazeri
  • Majid Moazzami
  • Ghazanfar Shahgholian
Smart Microgrid Research Center, Najafabad Branch, Islamic Azad University, Najafabad, Iran. Department of Electrical Engineering, Najafabad Branch, Islamic Azad University, Najafabad, Iran
چکیده [English]

In future smart grids, it's imperative to know the price of electricity market to guide the behavior of consumers and suppliers. This paper presents a hybrid approach for mid-term electricity price forecasting based on support vector machine and neural networks. In this method, at first, the price upper bound is considered. Then, the training set is divided into two parts including normal price and price spikes. Feature extraction applies on input data sets using stacked auto-encoders and a prediction model trained using each training set. Support Vector Machine (SVM) models with different kernel functions and a two layered feed-forward neural network were trained and tested with the proposed method. Simulation results using the proposed method show that this method has a significant effect on the speed of model training and improves forecasting accuracy.

کلیدواژه‌ها [English]

  • Autoencoder
  • Electricity Price Forecasting
  • Feed-Forward Neural Network
  • Support Vector Machine (SVM)

1- مقدمه[1]

با تجدیدساختار در سیستم‌های قدرت، پیش‌بینی قیمت برق برای مدیریت بازار برق بسیار مهم است و نقش کلیدی در عملیات در بازار برق و شبکه‌های هوشمند دارد [1]. در بازار برق، قیمت برق مهم‌ترین سیگنال برای همۀ شرکت‌کنندگان در بازار و قیمت تسویۀ بازار، پایه‌ای‌ترین مفهوم قیمت‌گذاری است [2]. جهش‌های قیمت برق، ویژگی‌های بارزی‌اند که بر درستی پیش‌بینی تأثیرگذارند. در عمل وقتی میزان بار در سیستم به محدوده‌های ظرفیت تولید نزدیک می‌شود، پیش‌بینی دقیق جهش‌های قیمت پیچیده است؛ بنابراین مطالعۀ آماری جهش‌های قیمت و مطالعۀ توزیع احتمالی آنها در سطوح مختلف بار مفید خواهد بود [2]. قیمت برق در بازار تجدید ساختار شده، بی‌ثباتی بیشتری نسبت به بار دارد؛ درنتیجه برای پیش‌بینی قیمت برق، مدل پیش‌بینی دقیق لازم است.

ازجمله مطالعات انجام‌شده در زمینۀ پیش‌بینی با استفاده از ماشین‌های بردار پشتیبان می‌توان به بهینه‌سازی پارامترهای ماشین‌های بردار پشتیبان با استفاده ار الگوریتم تودۀ ذرات برای پیش‌بینی بار در شبکه برق اشاره کرد [3]. همچنین استفاده از چندین مدل ماشین بردار پشتیبان مبتنی بر روش کمترین مربعات خطا در[i] [4] گزارش شده است. مرجع [5] مدلی برای پیش‌بینی قیمت برق ارائه داده است که حاصل ترکیب سری‌های زمانی فازی[ii] با الگوریتم بهینه‌سازی جستجوی هماهنگی سراسری (GHSA[iii]) و ماشین بردار پشتیبان براساس روش کمترین مربعات خطا است. در این روش در ابتدا مرکز خوشه‌بندی هر یک از خوشه‌ها محاسبه شده است؛ سپس مقادیر بهینۀ پارامترهای ماشین بردار پشتیبان با استفاده از الگوریتم جستجوی هماهنگی سراسری به دست آمده‌اند که مدل پیش‌بینی نهایی را تشکیل می‌دهند. مرجع [6] روشی براساس جداسازی سری‌های زمانی قیمت برق و پیش‌بینی در مرحلۀ بعد ارائه داده است. در این روش ابتدا داده‌های قیمت برق با استفاده از روش جداسازی Beveridge-Nelson[iv] به سه قسمت شامل داده‌های قطعی، داده‌های دوره‌ای و داده‌های تصادفی تقسیم می‌شوند؛ سپس با استفاده از الگوریتم بهینه‌سازی مگس میوه[v] مقادیر بهینۀ پارامترهای ماشین بردار پشتیبان مبتنی بر روش کمترین مربعات خطا، محاسبه و برای هر یک از داده‌ها مدل پیش‌بینی، آموزش داده می‌شود. در مرجع [7] از ترکیب دو شبکۀ عصبی عمیق، یعنی شبکۀ عصبی پیچیده و حافظۀ بلندمدت برای پیش‌بینی قیمت برق استفاده شده است. در [8] عدم‌قطعیت مدل پیش‌بینی‌کننده در نظر گرفته شده است و از تکنیک بوت استرپینگ برای پیاده‌سازی عدم‌قطعیت استفاده شده است. روش مذکور از یادگیری تعمیم داده شده استفاده کرده است. این روش، مبتنی بر روش یادگیری ماشین شدید تعمیم یافته است که برای بهبود شبکه‌های عصبی استفاده می‌شود. مرجع [9] از ترکیب روش‌هایی همچون تبدیل موجک، یادگیری ماشین شدید و بوت استرپ[vi]، روشی برای پیش‌بینی بلادرنگ فواصل زمان و قیمت روز - پیش برق ارائه داده است. در مرجع [10] شانزده نوع تبدیل برای تثبیت واریانس پیش‌بینی و کاهش شدت جهش قیمت بررسی شده است. نمونه‌ای از پیش‌بینی احتمالاتی میان‌مدت در مرجع [11] ارائه شده است. در [11] از رگرسیون چندکی برای تخمین دقیق ریسک در بازار تجدید ساختار شده استفاده شده است.

در مرجع [12] از روش ترکیبی دو مرحله‌ای برای پیش‌بینی قیمت برق استفاده شده است. در مرحلۀ نخست از روش یادگیری ماشین استفاده می‌شود تا در فواصل زمانی و با توجه به عدم‌قطعیت‌های موجود، قیمت برق پیش‌بینی شود. در مرحلۀ دوم با استفاده از روش بیشترین درستی ممکن، تخمین میانگین خطا انجام می‌گیرد. در [13] پیش‌بینی قیمت تسویۀ بازار در فواصل زمانی معتبر با بهره‌گیری از روش آموزش وفق‌پذیر جامع و ترکیب روش‌های تخمین فواصل زمانی، شبکه‌های عصبی مصنوعی و فیلتر کالمن توسعه‌یافته صورت می‌گیرد. استفاده از روش [vii]NCFH مبتنی بر ماشین‌های بردار پشتیبان نیز به‌منظور پیش‌بینی قیمت برق در فواصل زمانی استفاده شده است [14].

ترکیب روش یادگیری حداکثری ماشین و روش خودراه‌انداز نیز به‌منظور پیش‌بینی قیمت تسویه در بازار برق تجدید ساختار شده استفاده شده است [15]. بسیاری از روش‌های مبتنی بر شبکه‌های عصبی مصنوعی برای فرمول‌بندی فواصل زمانی بین پیش‌بینی‌های معتبر توسعه داده شده‌اند که از این روش‌ها می‌توان روش دلتا، روش بیز، روش خودراه‌انداز و روش‌های میانگین واریانس را نام برد [21-16]. در بین روش‌های نام برده شده، استفاده از روش خودراه‌انداز ساده است و فواصل زمانی به‌دست‌آمده نیز از اعتبار کافی برخوردارند [22]. آموزش حداکثری ماشین روشی برای آموزش شبکۀ عصبی مصنوعی تک‌لایه است که سرعت بسیار زیادی دارد. این روش قابلیت‌های بیشتری نسبت به شبکه‌های عصبی معمولی دارد و در مراجع [24-23] استفاده شده است. پیش‌بینی قیمت توان الکتریکی در بازارهای تجدید ساختار شده مختلف، در سراسر جهان در [30-25] ارائه شده است.

برای پیش‌بینی جهش‌های قیمت برق، چندین روش استفاده شده است [31]. رگرسیون با مدل‌های جمع‌پذیر تعمیم‌یافته[viii] [32] و روش کمترین کاهش و انتخاب عملگر Lasso [33]، در پیش‌بینی‌های قیمت برق به‌تازگی استفاده شده‌اند. علاوه بر این، پیش‌بینی نقطه‌ای مقادیر و پیش‌بینی احتملاتی در [34] انجام شده است. بیشتر مدل‌های سری‌های زمانی با قابلیت پیش‌بینی قیمت برق ازطریق رابطۀ خطی بین ورودی‌ها کار می‌کنند. در مطالعات اخیر [36-35] از مدل‌های توسعه داده شدۀ آماری استفاده شده است که توانایی شناسایی ویژگی‌های غیرخطی در داده‌ها را دارند. روش‌های داده‌محور با استفاده از روابط غیرخطی بین ورودی‌ها به بهبود درستی پیش‌بینی کمک می‌کنند. استفاده از ماشین‌های بردار پشتیبان در پیش‌بینی قیمت برق در [39-37] آمده است. مطالعه‌ای که در [40] انجام شده است، روش‌های مختلف پیش‌بینی قیمت برق را مرور کرده و به این نتیجه رسیده است که روش‌های داده‌محور به‌خصوص روش‌های مبتنی بر شبکه‌های عصبی نتایج بسیار خوبی ارائه می‌دهند.

در این مقاله روش دقیق پیش‌بینی قیمت میان‌مدت برق با استفاده از روش یادگیری ماشین، اتوانکدرهای پراکنده متصل‌به‌هم و شبکه‌های عصبی ارائه شده است. در روش پیشنهادی پیش‌پردازش داده‌ها بدون نظارت است. با پیش‌پردازش ورودی‌ها، استخراج ویژگی‌ها با استفاده از اتوانکدرهای پراکنده متصل‌به‌هم انجام شده که حاصل آن انتخاب ویژگی‌های بارز در ورودی‌ها و حذف ویژگی‌های کم‌اثر است. اتوانکدرهای متصل به یکدیگر به‌صورت متوالی ورودی داده‌شده را کدگذاری و سپس داده‌های لایه مخفی را کدگشایی می‌کنند. این کار برای کپی‌کردن ورودی در خروجی است؛ به طوری که فقط داده‌های با ویژگی‌های بارزتر باقی می‌مانند. این روند باعث کاهش ابعاد ورودی‌ها و افزایش سرعت یادگیری روش پیشنهادی می‌شود. پس از آن جهش‌های قیمت و ورودی‌های مربوط به آنها از مجموعه داده‌ها جدا می‌شوند و مجموعه آموزش جداگانه را تشکیل می‌دهند و با استفاده از هر یک از مجموعه‌ها مدل پیش‌بینی ساخته می‌شود. به این ترتیب نتایج حاصل از ترکیب پیش‌بینی دو مدل ایجاد می‌شود که موجب بهبود دقت پیش‌بینی نهایی خواهد شد. برای یافتن بهترین تابع کرنل برای ساختن مدل‌های پیش‌بینی، مدل‌ها با استفاده از چندین کرنل آموزش داده می‌شوند و تابع کرنلی انتخاب می‌شود که بهترین پاسخ را ارائه داده است.

 

2- روش پیشنهادی

مراحل روش پیشنهادی پیش‌بینی قیمت میان‌مدت شامل انتخاب داده‌های ورودی، پیش‌پردازش روی داده‌ها، آموزش مدل پیش‌بینی و محاسبۀ خطای پیش‌بینی‌اند.

در این مقاله از دو روش ترکیبی برای آموزش مدل اصلی پیش‌بینی قیمت و مقایسۀ خطای آنها با یکدیگر و دیگر روش‌ها برای پیش‌بینی قیمت برق استفاده شده است. مدل پیش‌بینی پیشنهادی در این مقاله در شکل (1) نشان داده شده است.

در ابتدا داده‌های آموزش و آزمایش برای انجام روش پیشنهادی انتخاب می‌شود. سپس داده‌ها به دو قسمت داده‌های مربوط به قیمت‌های معمولی و جهش‌ها تقسیم می‌شوند. پس از آن، روی هر یک از مجموعه‌ها استخراج ویژگی‌ها انجام می‌شود و سپس با استفاده از هر یک از مجموعه‌ها مدل تخمین‌زننده آموزش داده می‌شود.

در مرحلۀ بعد خطای پیش‌بینی‌ها، اندازه‌گیری و با مقایسۀ خطاها مدل پیش‌بینی انتخاب می‌شود.

 

شکل (1): فلوچارت روش پیشنهادی

2-1- انتخاب داده‌های آموزش

مجموعه داده‌های آموزش در پیش‌بینی قیمت برق اعم از کوتاه‌مدت، میان‌مدت یا بلندمدت، داده‌های پیشین است. داده‌های استفاده‌شده برای آموزش مدل‌های پیش‌بینی‌کننده در شکل (2) نمایش داده شده‌اند.

اطلاعات پایگاه داده برای شبیه‌سازی روش پیشنهادی مربوط به سال 2005 و 2006 بازار استرالیا است. داده‌های روز یکم ژانویه 2005 تا سی و یکم دسامبر 2005 برای آموزش مدل‌ها و داده‌های مربوط به ماه ژانویه سال 2006 برای آزمایش مدل‌ها استفاده شده‌اند. در آموزش مدل‌های نظارت‌شده هدف یا به عبارتی خروجی مطلوب، قیمت برق خواهد بود.

شکل (2): ورودی‌های مدل آموزش

2-2- پیش‌پردازش روی داده‌ها

2-2-1- کنترل جهش‌های قیمت

برای کنترل جهش‌های قیمت ابتدا حد بیشتری برای قیمت برق در نظر گرفته می‌شود. قیمت‌های بیشتر از حد بالا از مجموعۀ آموزش حذف می‌شوند و مدل پیش‌بینی اصلی بدون جهش‌های قیمت آموزش داده می‌شود.

(1)

 

S کل مجموعه آموزش است. با تقسیم‌بندی مجموعۀ آموزش به قیمت‌های معمولی و جهش‌ها دو زیرمجموعه آموزش به دست می‌آید و جهش‌های قیمت و ورودی‌های مربوط به آنها که از مجموعه آموزش جدا شده است، مجموعه آموزش دیگری را می‌سازد. سپس از این مجموعه آموزش جدید، برای آموزش مدلی برای تخمین جهش‌های قیمت استفاده می‌شود.

در مرحلۀ تخمین آنلاین، داده‌های ورودی‌ها به دو مدل تخمین‌زنندۀ قیمت‌های معمولی و جهش‌ها داده می‌شوند و مجموعه پیش‌بینی‌ها براساس تاریخ داده‌ها مرتب می‌شوند.

2-2-2- پیش‌پردازش روی داده‌های ورودی

در مرحلۀ آموزش هر دو مدل تخمین‌زننده قیمت، در مرحلۀ انتخاب ویژگی‌ها از دو اتوانکدر پراکنده برای یادگیری ویژگی‌های ورودی استفاده شده است. شبکۀ عصبی اتوانکدر، الگوریتم آموزشی بدون نظارت است که با استفاده از الگوریتم پس‌انتشار خطا آموزش می‌بیند تا ورودی‌هایش را در خروجی کپی کند. درون آن لایۀ مخفی h وجود دارد. این لایۀ مخفی کدی را توصیف می‌کند که برای نمایش ورودی‌ها استفاده می‌شود. اتوانکدر از یک تابع کدکننده و یک مبدل کد تشکیل شده است [41].

(2)

 

(3)

 

(4)

 

یکی از راه‌های به دست آوردن ویژگی‌های مفید از اتوانکدر، محدودکردن h به داشتن ابعاد کوچک‌تر از x است. اتوانکدری که ابعاد کد آن کوچک‌تر از ابعاد ورودی آن باشد را ناکامل گویند. یادگیری ناکامل باعث می‌شود اتوانکدر برجسته‌ترین ویژگی‌های داده‌های آموزشی را انتخاب کند. روند آموزش را می‌توان به سادگی با مینیمم‌کردن تابع زیان زیر نشان داد:

(5)

 

L تابع زیان که معمولاً تابعی مانند میانگین مربعات خطا است، g(f(x)) را برای ناهمسانی با x جریمه می‌کند. در صورتی که ظرفیت مناسب برای اتوانکدر انتخاب شود ویژگی‌های بارز داده‌های آموزش را استخراج می‌کند. اتوانکدر پراکنده، اتوانکدری است که علاوه بر خطای بازسازی، یک عامل جریمه پراکندگی در لایۀ کد h دارد [37].

(6)

 

g(h)، خروجی مبدل کد و معمولاً h(f(x)) خروجی کدکننده‌اند. اتوانکدرهای پراکنده معمولاً برای یادگیری ویژگی‌ها برای انجام کار دیگری مانند دسته‌بندی استفاده می‌شوند. اتوانکدری که برای پراکنده‌بودن تنظیم شده است باید به ویژگی‌های منحصربه‌فرد آماری مجموعۀ داده‌ها پاسخ دهد. به این ترتیب آموزش‌دیدن برای کپی‌کردن با عامل جریمه پراکندگی موجب ساخت مدلی می‌شود که ویژگی‌های مفید را به‌عنوان نتیجۀ جانبی یاد می‌گیرد.

می‌توان عامل جریمه (h)Ω را مانند رابطۀ تنظیم‌کننده در نظر گرفت که به شبکۀ پیشخور اضافه شده و وظیفۀ اصلی آن کپی‌کردن ورودی در خروجی است که احتمالاً برخی وظایف نظارت‌شده را انجام می‌دهد که به این ویژگی‌های پراکنده بستگی دارد. میانگین فعالیت نورون لایۀ مخفی jام در مجموعۀ آموزش از رابطه زیر به دست می‌آید:

(7)

 

(8)

 

𝜌 پارامتر پراکندگی است و معمولاً مقدار آن کوچک و نزدیک به صفر است. برای انجام‌شدن این قید، فعال‌سازی نورون‌های لایۀ مخفی باید در نزدیکی صفر باشد. برای دستیابی به آن، عامل جریمه به تابع هدف بهینه‌سازی اضافه می‌شود. عامل جریمه به شکل زیر در تابع هدف قرار می‌گیرد:

(9)

 

s2 تعداد نورون‌های لایۀ مخفی است. عبارت جریمه براساس واگرایی KL[ix] است.

(10)

 

(11)

 

مینیمم‌کردن این عبارت جریمه باعث نزدیک‌شدن به می‌شود.

تابع هدف کل برابر است با:

(12)

 

که:

(13)

 

در روابط فوق نخستین عبارت در تعریف j(W,b) میانگین مجموع مربعات خطا است. عبارت دوم عبارت تنظیم‌کننده است که تمایل به کاهش شدت وزن‌ها دارد و به جلوگیری از overfit کمک می‌کند. پارامتر تنظیم‌کنندۀ 𝜆 رابطۀ بین دو عبارت نخست را کنترل می‌کند. J(W,b;x(i),y(i)) مربعات خطا نسبت به یک نمونه است.  به وزن و بایاس وابسته است؛ زیرا  میانگین فعالیت نورون j در لایۀ مخفی است و فعالیت نورون وابسته به وزن و بایاس است.

می‌توان از اتوانکدرهای به‌هم‌چسبیده برای استخراج ویژگی‌ها استفاده کرد. این اتوانکدرها ویژگی‌های ورودی‌ها را به‌صورت بدون نظارت یاد می‌گیرند. درحقیقت روش استفاده‌شده در این مقاله ترکیب آموزش بدون نظارت و آموزش نظارت‌شده به‌منظور کاهش خطای پیش‌بینی است. استفاده از این روش برای استخراج ویژگی‌ها علاوه بر این که باعث انتخاب ویژگی‌های مؤثرتر برای آموزش مدل و حذف ویژگی‌های کم‌اثر می‌شود، موجب کاهش ابعاد ورودی‌ها و افزایش سرعت یادگیری مدل اصلی می‌شود. ساختار این اتوانکدرها در شکل (3) نشان داده شده است.

شکل (3): ساختار اتوانکدرهای پراکنده به‌هم‌چسبیده

2-3- آموزش مدل‌های پیش‌بینی

2-3-1- مدل رگرسیون بردار پشتیبان[x]

رابطۀ زیر را در نظر بگیرید [42]:

(14)

 

 تبدیل ثابت فضای ویژگی‌ها و b بایاس است. می‌توان از ماشین‌های بردار پشتیبان با حفظ ویژگی پراکندگی، برای حل مسائل رگرسیون استفاده کرد.

در رگرسیون خطی ساده تابع خطای تنظیم‌شده زیر مینیمم می‌شود:

(15)

 

برای به دست آوردن حل پراکنده، تابع خطای درجۀ دو، تابع خطای غیرحساس به پارامتر [xi]𝜀 است. وقتی >0 𝜀 باشد، اگر قدر مطلق تفاضل پاسخ پیش‌بینی‌شده y(x) و پاسخ مطلوب t از 𝜀 کوچک‌تر باشد، خروجی تابع خطا برابر با صفر خواهد بود. یک مثال ساده تابع خطای غیرحساس به پارامتر 𝜀 در رابطۀ زیر آمده است.

(16)

 

درنتیجه تابع خطای تنظیم‌شدۀ زیر باید مینیمم شود:

(17)

 

y(x) از رابطه (14) به دست می‌آید و C معکوس پارامتر تنظیم‌کننده است. می‌توان مسئلۀ بهینه‌سازی را با استفاده از متغیرهای کمکی بازنویسی کرد. برای هر نقطه از داده‌ها xn دو متغیر کمکی و نیاز است. مربوط به نقاطی است که  و  مربوط به نقاطی است که  است و در شکل (4) نشان داده شده‌اند.

شرط لازم برای آنکه نقطه خروجی مطلوب در منطقۀ 𝜀 قرار گیرد برابر است با:

(18)

 

معرفی متغیرهای کمکی اجازه می‌دهد تا نقاط خارج از منطقۀ 𝜀 متغیرهای کمکی غیرصفر با شرایط زیر تولید کنند:

(19)

 

(20)

 

 

شکل (4):نمایش رگرسیون بردار پشتیبان و منحنی رگرسیون با منطقۀ غیرحساس به پارامتر 𝜀 و نمونه‌هایی از متغیرهای کمکی  و [42]

تابع خطای رگرسیون بردار پشتیبان به شکل زیر نوشته می‌شود [38]:

(21)

 

که باید نسبت به قیود (19) و (20)، و مینیمم شود. این کار با انتخاب چهار ضریب لاگرانژ برای هر یک از چهار قیود و استفاده از بهینه‌سازی لاگرانژ ممکن می‌شود. ضرایب لاگرانژ، ،  و  هستند و تابع لاگرانژ به‌صورت زیر است:

(22)

 

با جای‌گذاری رابطه (14) در تابع لاگرانژ فوق و مشتق‌گیری از آن نسبت به w، b،  و  و مساوی صفر قراردادن مشتق‌ها روابط زیر به دست می‌آید:

(23)

 

(24)

 

(25)

 

(26)

 

با استفاده از این نتایج برای حذف متغیرهای مربوطه در تابع لاگرانژ، مسئلۀ فرمول‌بندی دوبخشی با ماکزیمم‌کردن تابع لاگرانژ زیر نسبت به و و استفاده از تعریف تابع کرنل حاصل می‌شود:

(27)

 

این مسئله ماکزیمم‌کردن مقید است و برای یافتن قیود، روابط (24)-(26) و قیود زیر لازم است:

(28)

 

(29)

 

(30)

 

(31)

 

(32)

 

(33)

 

با جای‌گذاری رابطه (23) در رابطه (14)، پیش‌بینی برای داده‌های جدید با استفاده از رابطۀ زیر ممکن می‌شود:

(34)

 

شرایط KKT متناسب با این مسئله برابر است با [38]:

(35)

 

(36)

 

(37)

 

(38)

 

از روابط فوق نتایج مفیدی به دست می‌آید. نخستین نکته اینکه ضریب an فقط وقتی غیرصفر است که  شود که شامل نقاطی در داده‌هاست که روی کران بالای منطقۀ 𝜀 یا بالای آن قرار دارند.

به‌طور مشابه ضریب فقط وقتی  باشد، غیرصفر است و شامل نقاطی در داده‌ها است که روی کران پایین منطقۀ 𝜀 یا پایین آن قرار دارند. علاوه بر این، قیود  و با یکدیگر در تضادند. بردارهای پشتیبان آن نقاطی در مجموعه داده‌ها هستند که در پیش‌بینی داده‌های جدید با استفاده از رابطه (34) مشارکت می‌کنند، یا به عبارتی، نقاطی در داده‌ها که برای آنها  یا  باشد. این نقاط، نقاطی‌اند که روی کران‌های منطقۀ 𝜀 یا خارج از آن قرار دارند. برای تمامی نقاط داخل منطقۀ 𝜀، است. برای حل این مسئله راه‌حل پراکنده وجود دارد و تنها قسمتی که باید در رابطه (34) ارزیابی شود، قسمتی است که بردارهای پشتیبان را شامل می‌شود.

با در نظر گرفتن نقاطی که برای آنها باشد و با توجه به رابطه (37)،  برابر صفر داشته باشند، با توجه به رابطه (35)، عبارت برایشان برقرار باشد، در این صورت می‌توان رابطۀ بایاس را پیدا کرد. با استفاده از رابطه (23) می‌توان نوشت:

(39)

 

با در نظر گرفتن نقاطی که برای آنها باشد نتیجۀ مشابهی به دست می‌آید. بهتر است از تمام تخمین‌هایی از b مانند رابطه (39) میانگین گرفته شود.

مانند دسته‌بندی، برای رگرسیون نیز روش فرمول‌بندی دیگر وجود دارد. معمولاً به جای ثابت‌کردن عرض ناحیۀ غیرحساس، پارامتری مانند 𝜈 ثابت می‌شود که نقاط خارج از منطقۀ 𝜀 را مقید می‌کند. این روند شامل ماکزیمم‌کردن مقید تابع لاگرانژ زیر است [42].

(40)

 

(41)

 

(42)

 

(43)

 

(44)

 

می‌توان نشان داد حداکثر نقطه در داده‌ها بیرون از ناحیۀ غیرحساس قرار می‌گیرد؛ در حالی که حداقل نقطه در داده‌ها بردارهای پشتیبان‌اند که می‌توانند درون ناحیه غیرحساس یا بیرون آن قرار داشته باشند.

 

2-4- محاسبۀ خطای پیش‌بینی

برای ارزیابی دقت پیش‌بینی باید خطای پیش‌بینی محاسبه شود. شاخص‌های استاندارد محاسبۀ خطا شامل میانگین مربعات خطا، جذر میانگین مربعات خطا، میانگین خطای مطلق، میانگین قدر مطلق درصد خطا و خطای R2 است.

1) میانگین مربعات خطا

اگر برداری شامل n پیش‌بینی باشد و Y برداری شامل n مقدار مطلوب متناسب با پیش‌بینی‌های باشد، میانگین مربعات خطا برابر است با:

(45)

 

2) جذر میانگین مربعات خطا

اگر برداری شامل n پیش‌بینی باشد و Y برداری شامل n مقدار مطلوب متناسب با پیش‌بینی‌های باشد، جذر میانگین مربعات خطا برابر است با:

(46)

 

در نتیجه جذر میانگین مربعات خطا برابر است با:

(47)

 

3) میانگین خطای مطلق

اگر برداری شامل n پیش‌بینی باشد و Y برداری شامل n مقدار مطلوب متناسب با پیش‌بینی‌های باشد، میانگین خطای مطلق برابر است با:

(48)

 

4) میانگین قدرمطلق درصد خطا:

فرض کنید yn مقدار پیش‌بینی‌شده و tn مقدار مطلوب قیمت برق باشد، مقدار میانگین tn به‌صورت زیر تعریف می‌شود:

(49)

 

درصد خطا به‌صورت زیر تعریف می‌شود:

(50)

 

و درصد مطلق خطا برابر است با:

(51)

 

بنابراین میانگین قدرمطلق درصد خطا به‌صورت زیر است [43]:

(52)

 

5) خطای R2:

فرض کنید برداری شامل n پیش‌بینی باشد و Y برداری شامل n مقدار مطلوب متناسب با پیش‌بینی‌های باشد، مجموع مربعات کل و باقیماندۀ مجموع مربعات برابر است با:

(53)

 

(54)

 

درنتیجه خطای مربعات R به‌صورت زیر تعریف می‌شود:

(55)

 

فلوچارت روش پیشنهادی در مرحلۀ پیش‌بینی در شکل (5) نمایش داده شده است.

 

شکل (5): فلوچارت روش پیشنهادی در پیش‌بینی

3- نتایج شبیه‌سازی

3-1- پیش‌پردازش

همان‌گونه که در بخش 2-1- اشاره شد، اطلاعات پایگاه داده برای شبیه‌سازی روش پیشنهادی مربوط به سال 2005 و 2006 بازار استرالیا است [45]. در بخش‌های قبل اشاره شد که داده‌های روز یکم ژانویه 2005 تا سی‌ویکم دسامبر 2005 برای آموزش مدل‌ها و داده‌های مربوط به ماه ژانویه سال 2006 برای آزمایش مدل‌ها استفاده شده‌اند. در شبیه‌سازی‌های انجام‌شده در این مقاله، حد زیاد قیمت $/MWh150 در نظر گرفته شده است. به این ترتیب قیمت‌های بیشتر از آن و ورودی‌های آنها مجموعه آموزش ثانویه خواهند ساخت. نتایج جداسازی جهش‌های قیمت در شکل (6) نمایش داده شده‌اند.

 

شکل (6): جداسازی مجموعه‌های آموزش

در روش ارائه‌شده در این مقاله، استخراج ویژگی‌ها که حاصل آن انتخاب ویژگی‌های بارز در ورودی‌ها و حذف ویژگی‌های کم‌اثر است، موجب کاهش ابعاد ورودی‌ها می‌شود. این کار همچنین موجب افزایش سرعت یادگیری مدل‌های پیش‌بینی می‌شود. برای استخراج ویژگی‌ها و کاهش ابعاد ورودی‌ها از اتوانکدرهای پراکنده متصل‌به‌هم استفاده شده است. یکی از راه‌های به دست آوردن ویژگی‌های مفید از اتوانکدر، محدودکردن آن به داشتن ابعاد کد کوچک‌تر است. اتوانکدرهای استفاده‌شده در این مقاله اتوانکدرهای ناکامل، پراکنده و تنظیم‌شده هستند. ورودی اتوانکدر اول ستون‌های ماتریس شامل ورودی‌های نامبرده شده است و ورودی اتوانکدر دوم ویژگی‌های استخراج‌شده از ماتریس ورودی اتوانکدر اول است. مشخصات آموزش اتوانکدرهای به‌هم‌چسبیده در جدول (1) نمایش داده شده‌اند.

جدول (1): مشخصات اتوانکدرهایاستفاده‌شده در شبیه‌سازی

شماره اتوانکدر

1

2

تعداد نورون‌های لایه مخفی

14

10

تنظیم‌کنندۀ وزن L2

001/0

001/0

تنظیم‌کنندۀ پراکندگی

4

4

اندازۀ پراکندگی

05/0

05/0

تابع انتقال مبدل کد

خطی

خطی

تغییر ابعاد داده‌ها

ندارد

دارد

3-2- آموزش مدل‌های پیش‌بینی

مدل‌های پیش‌بینی‌کننده براساس ماشین‌های بردار پشتیبان، با استفاده از توابع کرنل خطی، چندجمله‌ای و گوسی آموزش داده شده‌اند. نتایج شبیه‌سازی با استفاده از روش پیشنهادی در جدول (2) و نتایج مشابه با استفاده از بردارهای پشتیبان (بدون پیش‌پردازش، تفکیک داده‌های آموزش و پردازش روی خروجی مدل‌ها) در جدول (3) نشان داده شده‌اند.

 

 

 

جدول (2): نتایج آموزش مدل‌های پیش‌بینی با استفاده از روش پیشنهادی

مدل

کرنل خطی

کرنل گوسی متوسط[xii]

کرنل گوسی سخت[xiii]

گرنل گوسی[xiv]

کرنل چند جمله‌ای[xv]

MSE

4/46

43/22

62/42

81/69

87/20

RMSE

81/6

73/4

52/6

35/8

56/4

R-squared

84/0

82/0

88/0

78/0

80/0

MAE ($/MWh)

43/4

18/3

97/3

30/3

44/3

زمان آموزش (ثانیه)

04/855

60/525

44/342

66/162

86/196

 

 

جدول (3): نتایج آموزش مدل‌های پیش‌بینی با استفاده از ماشین‌های بردار پشتیبان بدون استفاده از روش پیشنهادی

مدل

کرنل خطی

کرنل گوسی متوسط

کرنل گوسی سخت

گرنل گوسی

کرنل چندجمله‌ای

MSE

29/69

73/24

91/55

65/77

71/21

RMSE

32/8

97/4

48/7

81/8

65/4

R-squared

87/0

95/0

89/0

85/0

84/0

MAE ($/MWh)

34/6

16/6

67/5

67/6

54/5

زمان آموزش (ثانیه)

35/842

59/563

382

1399

1882

 

با مقایسۀ نتایج جدول (2) و جدول (3) درمی‌یابیم بهترین تابع کرنل برای آموزش مدل تخمین قیمت برق با استفاده از ماشین‌های بردار پشتیبان، کرنل چندجمله‌ای است. علاوه بر این، این مدل زمان آموزش نسبتاً مناسبی دارد. نمودار مدل پیش‌بینی با کرنل چندجمله‌ای به مجموعه داده‌های آموزش در شکل (7) و نمودار رگرسیون آن در شکل (8) نمایش داده شده است.

در مدل‌های آماری، تحلیل رگرسیون، فرآیند آماری برای تخمین روابط بین متغیرها است. این روش شامل تکنیک‌های زیادی برای مدل‌سازی و تحلیل متغیرهای خاص و منحصربه‌فرد، با تمرکز بر رابطۀ بین متغیر وابسته و یک یا چند متغیر مستقل است. تحلیل رگرسیون در فهم این کمک می‌کند که چگونه مقدار متغیر وابسته با تغییر هرکدام از متغیرهای مستقل و با ثابت‌بودن دیگر متغیرهای مستقل تغییر می‌کند.

 

شکل (7): پاسخ مدل آموزش‌دیده با استفاده از تابع کرنل چندجمله‌ای به داده‌های آموزش

 

شکل (8): نمودار رگرسیون مدل آموزش‌دیده با تابع کرنل چندجمله‌ای

بیشترین کاربرد تحلیل رگرسیون تخمین امید ریاضی شرطی متغیر وابسته از متغیرهای مستقل معین است که معادل مقدار متوسط متغیر وابسته است، وقتی که متغیرهای مستقل ثابت‌اند. کمترین کاربرد آن تمرکز بر چندک یا پارامتر مکانی توزیع شرطی متغیر وابسته از متغیر مستقل معین است. در همۀ موارد، هدف، تخمین یک تابع از متغیرهای مستقل است که تابع رگرسیون نامیده شده است. در تحلیل رگرسیون، تعیین پراکندگی متغیر وابسته اطراف تابع رگرسیون شایان توجه است که با توزیع احتمال توضیح داده می‌شود. در نمودارهای رگرسیون در این مقاله، متغیر مستقل مقادیر واقعی قیمت برق و متغیر وابسته قیمت‌های پیش‌بینی شده‌اند. هرچه تعداد بیشتری از دایره‌های مشکی روی خط آبی رنگ قرار گیرند، پیش‌بینی بهتری انجام شده است.

با مقایسۀ نتایج جدول (2) با جدول (3) نتیجه می‌گیریم لقب567 روش پیشنهادی موجب کاهش میانگین قدرمطلق درصد خطا و بهبود نتایج پیش‌بینی‌شده است. نتایج به‌دست‌آمده نشان می‌دهند به جز بردار پشتیبان با کرنل خطی، برای باقی مدل‌های بردار پشتیبان استفاده از روش پیشنهادی در این مقاله علاوه بر کاهش خطا موجب افزایش سرعت آموزش مدل‌ها شده است.

برای مقایسۀ دقت مدل پیشنهادی، از شبکۀ عصبی پیش‌خور دولایه استفاده شده است. در این مدل داده‌های ورودی، ویژگی‌های انتخاب‌شدۀ اتوانکدرها و هدف، قیمت برق است. مقایسۀ نتایج آموزش شبکۀ عصبی با بهترین مدل ماشین بردار پشتیبان یعنی مدل با تابع کرنل چندجمله‌ای، در جدول (4) نشان داده شده است.

برای مقایسۀ بیشتر نتایج از مرجع شماره [44] در پیش‌بینی ماه - پیش قیمت ساعتی برق در بازار استرالیا استفاده شده است. داده‌های آموزش مربوط به سال 2005 در بازار استرالیا و داده‌های آزمایش مربوط به ماه ژانویه سال 2006 است. نتایج جدول (4) توانایی روش پیشنهادی را در کاهش مقدار خطای پیش‌بینی در مقایسه با روش مرجع [44] نشان می‌دهند. شکل (9) عملکرد شبکۀ عصبی در مینیمم‌کردن خطای مدل و شکل (10) نمودار رگرسیون آن در سه مرحلۀ آموزش، اعتبارسنجی و آزمایش را نشان می‌دهد.

 

جدول (4): مقایسۀ نتایج مدل‌های شبکۀ عصبی و بردار پشتیبان

مدل

MSE

MAPE(%)

توپولوژی ترکیبی موازی شبکۀ عصبی [44]

11/4

42/1

مدل ترکیبی با بردار پشتیبان با کرنل چندجمله‌ای (روش پیشنهادی)

21/1

11/1

مدل ترکیبی با شبکۀ عصبی (روش پیشنهادی)

23/3

99/1

 

 

شکل (9): عملکرد شبکۀ عصبی در مینیمم‌کردن خطا

 

شکل (10): نمودارهای رگرسیون شبکۀ عصبی

نتایج پیش‌بینی قیمت برق برای ماه ژانویه با مدل‌های جدول (4) به‌ترتیب در شکل‌های (11) و (12) نشان داده شده‌اند. با مقایسۀ مقادیر جدول (4) و نمودارهای (11) و (12) به این نتیجه می‌رسیم که مدل ترکیبی پیشنهادی با استفاده از ماشین‌های بردار پشتیبان با کرنل چندجمله‌ای بهترین عملکرد را در پیش‌بینی ماه - پیش قیمت برق داشته است.

 

شکل (11): نتایج واقعی و پیش‌بینی‌شده برای ماه ژانویه 2006 با استفاده از مدل ترکیبی پیشنهادی با بردار پشتیبان

 

شکل (12): نتایج واقعی و پیش‌بینی‌شده برای ماه ژانویه 2006 با استفاده از مدل ترکیبی با شبکۀ عصبی

4- نتیجه‌گیری

در این مقاله روش ترکیبی پیش‌بینی میان‌مدت قیمت برق براساس روش‌های یادگیری ماشین ارائه شده است. روش پیشنهادی در این مقاله برای آموزش مدل‌های پیش‌بینی، ترکیب آموزش نظارت‌نشده و آموزش نظارت‌شده است. برای مقایسۀ نتایج به‌دست‌آمده در این مقاله با سایر کارهای مشابه، روش پیشنهادی با نتایج به‌دست‌آمده از روش ترکیب توپولوژی‌های مختلف شبکۀ عصبی مصنوعی مقایسه شده است و نتایج به‌دست‌آمده نشان می‌دهند در پیش‌بینی میان‌مدت ماه - پیش استفاده از مدل ترکیبی با بردار پشتیبان دقت بیشتری دارد. نتایج شبیه‌سازی با استفاده از روش پیشنهادی حاکی از این است که این روش علاوه بر مؤثربودن در کاهش شایان توجه خطای پیش‌بینی، موجب افزایش سرعت آموزش مدل‌ها نیز می‌شود. با توجه به اهمیت دقت پیش‌بینی در مطالعات میان‌مدت، روش پیشنهادی می‌تواند به‌عنوان ابزاری توانمند استفاده شود. در ادامه این مطالعه، استفاده از روش‌های بهینه‌سازی برای محاسبۀ مقادیر بهینه پارامترهای ماشین بردار پشتیبان همزمان با استفاده از آموزش بدون نظارت پیشنهاد می‌شود. پیشنهاد دیگر، استفاده همزمان از آموزش بدون نظارت و شبکۀ عصبی مصنوعی پیچیده همراه با ترکیب چندین پیش‌بینی است. استفاده از مدل‌های یادگیری ماشین برای تولید چندین پیش‌بینی، انتخاب بهترین پیش‌بینی‌ها و ترکیب آنها نیز کاری است که می‌توان در ادامه این پژوهش به آن پرداخت.



[1] تاریخ ارسال مقاله : 11/01/1397

تاریخ پذیرش مقاله : 24/05/1397

نام نویسنده مسئول : مجید معظمی

نشانی نویسنده مسئول : ایران - اصفهان- نجف‌آباد - بلوار دانشگاه- دانشگاه آزاد اسلامی - واحد نجف‌آباد - دانشکده مهندسی برق



[i] Least Squares Support Vector Machine

[ii] Fuzzy Time Series

[iii] Global Harmony Search Algorithm

[iv] Beveridge-Nelson Decomposition

[v] Fruit Fly Optimization Algorithm

[vi] Bootstrap

[vii] Nonlinear Conditional Heteroscedastic Forecasting

[viii] quantGAM

[ix] Kullback-Leibler Divergence

[x] Support Vector Machine Regression

[xi] ε-insensitive

[xii] Medium Gaussian

[xiii] Coarse Gaussian

[xiv] Fine Gaussian

[xv] Polynomial

[1] A.Motamedi, H. Zareipour, andW. D. Rosehart, “Electricity price and demand forecasting in smart grids,” IEEE Trans. Smart Grid, vol. 3, No 2., pp. 664–674, Jun. 2012.

[2] M. Shahidehpour, H. Yamin, Z. Li, “Market Operations in Electric Power Systems, Tarbiat modares university, 1384.

[3] I.I.Nadtokaa, M. Al-Zihery Balasim, “Mathematical modeling and short-term forecasting of electricity consumption of the power system, with due account of air temperature and natural illumination, based on support vector machine and particle swarm,”, Elsevier International Conference on Industrial Engineerin 2015.

[4] X. Yan ,N.A. Chowdhury “Mid-term electricity market clearing price forecasting using multiple least squares support vector machines,”, IET Generation, Transmission & Distribution, Vol. 8, No. 9, pp-1572-1582, Sept. 2014.

[5] Y.H. Chen, W.C. Hong, W. Shen, N.N. Huang, “Electric Load Forecasting Based on a Least Squares Support Vector Machine with Fuzzy Time Series and Global Harmony Search Algorithm,”, MDPI energies, Vol. 9, No. 2, pp. 1-13, January 2016.

[6] W. Guo, Z. Zhao, “A Novel Hybrid BND-FOA-LSSVM Model for Electricity Price Forecasting,”, MDPI Information, Vol. 8, No. 4, pp. 1-16,  September 2017.

[7] P.H. Kuo, C.J. Huang, “An Electricity Price Forecasting Model by Hybrid Structured Deep Neural Networks,”, MDPI Sustainability, Vol. 10, No. 4, pp. 1-17, April 2018.

[8] M. Rafiei, T. Niknam, M. Khooban, "Probabilistic Forecasting of Hourly Electricity Price by Generalization of ELM for Usage in Improved Wavelet Neural Network," IEEE Trans. Industrial Informatics., Vol. 13, No. 1, pp. 71-79, Feb. 2017.

[9] R. Tahmasebifar, M. Sheikh-El-Eslami, R. Kheirollahi, "Point and interval forecasting of real-time and day-ahead electricity prices by a novel hybrid approach," IET Generation, Transmission & Distribution, Vol. 11, No. 9, pp. 2173-2183, June. 2017.

[10] B. Uniejewski, R. Weron and F. Ziel, "Variance Stabilizing Transformations for Electricity Spot Price Forecasting," IEEE Trans. Power Syst., Vol. 33, No. 2, pp. 2219-2229, March. 2018.

[11] A. Bello, D. W. Bunn, J. Reneses, A. Muñoz, "Medium-Term Probabilistic Forecasting of Electricity Prices: a Hybrid Approach," IEEE Trans. Power Syst., Vol. 32, No. 1, pp. 334-343, Jan. 2017.

[12] “Strategic research agenda for Europe’s electricity networks of the future,” 2007, EUR 22580, European Technology Platform SmartGrids.

[13] L. Zhang and P. B. Luh, “Neural network-based market clearing price prediction and confidence interval estimation with an improved extended Kalman filter method,” IEEE Trans. Power Syst., Vol. 20, No.1, pp. 59–66, Feb. 2005.

[14] J.H. Zhao, Z. Y. Dong, Z. Xu, andK. P. Wong, “Astatistical approach for interval forecasting of the electricity price,,” IEEE Trans. Powe Syst., Vol. 23, No. 2, pp. 267–276, May 2008.

[15] X. Chen, Z. Y. Dong, K. Meng, Y. Xu, K. P. Wong, and H. W. Ngan, “Electricity price forecasting with extreme learning machine and Bootstrapping,” IEEE Trans. Power Syst., Vol. 27, No. 4, pp. 2055–2062, Nov. 2012.

[16] K. Hornik, M. Stinchcombe, and H. White, “Multilayer feedforward networks are universal approximators,” Neural Netw., Vol. 2, No. 5, pp. 359–366, 1989.

[17] J. T. G.Hwang and A. A.Ding, “Prediction intervals for artificial neural networks,” J. Amer. Stat. Assoc., Vol. 92, No. 438, pp. 748–757, Jun. 1997.

[18] R. D. De Veaux, J. Schumi, J. Schweinsberg, and L. H. Ungar, “Prediction intervals for neural networks via nonlinear regression,” Technometrics, Vol. 40, No. 4, pp. 273–282, Nov. 1998.

[19] D. J. C. MacKay, “The evidence framework applied to classification networks,” Neural Comput., Vol. 4, No. 5, pp. 720–736, Sep. 1992.

[20] T. Heskes, “Practical confidence and prediction intervals,” NIPS'96 Proceedings of the 9th International Conference on Neural Information Processing Systems, Eds. Cambridge, MA, USA: MIT Press, 1997, Vol. 9, pp. 176–182.

[21] D. A. Nix and A. S.Weigend, “Estimating the mean and variance of the target probability distribution,” in Proc. IEEE Int. Conf. Neural Netw., Orlando, FL, USA, 1994, Vol. 1, pp. 55–60.

[22] R. Dybowski and S. J. Roberts, “Confidence intervals and prediction intervals for feed-forward neural networks,” in Clinical Applications of Artificial Neural Networks, R. Dybowski and V. Gant, Eds. Cambridge, U.K.: Cambridge Univ. Press, 2001, pp. 298–326.

[23] G. B. Huang, Q. Y. Zhu, and C.K. Siew, “Extreme learning machine: A newlearning scheme of feedforward neural networks,” in Proc. IJCNN, Budapest, Hungary, Jul. 25–29, 2004, Vol. 2, pp. 985–990.

[24] G. B. Huang, Q. Y. Zhu, and C. K. Siew, “Extreme learning machine: Theory and applications,” Neurocomputing, Vol. 70, No. 1–3, pp.489–501, Dec. 2006.

[25] L. Hu and G. Taylor, "A novel hybrid technique for short-term electricity price forecasting in UK electricity markets,"J. Int. Counc. Electr. Eng., Vol. 4, No. 2, pp. 114-120, 2014.

[26] S. Voronin and J. Partanen, "Forecasting electricity price and demand using a hybrid approach based on wavelet transform, ARIMA and neural networks," Int. J. Energy Res., Vol. 38, No. 5, pp. 626-637, 2014.

[27] P. Kou, D. Liang, L. Gao and J. Lou, "Probabilistic electricity price forecasting with variational heteroscedastic gaussian process and active learning," Energy Conversion and Management, Vol. 89, No. 0, pp. 298-308, 2015.

[28] N. A. Shrivastava and B. K. Panigrahi, "A hybrid wavelet-ELM based short term price forecasting for electricity markets," Int. J. Elec. Power & Energy. Syst., Vol. 55, pp. 41-50, 2014.

[29] K. He, Y. Xu, Y. Zou and L. Tang, "Electricity price forecasts using a curvelet denoising based approach," Physica A: Statistical Mechanics and its Applications, Vol. 425, pp. 1-9, 2015.

[30] C. Wan, M. Niu, Y. Song and Z. Xu, "Pareto optimal prediction intervals of electricity price," IEEE Trans. Power Syst. in press, 2016.

[31] F. Paraschiv, S. Fleten and M. Schürle, "A spot-forward model for electricity prices with regime shifts," Energy Econ., Vol. 47, pp. 142-153, 1 2015.

[32] P. Gaillard, Y. Goude and R. Nedellec, "Additive models and robust aggregation for GEFCom2014 probabilistic electric load and electricity price forecasting," Int. J. Forecast., 2016, in press.

[33] F. Ziel, "Forecasting electricity spot prices using lasso: On capturing the autoregressive intraday structure," IEEE Trans. Power Syst., 2016, in press.

[34] T. Hong, P. Pinson, S. Fan, H. Zareipour, A. Troccoli and R.J. Hyndman, "Probabilistic energy forecasting: Global energy forecasting competition 2014 and beyond," Int.J.Forecast. 2016.

[35] P. Gaillard, Y. Goude and R. Nedellec, "Additive models and robust aggregation for GEFCom2014 probabilistic electric load and electricity price forecasting," Int. J. Forecast., 2016, in press.

[36] F. Ziel, "Forecasting electricity spot prices using lasso: On capturing the autoregressive intraday structure," IEEE Trans. Power Syst., 2016, in press.

[37] Y. Yang, Y. Dong, Y. Chen and C. Li, "Intelligent optimized combined model based on GARCH and SVM for forecasting electricity price of New South Wales, Australia," in Abstr. Appl. Anal., Vol. 2014, Article ID 504064, 2014.

[38] X. Yan and N. A. Chowdhury, "Mid-term electricity market clearing price forecasting: A multiple SVM approach," Int. J. Elec. Power, Vol. 58, pp. 206-214, 2014.

[39] X. Yan and N. A. Chowdhury, "Hybrid SVM & ARMAX based mid-term electricity market clearing price forecasting," in IEEE Conf. Electrical Power & Energy Conference (EPEC), pp. 1-5, 2013.

[40] R. Weron, "Electricity price forecasting: A review of the state-of-the-art with a look into the future," Int.J.Forecast., Vol. 30, No. 4, pp. 1030-1081 2014.

[41] Goodfellow, L., Bengio, Y., Courville, A., Deep Learning, The MIT Press, November 18, 2016.

[42] Bishop, C. M., Pattern Recognition and Machine Learning, Springer, 2006.

[43] Osorio, G. J., Matis, J.C.O., Catalao, J.P.S., "Electricity prices forecasting by a hybrid evolutionary-adaptive methodology," Energy Conversion and Management, Vol.80, pp. 363–373, April. 2014.

[44] Hossam, M., El-Hawary, M., " Hourly Electricity Price Forecasting for the Next Month Using Multilayer Neural Network," IEEE Canadian journal of electrical and computer engineering, Vol.39, No. 4, pp. 283–291, December. 2016.

[45] (2015). The Australian Energy Market Operator (AEMO).