تحقیق علمی های ارشد - فول تکست

متن کامل پایان نامه را در سایت منبع fuka.ir می توانید ببینید

1-8-6) روش یا روشهای نمونه گیری....................................................................................................................................................................................... 15
1-8-7) روشهای مورد نظر برای تجزیه و تحلیل اطلاعات و آزمون فرضیه‌ها.........................................................................................................................15
1-9)تعریف واژهها و اصطلاحات تخصصی طرح..............................................................................................................................................................................17
فصل دوم:
2-1) مقدمه.............................................................................................................................................................................................................................................19
2-2) انواع داده ها.................................................................................................................................................................................................................................. 21
2-2-1 ) دادههای سری زمانی...............................................................................................................................................................................................................21
2-2-2) دادههای مقطعی........................................................................................................................................................................................................................21
2-2-3) دادههای پانل..............................................................................................................................................................................................................................22
2-3) مدلهای سری زمانی تک متغیره..............................................................................................................................................................................................22
2-4) مفاهیم مهم در تحلیل سریهای زمانی....................................................................................................................................................................................22
2-4-1) مانایی.........................................................................................................................................................................................................................................22
2-4-2 ) خودکوواریانس، خودهمبستگی و خودهمبستگی جزئی.................................................................................................................................................24
2-4-3) تابع خودهمبستگی و خودهمبستگی جزئی......................................................................................................................................................................24
2-4-4) فرآیند نوفهی سفید..............................................................................................................................................................................................................25
2-4-5 ) آمارهی Q...............................................................................................................................................................................................................................25
2-5) فرآیندهای خودرگرسیو(AR)....................................................................................................................................................................................................27
2-6) فرآیندهای میانگین متحرک (MA)........................................... ........................................................................................................................................28
2-7) فرآیندهای خودرگرسیو میانگین متحرک (ARMA) ........................................................................................................... .........................................28
2-8) مدلهای خودرگرسیو میانگین متحرک انباشته (ARIMA) ........................................................................................................... ................................30
2-9) مراحل ساخت مدلهای ARIMA........................................... ...............................................................................................................................................30
2-10 ) انواع نامانایی........................................... ..................................................................................................................................................................................31
2-11 ) آزمون ریشهی واحد........................................... .....................................................................................................................................................................32
2-12) معیارهای اطلاعاتی........................................... .......................................................................................................................................................................33
2-13) شبکههای عصبی مصنوعی........................................... ..........................................................................................................................................................33
2-13-1) نرونهای بیولوژیکی........................................... ................................................................................................................................................................33
2-13-2) سیر تاریخی شبکههای عصبی........................................... ...............................................................................................................................................34
2-13-3) کاربرد شبکههای عصبی........................................... ........................................................................................................................................................36
2-13-4) اجزا و ساختار شبکههای عصبی........................................... ...........................................................................................................................................38
2-13-5) مدل ریاضی نرونها..................................................................................................................................................................................................................40
2-13-6) الگوریتم پسانتشار خطا......................................................................................................................................................................................................44
2-13-7) معماری شبکههای پسانتشار..............................................................................................................................................................................................45
2-13-8) طراحی شبکهی عصبی..........................................................................................................................................................................................................45
2-13-9) الگوریتم یادگیری Levenberg- Marquardt.........................................................................................................................................................48
2-13-10) مزایا و معایب شبکهی عصبی...........................................................................................................................................................................................49
2-14) ماشین بردار پشتیبان............................................................................................................................................................................................................50
2-15) ماشین بردار پشتیبان دو کلاسه...............................................................................................................................................................................................52
2-16) ماشین بردار پشتیبان با حاشیه ثابت.......................................................................................................................................................................................54
2-17) ماشین بردار پشتیبان با حاشیه منعطف.................................................................................................................................................................................58
2-18) ماشین بردار پشتیبان چند کلاسه...........................................................................................................................................................................................59
2-19)رویکرد طبفه بندی غیر خطی در ماشین بردار پشتیبان......................................................................................................................................................60
2-20) رگرسیون بردار پشتیبان.............................................................................................................................................................................................................63
2-20-1) رگرسیون خطی بردارپشتیبان..............................................................................................................................................................................................63
2-20-2) رگرسیون غیرخطی بردار پشتیبان......................................................................................................................................................................................66
2-21) مزایا و معایب ماشین بردار پشتیبان........................................................................................................................................................................................67
2-22) شبکههای عصبی و عملکردهای متفاوت...............................................................................................................................................................................68
2-23) مروری بر مطالعات ترکیبی......................................................................................................................................................................................................73
فصل سوم:
3-1) مقدمه79
3-2) فرضیههای تحقیق79
3-3) متغیرهای تحقیق و نحوه گردآوری دادهها80
3-4) دورهی زمانی انجام تحقیق و روش نمونه گیری80
3-5) برازش مدل خودرگرسیو میانگین متحرک انباشته(ARIMA)80
3-6) برازش شبکهی عصبی مصنوعی83
3-7) مدل ترکیبی84
3-7-1) شرح مدل ترکیبی85
3-7-2) برازش مدل ترکیبی86
3-8) مقایسهی عملکرد و آزمون فرضیه87
3-9) آزمون دایبولد- ماریانو...................................................................................................................................................................................................................87
3-10) جمع بندی...................................................................................................................................................................................................................................89
فصل چهارم:
4-1) مقدمه................................................................................................................................................................................................................................................91
4-2) بررسی مانایی بازدههای لگاریتمی...............................................................................................................................................................................................92
4-3)محاسبهی معیار میانگین مجذور خطا.........................................................................................................................................................................................93
4-4) محاسبهی تابع زیان قدر مطلق درصد خطا...............................................................................................................................................................................96
4-5) آزمون فرضیههای تحقیق......................................................................................................................................................................................................100
فصل پنجم:
5-1) نتیجهگیری............................................................................................................................................................................................................116
5-2) پیشنهادات برای تحقیقات آتی............................................................................................................................................................................118
منابع و مآخذ
منابع داخلی.....................................................................................................................................................................................................................119
منابع خارجی.....................................................................................................................................................................................................................121

فهرست اشکال
TOC h z t "جدول,1" شکل 2-1) ساختار پایهای شبکهی عصبی........................................................................................................................................................................................38
شکل 2-2) نرون با یک ورودی عددی..............................................................................................................................................................................................40
شکل 2-3) شبکه تک لایه با چندین نرون و بردار ورودی.................................................................................................................... ......................................43
شکل 2-4) شبکههای عصبی با چندین لایه و چندین نرون.......................................................................................................................................................43
شکل 2-5) شبکهی عصبی پیشخور با تابع فعال سازی تانژانت هیپربولیک..........................................................................................................................45
شکل2-6) طبقه بندی کلاس داده ها توسط ماشین بردار پشتیبان.............................................................................................................................................53
شکل 2-7) طبقه بندی بهینه کلاس داده ها توسط ماشین بردار پشتیبان.................................................... ...........................................................................54
شکل2-8) ماشین بردار پشتیبان با حاشیه ثابت.............................................................................. ...............................................................................................55
شکل2-9) فرآیند ماشین بردار پشتیبان............................................................................................................ ...............................................................................57
شکل 2-10) ماشین بردار پشتیبان با حاشیه نرم..................................................................... .....................................................................................................59
شکل 2-11) طبقه بندی غیر خطی ماشین بردارپشتیبان.................................................. .........................................................................................................60
شکل 2-12) تابع ضرر وپنیک و متغیرهای slack.................................................. ......................................................................................................................64

فهرست جداول
TOC h z t "نمودار,1" جدول 4-1) آزمون دیکی و فولر برای بازده لگاریتمی سری زمانی شاخص کل........................................................................................................................94
جدول 4-2) قدرمطلق خطا برای مقایسه مدل ترکیبی آریما و شبکه عصبی با هر یک از اجزای تشکیل دهنده............................................................95
جدول 4-3) قدر مطلق خطا برای مقایسه مدل ترکیبی آریما و رگرسیون بردار پشتیبان با هریک از اجزای تشکیل دهنده.......................................97
جدول 4-4)قدرمطلق درصد خطا برای مقایسه مدل ترکیبی آریما و شبکه عصبی با هر یک از اجزای تشکیل دهنده..................................................99
جدول 4-5) قدرمطلق درصدخطا برای مقایسه مدل ترکیبی آریماورگرسیون بردار پشتیبان با هریک ازاجزای تشکیل دهنده...................................100
جدول 4-6) آزمون مقایسه زوجی مدل ترکیبی آریما و شبکه عصبی با آریما(قدرمطلق خطا) ......................................................................................102
جدول 4-7) آزمون مقایسه زوجی مدل ترکیبی آریما و شبکه عصبی با شبکه عصبی(قدرمطلق خطا) ......................................................................105
جدول 4-8) آزمون دایبولد-ماریانو و آماره تعدیل شده برای مقایسه مدل ترکیبی آریما و شبکه عصبی با هر یک بطور مجزا(قدر مطلق خطا)104
جدول 4-9) آزمون مقایسه زوجی مدل ترکیبی آریما و شبکه عصبی با آریما (قدرمطلق درصد خطا) .........................................................................105
جدول 4-10) آزمون مقایسه زوجی مدل ترکیبی آریما و شبکه عصبی با شبکه عصبی(قدرمطلق درصدخطا).........................................106
جدول 4-11) آزمون دایبولد-ماریانو و آماره تعدیل شده برای مقایسه مدل ترکیبی آریما و شبکه عصبی با هر یک بطور مجزا(قدر مطلق درصد خطا).............................. .............................................. ................................ .............................................................................................................................107
جدول 4-12) آزمون مقایسه زوجی مدل ترکیبی آریما و رگرسیون بردار پشتیبان با آریما( قدر مطلق خطا)..............................................................................................................................................................................................................................108
جدول4-13) آزمون مقایسه زوجی مدل ترکیبی آریما و رگرسیون بردار پشتیبان با SVR( قدر مطلق خطا)........................................108
جدول4-14) آزمون دایبولد-ماریانو و آماره تعدیل شده برای مقایسه مدل ترکیبی آریما و SVR با هر یک بطور مجزا(قدر مطلق خطا)............................................................................................................................................................................................................................109
جدول 4-15) آزمون مقایسه زوجی مدل ترکیبی آریما و رگرسیون بردار پشتیبان با آریما( قدر مطلق درصد خطا)..........................112
جدول 4-16) آزمون مقایسه زوجی مدل ترکیبی آریما و شبکه عصبی با شبکه عصبی( قدر مطلق خطا)............................................112
جدول4-17) آزمون دایبولد-ماریانو و آماره تعدیل شده برای مقایسه مدل ترکیبی آریما و SVR با هر یک بطور مجزا(قدر مطلق
درصد خطا).................................................................................................................................................................................................................112
جدول 4-18) آزمون مقایسه زوجی دو مدل ترکیبی(قدر مطلق خطا)..........................................................................................................113
جدول4-19) آزمون دایبولد-ماریانو و آماره تعدیل شده برای مقایسه دو مدل ترکیبی(قدر مطلق خطا)..............................................114
جدول 4-20) آزمون مقایسه زوجی دو مدل ترکیبی( قدر مطلق درصد خطا)............................................................................................114
جدول4-21) آزمون دایبولد-ماریانو و آماره تعدیل شده برای مقایسه دو مدل ترکیبی(قدر مطلق درصد خطا).................................115
فصل اول:
طرح تحقیق
1-1) مقدمهسرمایه و نیروی انسانی از ارکان اصلی تولید هستند و تامین این عوامل و تخصیص بهینه آنها لازمه رشد اقتصادی است. این تخصیص مستلزم وجود بازار و عملکرد مطلوب نیروهای بازار است. دررابطه با سرمایه بازار بورس میتواند این وظیفه را بر عهده داشته باشد. مهمترین وظیفه بازار بورس، جذب سرمایههای پراکنده و هدایت آنها بسوی فعالیتهای سرمایهگذاری از طریق یک فرآیند تخصیص بهینه است.
نوسان قیمت سهام نیز در تمام بازارهای بورس امر طبیعی و عادی است، اما در هر صورت میتوان با یک پیشبینی از قیمت سهام ترکیبی مطلوب از آنها را انتخاب و نوسانها را کاهش داد. پیشبینی شاخصهای مهم بازار بورس میتواند گامی در جهت افزایش و شفاف نمودن اطلاعات در بازار سرمایه باشد.
پیشبینی شاخصهای بورس یا بازار سرمایه همواره مورد توجه مطالعات بوده است. این توجه در سالهای اخیر منجر به پیشرفت الگوهای مورد استفاده در پیشپیش‌بینی شده است. لیکن باید پیشبینی را مورد توجه قرار داد که با دقت بیشتری صورت گیرد و نسبت به نتایج واقعی مشاهده شده خطای کمتری داشته باشد.
پیشبینی سریهای زمانی یکی از مهمترین روشهای پیشبینی است که در آن از مشاهدات گذشتهی یک متغیر به منظور توسعهی مدل و پیشبینی در آینده استفاده میگردد. روشهای سری زمانی، درطول چند دهه گذشته توسعه بسیاری یافته اند، اما یکی از مهمترین و پرکاربردترین آنها مدل خودرگرسیو میانگین متحرک انباشته (ARIMA) میباشد که تحت عنوان روش باکس و جنکینز شناخته میشود.
خودرگرسیو میانگین متحرک انباشته (ARIMA) که خلاصه شده‌ی (Autoregressive Integrated Moving Average) می‌باشد، یکی از پرکاربردترین مدل‌ها در پیش‌بینی سری‌های زمانی در طول سه دهه‌ی گذشته بوده است، اما پیش‌فرض اصلی آن این است که رابطه‌ی خطی میان ارزش‌های سری برقرار باشد. بنابراین رابطه‌های غیرخطی بوسیله‌ی مدل خودرگرسیو میانگین متحرک انباشته نمی‌توانند خوب توضیح داده شوند.
یکی دیگر از روش‌های مورد استفاده در پیش‌بینی سری‌های زمانی شبکه‌ی عصبی است که توان تخمین روابط غیر‌خطی مختلفی را دارا می‌باشد (اصطلاحاً به شبکه‌ی عصبی تخمین زننده‌ی همگانی می‌گویند). اما استفاده از شبکه، طبق ادبیات تحقیق در روابط خطی نتایج پیچیده‌ای در بر داشته است.
نوع دیگر از روشهای پیشبینی سری زمانی رگرسیون بردار پشتیبان(SVR ) است. ماشین بردار پشتیبان، تابع رگرسیون را با به کارگیری یک دسته تابع خطی تخمین می زند و عملیات رگرسیون را با تابعی که انحراف از مقدار واقعی در آن به میزان کمتر از ɛ مجاز است انجام می دهد سپس با کمینه کردن ریسک ساختاری ، بهترین جواب را ارائه می دهد.[57]
بطور کلی باید به این نکته اشاره کرد که دانستن الگوی داده‌ها، مبنی بر خطی و غیرخطی بودن در دنیای واقعی کمی دشوار است و به ندرت سری‌های زمانی به طور خالص خطی و غیرخطی می‌باشند و اغلب از هر دو الگو تبعیت می‌کنند. بنابراین مسأله اینجاست که چگونه می‌توانیم قیمت پایانی و دامنه‌ی نوسان قیمت را با خطای کمتری پیش‌بینی کنیم؟
1-2) تشریح و بیان موضوع
در زمینه مدل‌سازی سریهای زمانی، روشهای متفاوتی مورد استفاده قرار می‌گیرد. مدل‌های سنتی مانند میانگین متحرک، هموارسازی نمایی و خودرگرسیو میانگین متحرک انباشته پیش‌بینی آینده را به روابط خطی از گذشته محدود می‌نمایند و الگوهای خطی را مدل سازی میکنند. از این مدل‌ها به دلیل سادگی در فهم و کاربرد در دهه‌های اخیر بسیار استفاده شده است. با وجود انعطاف پذیری بالای مدل خودرگرسیو میانگین متحرک انباشته در مدل سازی الگوهای خطی این مدل نمیتواند الگوهای غیر خطی را خوب مدل سازی کند.
به دلیل مشاهده الگوهای غیرخطی در دنیای واقعی یک سری از مدل‌های غیرخطی مانندARCH GARCH, ،TGARCH مطرح گردیدند. همگی این مدل‌ها، الگوهای غیرخطی بخصوصی را توضیح می‌دهند.
اما شبکه عصبی مجازی(ANN) توان و قدرت پیش‌بینی روابط غیرخطی را داراست و کاملاً انعطاف پذیر عمل می‌نماید. شبکههای عصبی مصنوعی از عناصر عملیاتی سادهای ساخته میشوند که به صورت موازی در کنار یکدیگر عمل میکنند. این عناصر که از سیستمهای عصبی زیستی الهام گرفته شدهاند، در تلاشاند که به صورت ناپارامتریک، مغز انسان را شبیه سازی نمایند. نکته حائز اهمیت در استفاده از مدل شبکه عصبی وجود نتایج متفاوت برای روابط خطی است. برای مثال مارکهام و راکس اذعان داشتند عملکرد شبکه عصبی برای مساله‌های رگرسیون خطی وابسته به اندازه نمونه و سطح شوک (Noise) می‌باشد. [53]
از طرفی ماشین بردار پشتیبان (SVM) به عنوان تکنیک نوین یکی از روشهای یادگیری ماشینی است که بر مبنای تئوری یادگیری آماری واپنیک در دهه 90 میلادی توسط واپنیک و همکارانش ارائه گردید. این روش از جمله روش‌های نسبتاً جدیدی است که در سال‌های اخیر کارایی خوبی نسبت به روش‌های قدیمی‌تر از جمله شبکه‌های عصبی پرسپترون نشان داده است. رگرسیون بردار پشتیبان این عمل را با تابعی که انحراف از مقدار واقعی در آن به میزان کمتر از ɛ مجاز است، انجام میدهد.
همانطور که ذکر شد با وجود مزایای متعدد، شبکه های عصبی با محدودیت هایی از جمله مدلسازی روابط خطی و همچنین نیازمند بودن به شمار بالای نمونه برای آموزش(به منظور انجام فرآیند یادگیری) مواجه میباشد. اما چون دانستن خصوصیات دادهها مبنی بر خطی و یا غیر خطی بودن در واقعیت کمی دشوار است و از طرفی به ندرت روابط کاملا خطی و یا کاملا غیر خطی مشاهده میشود، بنابراین این ایده به ذهن میرسد که ترکیب مدل خطی آریما با مدلهای غیر خطی شبکه عصبی پیشخور و ماشین بردار پشتیبان میتواند باعث بهبود دقت پیشبینی گردد.
در مدل ترکیبی سعی بر این داریم ابتدا روابط غیرخطی در پسماندها را با استفاده از شبکهی عصبی و رگرسیون بردار پشتیبان شناسایی کرده سپس پسماندهای بدست آمده را به مدل خودرگرسیو میانگین متحرک انباشته اضافه کنیم. با این ترکیب، بخش خطی بوسیله‌ی مدل خودرگرسیو میانگین متحرک انباشته و بخش غیرخطی بوسیله‌ی شبکه عصبی و رگرسیون بردار پشتیبان پیش‌بینی خواهد شد.
با عنایت به مطالبی که ذکر شد این سوال پیش میآید که کدامیک از مدلهای رگرسیون بردار پشتیبان، شبکه عصبی، خودرگرسیو میانگین متحرک انباشته و مدلهای ترکیبی، با دقت بالاتر و خطای کمتری توانایی پیشبینی شاخص بورس اوراق بهادار تهران را دارد؟
1-3) ضرورت انجام تحقیق
پیشبینی بازده شاخص یکی از مسایل بسیار مهم در بازارهای مالی است که توجه بسیاری از فعالان بازار سرمایه و کارشناسان این حوزه را در چند دههی گذشته به خود جلب کرده است. اهمیت این موضوع از آن جا ناشی میشود که پیش بینی در بازار مالی یکی از متغیرهای مهم در زمینهی تصمیمات سرمایهگذاری، قیمتگذاری اوراق بهادار و مشتقهها، مدیریت ریسک، تدوین مقررات و سیاستگذاری پولی است.
همواره پیشبینی روند شاخص بورس یکی از چالشهای پیشروی معاملهگران در بازارهای سرمایه بوده که این مساله به عنوان یک امر ضروری وکاربردی مطرح میشود .البته باید پیشبینی را مورد توجه قرار داد که با دقت بیشتری صورت گیرد و نسبت به نتایج واقعی مشاهده شده خطای کمتری داشته باشد. بنابراین با وجود تمام این شرایط ما نیازمند مدلی هستیم که بتواند با خطای کمتری بازده شاخص کل بورس را که موضوع مورد بررسی در این تحقیق می باشد را پیشبینی کند.
1-4) سابقه تحقیقات و مطالعات انجام گرفته
1) فنگپای و شنگ لین در سال2005 در مقاله ای تحت عنوان"ترکیب خودرگرسیو میانگین متحرک انباشته و رگرسیون بردار پشتیبان برای پیش بینی قیمت سهام"بیان کردند که ترکیب سریهای زمانی آریما و ماشین بردار پشتیبان،در مقایسه با مدلهای خودرگرسیومیانگین متحرک انباشته و ماشین بردار پشتیبان، معیارهای ارزیابیمیانگین قدرمطلق درصد خطا MAPE)) و ریشه میانگین مربع خطا ( RMSE) کمتری را نشان میدهند.[55]
2) ژانگ و همکاران در سال 2012در مقاله ای تحت عنوان"ترکیب خودرگرسیو میانگین متحرک انباشته و رگرسیون بردار پشتیبان برای پیش بینی بارگذاری کوتاه مدت الکتریسیته" که به پیشبینی مدیریت کارای سیستم نیرو میپردازد، بیان نمودند که پیشبینی سریهای زمانی از طریق مدل ترکیبی خودرگرسیو میانگین متحرک انباشته و ماشین بردار پشتیبان در مقایسه با هر یک از مدلهای خودرگرسیو میانگین متحرک انباشته و رگرسیون بردار پشتیبان از دقت بیشتری برخودار است و معیارهای ارزیابی MAPE و RMSEکمتری را نشان میدهد.[68]
3)ژانگ (2003) در مقالهای تحت عنوان « پیشبینی سریهای زمانی با استفاده از مدلهای ترکیبی خودرگرسیو میانگین متحرک انباشته و شبکهی عصبی»، اذعان داشت، با توجه به ماهیت خطی مدل خودرگرسیو میانگین متحرک انباشته و غیرخطی شبکهی عصبی، پیشبینی بخش خطی بوسیلهی میانگین متحرک انباشته و پسماند غیرخطی بوسیله ی شبکه میتواند منجر به افزایش دقت در پیش‌بینی شود.
وی از سه سری زمانی Sunspots، Lynx کانادا و نرخ مبادلهی دلار آمریکا و پوند انگلیس و معیارهای میانگین مجذور خطا (MSE) و میانگین قدر مطلق خطا (MAD) برای آزمون این ادعا و ارزیابی دقت پیشبینی بهره جست.[67]
نتایج این پژوهش دال بر موفقیت مدل ترکیبی نسبت به مدلهای خودرگرسیو میانگین متحرک انباشته و شبکهی عصبی میباشد.
4) فرجام نیا،ایمان (1384) در پایان نامه خود تحت عنوان "مقایسه پیشبینی قیمت نفت توسط مدلهای شبکه عصبی و خودرگرسیو میانگین متحرک انباشته "با توجه به نتایج به دست آمده از این تحقیق نشان دادند که شبکه های عصبی مصنوعی در پیش بینی قیمت روزانه نفت خام میزان MSE وSSE کمتری را نسبت به مدل خودرگرسیو میانگین متحرک انباشته دارند. و با توجه به معیارهای ارزیابی فوق مشخص شد که شبکه های عصبی مصنوعیعملکردی بهتر از مدلهای خودرگرسیو میانگین متحرک انباشته در خصوص پیش بینی قیمت های روزانه نفت خام دارند.در نتیجه می توان از مدل شبکه های عصبی مصنوعی به عنوان ابزاری دقیق برای پیش بینی متغیرهای اقتصادی در کنار سایر روشها بهره جست. [17]
5)رمضانی،رضا (1383) در پایان نامه خود تحت عنوان" مقایسه عملکرد پیش بینی در مدلهای شبکه عصبی مصنوعی و خودرگرسیو میانگین متحرک انباشته (مورد مطالعه : تقاضای ماهیانه برق در ایران) "با استفاده از داده های مربوط به سال های 1370 تا سال 1381 ، برای هر کدام از مدل های شبکه عصبی مصنوعی وخود رگرسیو میانگین متحرک انباشته داده های سالهای 1380 و1381 به عنوان معیار ارزیابی انتخاب گردیده و در نهایت با توجه به پیش بینی های انجام گرفته توسط بهترین مدل از مدل های شبکه عصبی میزان MSE وMAPE کمتری را در پیش بینی انجام گرفته نسبت به مدل خود رگرسیو میانگین متحرک انباشته داشته است و با توجه به معیارهای ارزیابی فوق مشخص است که شبکه های عصبی مصنوعی عملکردی بهتر از مدل های خود رگرسیو میانگین انباشته درخصوص پیش بینی مقادیر سری زمانی دارند.[7]
6) هانسن و نلسون در مقاله ای تحت عنوان" شبکه ی عصبی و سری های زمانی سنتی و ترکیب هم افزا در پیش بینی‍‍‍ های اقتصادی" بعد از بیان کردن اهمیت پیش بینی درآمد مشمول مالیات اذعان داشتند عواملی مثل بحران مالی باالقوه می توانند موجب انحراف تحلیلهای مبتنی بر سریهای زمانی سنتی گردند .آنها اذعان داشتند در این موارد شبکه می تواند با معرفی الگوهای جدید این مدلها را اصلاح نماید و نتایج تحقیقشان حاکی بر موفقیت آن‌ها در ترکیب شبکه‌های عصبی مانند شبکه‌های Time –delay و شبکه‌های پس انتشار با مدل‌های سری زمانی سنتی بود. [39]
7) لئو،تانگ،سو در مقاله‍ای تحت "عنوان ترکیب سری‍های زمانی و شبکه‍ی عصبی برای مدل‍های پیش‍بینی قابل اطمینان " پیش‌بینی بهتر مدل ترکیبی نسبت به مدل سری‌های زمانی و شبکه‌ی عصبی در داده‍های دارای روند رشد را اذعان داشتند. [59]
1-5) فرضیه‌های تحقیق 1- عملکرد مدل ترکیبی شبکه عصبی پیشخور - خودرگرسیو میانگین متحرک انباشته از مدل خودرگرسیو میانگین متحرک انباشته بهتر است.
2- عملکرد مدل ترکیبی شبکه عصبی پیشخور - خودرگرسیو میانگین متحرک انباشته از مدل شبکه عصبی پیشخور بهتر است.
3- عملکرد مدل ترکیبی رگرسیون بردار پشتیبان - خودرگرسیو میانگین متحرک انباشته از مدل خودرگرسیو میانگین متحرک انباشته بهتر است.
4- عملکرد مدل ترکیبی رگرسیون بردار پشتیبان - خودرگرسیو میانگین متحرک انباشته از مدل رگرسیون بردار پشتیبان بهتر است
5- بین عملکرد مدل ترکیبی خودرگرسیو میانگین متحرک انباشته –شبکه عصبی پیشخور( FFNN) با مدل ترکیبی خودرگرسیو میانگین متحرک انباشته - رگرسیون بردار پشتیبان اختلاف معناداری وجود دارد.
1-6) اهداف اساسی از انجام تحقیق
1. پیش‌بینی شاخص بورس تهران برای یک گام جلوتر (one step ahead)
2. مقایسه توان پیش‌بینی مدل ترکیبی خودرگرسیو میانگین متحرک انباشته - رگرسیون بردار پشتیبان نسبت به مدل ترکیبی خودرگرسیو میانگین متحرک انباشته - شبکه عصبی
3. افزایش دقت پیشبینی شاخص بورس تهران در صورت امکان
1-7) نتایج مورد انتظار پس از انجام این تحقیق
با توجه به اینکه مدل ترکیبی، ترکیبی از مدل‌های خطی خودرگرسیو میانگین متحرک انباشته و مدل غیرخطی حاصل از ماشین بردار پشتیبان و شبکه عصبی می‌باشد، انتظار می‌رودکه خطای پیش‌بینی مدلهای ترکیبی نسبت به مدل خود رگرسیو میانگین متحرک انباشته، شبکه عصبی و ماشین بردار پشتیبان کمتر باشد.
1-8) روش انجام پژوهش
1-8-1 ) روش تحقیق
در روش خودرگرسیو میانگین متحرک انباشته برای پیش بینی مقادیر آینده متغیر از مقادیرگذشته متغیر و مقادیر حال و گذشته اجزاء اخلال استفاده می شود .
شرط بهرهگیری از مدلهای خودرگرسیو میانگین متحرک انباشته، مانا بودن سری زمانی میباشد. برای مانا کردن سریهای زمانی مالی واقتصادی اغلب از روش تفاضل استفاده می شود. جزء انباشتگی در مدل خود رگرسیو میانگین متحرک انباشته بیانگر میزان تفاضل مورد نیازبرای مانا کردن سری زمانی است .
مدل های خود رگرسیو میانگین متحرک انباشته را معمولاً به صورت ARIMA(p.d.q) نمایش می دهند. که در آنp مرتبه مورد نیاز برای خود رگرسیو، d میزان تفاضل مورد نیاز برای مانا کردن سری زمانی و q میزان مرتبهی مورد نیاز برای میانگین متحرک است.
(1-1(
Yt=θ0+ϕ1Yt-1+ϕ2Yt-2+…+ϕpYt-p+ɛt-θ1εt-1-θ2εt-2-…θqεt-qسری زمانی Zt را می توان به دو بخش خطی و غیر خطی تقسیم کرد .
(1-2)
Zt=Lt+Nt در این مدل Yt به عنوان بخش خطی وNt به عنوان بخش غیرخطی مدل ترکیبی معرفی می شود. در معادله زیر Lt بیانگر پیشبینی بخش خطی مدل از طریق مدل خودرگرسیو میانگین متحرک انباشته در زمان t است و et نشان دهنده پسماند در زمان t است که از طریق مدل خود رگرسیو میانگین متحرک انباشته محاسبه شده است .
(1-3)
et=Zt-Ltپسماندها که از طریق شبکه عصبی پیشخور و بردار پشتیبان مدل سازی شده و به صورت زیر نمایش داده می شوند .
(1-4)
et=fet-1,et-2, ...,et-n+εt
در معادله بالا f بیانگر تابع غیرخطی است که از طریق ماشین بردار پشتیبان و شبکه عصبی پیشخور برازش می شود و εt به عنوان جزء اخلال معرفی می شود. Ntبیانگر پیشبینی پسماندها یا همان جزء غیر خطی است که به بخش خطی مدل اضافه می شود .
(1-5)
et=Ntو با اضافه کردن پییش بینی بخش غیر خطی به پیش بینی بخش خطی، پیش بینی زیر برای سری زمانی حاصل می شود .
(1-6)
Zt=Lt+Nt
هدف ما پیشبینی شاخص بورس اوراق بهادار تهران از طریق مدلهای خودرگرسیو میانگین متحرک انباشته ، رگرسیون بردار پشتیبان، شبکه عصبی و مدلهای ترکیبی است. به منظور مقایسه دقت مدلهای مذکور نسبت به یکدیگر از توابع زیان مجذور خطا و قدر مطلق خطا و آزمون مقایسهای دایبورد ماریانو بهره میگیریم.
1-8-2) روشهای گردآوری اطلاعات
داده‌های به کار رفته در این پایان‌نامه از نرم افزار رهآورد نوین استخراج شده است.
1-8-3) قلمرو تحقیق
الف ) دوره ی زمانی گردآوری اطلاعات:
از شهریور سال 1388 تا پایان شهریور 1393
ب) دوره‌های زمانی انجام تحقیق :
دوره زمانی این تحقیق از ابتدای بهار 1393 تا پایان تابستان 1393 انجام شده است.
ج ) مکان تحقیق :
بورس اوراق بهادار تهران
1-8-4) جامعهی آماری
مقدار شاخص کل بورس اوراق بهادار تهران
1-8-5) نمونهی آماری
مقدار روزانه شاخص کل تهران طی سالهای 1388 تا پایان شهریور 1393
1-8-6 ) روش یا روشهای نمونه گیری
روش نمونه‌گیری قضاوتی می‌باشد.
به دلیل ثبات سیاسی در دولت دهم، از شهریور سال 1388 تا شهریور 1393 این دوره مورد بررسی قرار میگیرد
1-8-7) روشهای مورد نظر برای تجزیه و تحلیل اطلاعات و آزمون فرضیه‌ها
به منظور بررسی و مقایسه عملکرد مدلهای ترکیبی نسبت به یکدیگر و آزمون فرضیههای تحقیق مبنی بر افزایش دقت پیشبینی از آزمون دایبورد ماریانو به ترتیب زیر استفاده میشود:
با در نظر گرفتن yt به عنوان یکسریزمانی، اگر yt+H|t1 ، پیشبینی سری زمانی با مدل ترکیبی نوع اول و yt+H|t2، مدل ترکیبی نوع دوم برای H مرحله پیشرو درنظر میگیریم، خطای پیش بینی به صورت زیر بدست می آید:
εt+H|t1=yt+H-yt+H|t1εt+H|t2=yt+H-yt+H|t2از انجا که در پیش بینی های سری زمانی برای H مرحله پیشرو از داده های روی هم افتاده استفاده مینماییم، خطای پیش بینی εt+H|t2 و εt+H|t1 به صورت سریالی همبستگی خواهد داشت. دقت هر پیش بینی بوسیله تابع زیان خاص اندازه گرفته می شود:
Lεt+H|ti, i=1,2تابعهای زیان خاص که معمولاً مورد استفاده قرار میگیرند عبارتند از :
مجذور خطا :
Lεt+H|ti=εt+H|ti2 i=1,2قدر مطلق خطا :
Lεt+H|ti=|εt+H|ti| i=1,2برای تعیین اینکه آیا یک مدل بهتر از مدل دیگر پیش بینی می نماید می توانیم از فرضیه صفر ذیل استفاده نماییم:
H0 : ELεt+H|t1=E[Lεt+H|t2]و فرضیه جایگزین برابر خواهد بود با:
H1 : ELεt+H|t1≠E[Lεt+H|t2]آزمون دایبولد – ماریانو براساس تفاضل این دو تابع است:
dt=Lεt+H|t1-Lεt+H|t2آماره دایبولد – ماریانو به صورت زیر بدست می آید:
S=davard12=dLRVd/T12d=1T0t=t0TdtLRVd=γ0+2j=1∞γj , γj=covdt, dt-jLRVd، تخمین سازگاری از واریانس مجانبی dT است. دایبولد و ماریانو (1995) نشان میدهند که تحت فرضیه قدرت پیشبینی کنندگی یکسان داریم:
S~N(0,1)بنابراین فرضیه قدرت پیش بینی یکسان را در سطح 95% زمانی رد می کنیم که داشته باشیم:
S>1/96اما این آماره سالهای بعدها توسط هاروی – لیبورن- نیوبولد برای نمونههای کوچک و تابع زیان خاص مجذور خطا به صورت زیر اصلاح گردید:
S*=davard12=dvarmvarm=[N+1-2h+(n-1*hh-1)]-1×γ0+2j=1h-1γjآمارهیS* دارای توزیع t-student از درجهی آزادی N-1میباشد.
1-9)تعریف واژهها و اصطلاحات تخصصی طرح
سری‌های زمانی (Time Series): داده‌هایی که طی زمان ثبت شده و یک دنباله‌ی زمانی را بوجود می‌آورند.
خودرگرسیو میانگین متحرک انباشته (ARIMA): مدل ترکیبی از مدل‌های میانگین متحرک و خودرگرسیو با احتساب شرط مانایی است که به مدل باکس و جنکینز شناخته می‌شود.
شاخص بازده نقدی و قیمت : نشان دهنده تغییرات قیمتی و بازده نقدی سهام در بورس اوراق بهادار میباشد .به عبارتی نشان دهنده تغییرات بازدهی کل سرمایهگذاری در بورس اوراق بهادار میباشد.
مانایی (Stationarity): اگر در طول زمان تمامی گشتاور‌های یک سری ثابت، اکیداً مانا و اگر فقط گشتاور مرتبه‌ی اول و دوم ثابت باشد، مانای ضعیف نامیده میشود.
SVM: ماشین بردار پشتیبان که به عنوان یک تکنیک نوین شبکه عصبی معرفی می شود و معمولاً در سری‌های زمانی به دلیل کارایی بالای آن در عمل استفاده می‌شود.
شبکهی عصبی پیشخور (FFNN): شبکه‌ی عصبی پیشخور یکی از انواع شبکه که معمولاً در سری‌های زمانی از آن استفاده می‌شود.
روش ترکیبی (Hybrid): این مدل ترکیبی از دو روش خودرگرسیو میانگین متحرک انباشته و شبکه‌ی عصبی می‌باشد.

فصل دوم:
مبانی نظری و مروری بر ادبیات تحقیق

2-1) مقدمهدر زمینه مدل‌سازی سریهای زمانی، روشهای متفاوتی مورد استفاده قرار می‌گیرد. مدل‌های سنتی مانند میانگین متحرک، هموارسازی نمایی و ARIMAپیش‌بینی آینده را به روابط خطی از گذشته محدود می‌نمایند و الگوهای خطی را مدل سازی میکنند. از این مدل‌ها به دلیل سادگی در فهم و کاربرد در دهه‌های اخیر بسیار استفاده شده است. با وجود انعطاف پذیری بالای مدل خودرگرسیو میانگین متحرک انباشته در مدل سازی الگوهای خطی این مدل نمیتواند الگوهای غیر خطی را خوب مدل سازی کند.
به دلیل مشاهده الگوهای غیرخطی در دنیای واقعی یک سری از مدل‌های غیرخطی مانندARCH GARCH, ،TGARCH مطرح گردیدند. همگی این مدل‌ها، الگوهای غیرخطی بخصوصی را توضیح می‌دهند.
اما شبکه عصبی مجازی(ANN) توان و قدرت پیش‌بینی روابط غیرخطی را داراست و کاملاً انعطاف پذیر عمل می‌نماید. شبکههای عصبی مصنوعی از عناصر عملیاتی سادهای ساخته میشوند که به صورت موازی در کنار یکدیگر عمل میکنند. این عناصر که از سیستمهای عصبی زیستی الهام گرفته شدهاند، در تلاشاند که به صورت ناپارامتریک، مغز انسان را شبیه سازی نمایند. نکته حائز اهمیت در استفاده از مدل شبکه عصبی وجود نتایج متفاوت برای روابط خطی است. برای مثال مارکهام و راکس اذعان داشتند عملکرد شبکه عصبی برای مساله‌های رگرسیون خطی وابسته به اندازه نمونه و سطح شوک (Noise) می‌باشد.
از طرفی ماشین بردار پشتیبان (SVM) به عنوان تکنیک نوین یکی از روشهای یادگیری ماشینی است که بر مبنای تئوری یادگیری آماری واپنیک در دهه 90 میلادی توسط واپنیک و همکارانش ارائه گردید. این روش از جمله روش‌های نسبتاً جدیدی است که در سال‌های اخیر کارایی خوبی نسبت به روش‌های قدیمی‌تر از جمله شبکه‌های عصبی پرسپترون نشان داده است. رگرسیون بردار پشتیبان این عمل را با تابعی که انحراف از مقدار واقعی در آن به میزان کمتر از ɛ مجاز است، انجام میدهد.
همانطور که ذکر شد با وجود مزایای متعدد، شبکه های عصبی با محدودیت هایی از جمله مدلسازی روابط خطی و همچنین نیازمند بودن به شمار بالای نمونه برای آموزش( به منظور انجام فرآیند یادگیری) مواجه میباشد. اما چون دانستن خصوصیات دادهها مبنی بر خطی و یا غیر خطی بودن در واقعیت کمی دشوار است و از طرفی به ندرت روابط کاملا خطی و یا کاملا غیر خطی مشاهده میشود، بنابراین این ایده به ذهن میرسد که ترکیب مدل خطی آریما با مدلهای غیر خطی شبکه عصبی پیشخور و ماشین بردار پشتیبان میتواند باعث بهبود دقت پیشبینی گردد.
در مدل ترکیبی سعی بر این داریم ابتدا روابط غیرخطی در پسماندها را با استفاده از شبکهی عصبی و رگرسیون بردار پشتیبان شناسایی کرده سپس پسماندهای بدست آمده را به مدل خودرگرسیو میانگین متحرک انباشته اضافه کنیم. با این ترکیب، بخش خطی بوسیله‌ی مدل خودرگرسیو میانگین متحرک انباشته و بخش غیرخطی بوسیله‌ی شبکه عصبی و رگرسیون بردار پشتیبان پیش‌بینی خواهد شد.
با عنایت به مطالبی که ذکر شد این سوال پیش میآید که کدامیک از مدلهای رگرسیون بردار پشتیبان، شبکه عصبی، خودرگرسیو میانگین متحرک انباشته و مدلهای ترکیبی، با دقت بالاتر و خطای کمتری توانایی پیشبینی شاخص بورس اوراق بهادار تهران را دارد؟
از آنجا که الگوی دادهها در واقعیت اغلب پیچیده میباشد، مطالعات زیادی به منظور ترکیب مدلهای خطی و غیرخطی انجام پذیرفته است. بنابراین در ابتدا به معرفی مدل خودرگرسیو میانگین متحرک انباشته و اجزای تشکیل دهندهی آن یعنی AR ، MA و ARMA میپردازیم. سپس بعد از معرفی کلی شبکههای عصبی، اجزا و ساختارهای آن، شبکهی عصبی پیشخور با الگوریتم یادگیری پس انتشار خطا را که اغلب در سریهای زمانی از آن استفاده می شود شرح خواهیم داد. بعد از مرور بر مبانی نظری مدلهای خودرگرسیو میانگین متحرک انباشته و شبکههای عصبی، نگاهی بر نتایج پیچیدهی شبکههای عصبی و خودرگرسیو میانگین متحرک انباشته در سریهای زمانی مختلف خواهیم انداخت و در پایان به مرور برخی از مطالعات در زمینهی ترکیب مدلهای خطی و غیرخطی میپردازیم.
2-2) انواع داده ها
انواع داده های مورد استفاده در مباحث اقتصادی مالی را میتوان به سه دسته کلی تقسیم نمود: سریهای زمانی، دادههای مقطعیو دادههای پانل(ترکیبی)]11[
2-2-1) داده های سری زمانی
داده های سری زمانی مربوط به یک دوره زمانی معین است که ممکن است سالانه، فصلی، ماهانه، هفتگی، روزانه باشد. داده های سری زمانی به فراوانی خاصی از مشاهدات و یا مجموعه ای از داده های نقطهای مربوط می شود. فراوانی ، تابعی از فاصله و یا ترتیب زمانی است که داده ها بر اساس آن جمع آوری وثبت شده است .
2-2-2 (داده های مقطعیداده های مقطعی بیانگر اطلاعات مربوط به یک متغیر در یک زمان معین میباشد.
2-2-3(داده های پانل داده های ترکیبی یا پانل ترکیبی از دادههای سری زمانی و مقطعی است. داده های قیمت روزانه تعدادی از سهام با رشد بالا در طول دو سال از نوع داده های پانل هستند .
2-3)مدلهای سری زمانی تک متغیرهدر مدلهای سری زمانی تک متغیره تلاش میشود تا متغیرهای اقتصادی و مالی را بر اساس مقادیر گذشته و جاری آن متغیر و همچنین مقادیر جاری و گذشته جملات خطا، مدل سازی و پیش بینی نمایند. مدلهای سریزمانی در مقابل مدلهای ساختاری مطرح میگردند. مدلهای ساختاری ماهیتاٌ چند متغیره بوده و تغییرات یک متغیر را توسط تغییرات مقادیر جاری و گذشته متغیرهای دیگر توضیح دهند. اما این مدلها نسبت به مدلهای ساختاری دارای دو مزیت عمده به قرار زیر میباشند:]32،60[
مدلهای ساختاری یک پیشفرض تئوریک را مبنای برقراری رابطهی علت و معلول بین متغیرهای مستقل و وابسته قرار میدهند، در حالی که مدلهای سری زمانی نیازی به این پیش فرض ندارند.
مدلهای ساختاری در پیشبینی خارج از نمونهای چندان خوب عمل نمیکنند.
2-4) برخی مفاهیم سریهای زمانی :
2-4-1) فرآیندهای اکیداً مانا
فرآیندهای اکیداً مانا ، فرایندی است که به ازای T=1,2,...,k;kϵz و t1,t2,…,tTϵZ رابطه زیر برقرار باشد .
معادله (2-1)
FYt1,Yt2,…,YtTY1,Y2,…,YT=FYt1+k,Yt2+k,…,YtT+k(Y1,Y2,…,YT)که Fتابع توزیع مشترک مجموعه ای از متغیرهای تصادفی است.این را می توان بدین صورت نیز بیان نمود که احتمال سری {Yt}با احتمال سری{Yt+k}به ازای هرk یکسان است .به عبارتی دیگر یک سری زمانی در صورتی اکیداً مانا است که توزیع مقادیر آن ، همراه با گذشت زمان یکسان بماند.این شرط دلالت بر این دارد که احتمال این که Yدر یک فاصله معین قرار گیرد، در زمان حال، آینده و گذشته یکسان است[11].
2-4-2) فرآیندهای مانای ضعیف اگر یک سری زمانی شرایط زیر را به ازای هر t تامین کند ، آن را مانای ضعیف گویند :
معادله (2-2)
1)EYt=µمعادله (2-3)
2)E(Yt-µ)2=VarYt=σ2<∞معادله (2-4)
3)CovYt1,Yt2=EYt1-µYt2-µ=γt2-t1شرایط سه گانه فوق بیان می کندکه فرآیندهای مانا بایستی دارای میانگین ثابت، واریانس ثابت وساختار خودکواریانس ثابت باشند. [11]
2-4-3 ) خودکوواریانس، خودهمبستگی، خودهمبستگی جزئی [48,27]به کوواریانس بین یک سری زمانی مانند با وقفههای زمانی خودش خودکوواریانس و به ضریب همبستگی آن سری زمانی با وقفههایش، خودهمبستگی گویند.
معادله 2-5)

معادله 2-6)

: ضریب همبستگی بین و
اما از آن جایی که همبستگی بین یک سری زمانی با وقفههایش اثر زمانهای بین آن را لحاظ میکند، برای حذف اثر این زمانها از همبستگی جزئی استفاده میشود. خودهمبستگی جزئی برای یک و دو وقفه زمانی به قرار زیر محاسبه می گردد:
معادله 2-7)

: ضریب همبستگی بین و
: ضریب همبستگی بین و
2-4-4) تابع خودهمبستگی و خودهمبستگی جزئی ADDIN EN.CITE <EndNote><Cite><Author>Lefebvre</Author><RecNum>29</RecNum><record><rec-number>29</rec-number><foreign-keys><key app="EN" db-id="099eatxa8td0f1e0zz355fa2wfafep9rrzsf">29</key></foreign-keys><ref-type name="Book">6</ref-type><contributors><authors><author>Lefebvre</author></authors></contributors><titles><title>Applied Stochastic processes</title></titles><dates></dates><urls></urls></record></Cite><Cite><Author>Brooks.c</Author><RecNum>6</RecNum><record><rec-number>6</rec-number><foreign-keys><key app="EN" db-id="099eatxa8td0f1e0zz355fa2wfafep9rrzsf">6</key></foreign-keys><ref-type name="Book">6</ref-type><contributors><authors><author>Brooks.c</author></authors></contributors><titles><title>Introductory Econometrics for Finance</title></titles><dates></dates><urls></urls></record></Cite></EndNote>[27]
اگر مقادیر خودهمبستگی و خودهمبستگی جزئی را به ازای در قالب نمودار رسم نماییم، اشکال حاصله را به ترتیب تابع خودهمبستگی و خودهمبستگی جزئی مینامند.
2-4-5) فرآیندهای کاملاً تصادفی
اگر برای سری زمانی Yt، شرایط زیر برقرار باشدآن را کاملاً تصادفی گویند:
(2-8)
EYt=µ(2-9)
VarYt=σ2(2-10)
γt-r = σ2 t=r0 t≠rبنابراین یک فرایند کاملاً تصادفی دارای میانگین و واریانس ثابت است و مقادیر خودکواریانس آن صفر میباشد. شرط آخر بیانگر این است که هر مشاهده با تمامی مقادیر قبلی خودش هیچگونه همبستگی ندارد.این متغیرها را نمیتوان بر اساس مقادیر گذشته آنها پیش بینی نمود، زیرا کاملاً تصادفی بوده وهیچ ارتباطی با مقادیر گذشته خود ندارند. [11]
2-4-6) فرآیند نوفهی سفید ADDIN EN.CITE <EndNote><Cite><Author>Brooks.c</Author><RecNum>6</RecNum><record><rec-number>6</rec-number><foreign-keys><key app="EN" db-id="099eatxa8td0f1e0zz355fa2wfafep9rrzsf">6</key></foreign-keys><ref-type name="Book">6</ref-type><contributors><authors><author>Brooks.c</author></authors></contributors><titles><title>Introductory Econometrics for Finance</title></titles><dates></dates><urls></urls></record></Cite><Cite><Author>Lefebvre</Author><RecNum>29</RecNum><record><rec-number>29</rec-number><foreign-keys><key app="EN" db-id="099eatxa8td0f1e0zz355fa2wfafep9rrzsf">29</key></foreign-keys><ref-type name="Book">6</ref-type><contributors><authors><author>Lefebvre</author></authors></contributors><titles><title>Applied Stochastic processes</title></titles><dates></dates><urls></urls></record></Cite></EndNote> ADDIN EN.CITE <EndNote><Cite><Author>Brooks.c</Author><RecNum>6</RecNum><record><rec-number>6</rec-number><foreign-keys><key app="EN" db-id="099eatxa8td0f1e0zz355fa2wfafep9rrzsf">6</key></foreign-keys><ref-type name="Book">6</ref-type><contributors><authors><author>Brooks.c</author></authors></contributors><titles><title>Introductory Econometrics for Finance</title></titles><dates></dates><urls></urls></record></Cite><Cite><Author>Lefebvre</Author><RecNum>29</RecNum><record><rec-number>29</rec-number><foreign-keys><key app="EN" db-id="099eatxa8td0f1e0zz355fa2wfafep9rrzsf">29</key></foreign-keys><ref-type name="Book">6</ref-type><contributors><authors><author>Lefebvre</author></authors></contributors><titles><title>Applied Stochastic processes</title></titles><dates></dates><urls></urls></record></Cite></EndNote>27],[48
چنانچه یک فرآیند دارای سه شرط زیر باشد ، نوفه ی سفید نامیده میشود:
میانگین سری زمانی در طول زمان ثابت و معین باشد.
واریانس سری زمانی در طول زمان ثابت و معین باشد.
کوواریانس سری زمانی با وقفه هایش برابر صفر باشد.
از این رو داریم:
(2-11)
1)
(2-12)
2)
(2-13)
3)
2-4-7 ) آماره ی Q [27]
برای بررسی آزمون معناداری ضرایب خودهمبستگی در یک سری زمانی مانند باکس و پیرس در سال 1970 آمارهای را ارائه دادند که در آن به جای بررسی معناداری تک تک ضرایب همبستگی، معناداری کلی مورد آزمون قرار میگیرد و در واقع فروض و آن به قرار زیر است:
حداقل یکی مخالف صفر است

: ضریب خودهمبستگی
آماره Q دارای توزیع X2 از درجه آزادی تعداد وقفهی لحاظ شده است و به روش زیر محاسبه می گردد.
معادله 2-14)

m: حداکثر تعداد وقفه
T: تعداد مشاهدات
اما از آن جا که آمارهی باکس- پیرس در نمونههای کوچک منجر به تصمیمات اشتباه میشد در سال 1978 باکس و الژانگ این آماره را به صورت زیر تعدیل نمودند:
معادله 2-15)
Q*=T(T+2)i=1mρi2T-i2-5) فرآیندهای خودرگرسیون (AR) ADDIN EN.CITE <EndNote><Cite><Author>Brooks.c</Author><RecNum>6</RecNum><record><rec-number>6</rec-number><foreign-keys><key app="EN" db-id="099eatxa8td0f1e0zz355fa2wfafep9rrzsf">6</key></foreign-keys><ref-type name="Book">6</ref-type><contributors><authors><author>Brooks.c</author></authors></contributors><titles><title>Introductory Econometrics for Finance</title></titles><dates></dates><urls></urls></record></Cite><Cite><Author>Lefebvre</Author><RecNum>29</RecNum><record><rec-number>29</rec-number><foreign-keys><key app="EN" db-id="099eatxa8td0f1e0zz355fa2wfafep9rrzsf">29</key></foreign-keys><ref-type name="Book">6</ref-type><contributors><authors><author>Lefebvre</author></authors></contributors><titles><title>Applied Stochastic processes</title></titles><dates></dates><urls></urls></record></Cite></EndNote>27],[32
در یک مدل خودرگرسیون، کقدار جاری یک متغیر صرفاٌ وابسته به مقادیر قبلی آن به علاوه جمله خطا میباشد. مدل خودرگرسیون مرتبه p که با AR(p) نشان داده میشود عبارتست از:
معادله 2-16)Yt=µ+ϕ1Yt-1+ϕ2Yt-2+…+ϕPYt-p+ut YT=µ+i=1pϕiYt-i+ut با استفاده از عملگرهای وقفه می توان عبارت بالا را به صورت زیر نوشت:
(2-17)
Yt=µ+i=1pϕiLiYt+ut ϕLYt=µ+ut ; ϕL=1-ϕ1L-ϕ2L2-…-ϕpLp : Lعملگر وقفه
: Ut یک فرآیند نوفه سفید
2-6) فرآیندهای میانگین متحرک (MA)
فرآیندهای میانگین متحرک، ترکیب خطی سادهای از فرآیندهای نوفه سفید میباشند که در آن ارزش جاری به ارزشهای جاری و گذشته اجزاء اخلال، وابسته است.
در صورتی که utیک فرآیند نوفه سفید و t =1,2,3,.. باشد. با توجه به اینکه Eut=0 و var (ut) = σ2 باشد.
(2-18)
Yt=μ+θ1+θ2ut-2+…+θqut-q
معادله بالا به عنوان فرآیند میانگین متحرک با مرتبه q شناخته می شود وبه صورت MA(q)نشان داده می شود.
همچنین این معادله را میتوان بصورت زیر نیز نمایش داد:
(2-19)
Yt=µ+i=1qθiut-i+ut
معادله بالا را همچنین میتوان با استفاده از نماد عملگر وقفه تعدیل کرد.طبق تعریف عملگر وقفه عبارت است از:
(2-20)
LYt=Yt-1 , LiYt=t-iبنابراین مدل میانگین متحرک را با توجه به عملگر وقفه به صورت ذیل می توان نوشت :
(2-21)
Yt=µ+i=1qθiut-i+utYt=µ+i=1qθiLiut+ut
Yt=µ+θ (L)ut ; θL=1+θ1L+θ2L2+…+θqLq2-7) فرآیندهای خودرگرسیو میانگین متحرک (ARMA) [32,27]
مدلهای (p,q)ARMA از ترکیب مدلهای خودرگرسیو از مرتبهی p و میانگین متحرک از مرتبهی q حاصل میشوند. در این مدلها ارزش جاری سری زمانی به صورت خطی به ارزشهای گذشتهی خودش و ارزشهای جاری و گذشتهی اجزاء اخلال، وابسته است.
مدلها خودرگرسیو میانگین متحرک را به صورتهای زیر میتوان نمایش داد:
معادله 2-22)
Yt=µ+ϕ1Yt-1+ϕ2Yt-2+…+ϕpYt-p+ut+θ1ut-1+θ2ut-2+…+θqϕt-q
Yt=μ+i=1pQiLiYt+j=1qθjLJut+utϕ(L)Yt=µ+θ(L)ut
ϕL=1-ϕ1L-ϕ2L2-…-ϕpLp
θL=1+θ1L+θ2L2+…+θqLq
مدلهای رگرسیو میانگین متحرک، هم خصوصیات مدلهای خودرگسیو (AR) و هم خصوصیات مدلهای میانگین متحرک (MA) را در بر میگیرند. در مدلهای خودرگسیو، تابع خودهمبستگی به صورت نمایی کاهش پیدا میکند در حالی که تابع خودهمبستگی جزئی تعداد وقفههای مورد نیاز برای مدل را معین میسازد، اما در مدلهای میانگین متحرک، این دو تابع برعکس مدلهای خودرگسیو، عمل مینمایند.2-8) مدل خود رگرسیو میانگین متحرک انباشته (ARIMA) در روش خودرگرسیو میانگین متحرک انباشته برای پیش بینی مقادیر آینده متغیر از مقادیر گذشته متغیر واطلاعات حال و گذشته اجزاء اخلال استفاده می شود .
شرط بهرهگیری از مدلهای خودرگرسیو میانگین متحرک انباشته، مانا بودن سری زمانی می باشد. برای مانا کردن سریهای زمانی مالی و اقتصادی اغلب از روش تفاضل استفاده می شود. جزء یکپارچگی در مدل خودرگرسیو میانگین متحرک انباشته بیانگر میزان تفاضل مورد نیاز برای مانا کردن سری زمانی است.[60, 31]
مدلهای خودرگرسیو میانگین متحرک انباشته را معمولاً به صورت ARIMA(p,d,q) نمایش میدهند. که در آنp مرتبه مورد نیاز برای خود رگرسیو،d میزان تفاضل مورد نیاز برای مانا کردن سری زمانی وq میزان مرتبهی مورد نیاز برای میانگین متحرک است .
2-9) مراحل ساخت مدل های [27] ARIMA مانا کردن سری زمانی: با استفاده از روش تفاضل، به منظور استفاده از مدلهای خودرگرسیو میانگین متحرک انباشته ، سری زمانی را مانا میکنیم.
شناسایی مدل: در این مرحله مرتبههای مورد نیاز برای ساخت مدل تعیین میگردد. برای این منظور میتوان از توابع خودهمبستگی (ACF) و خودهمبستگی جزئی (PACF) بهره گرفت.
تخمین مدل: تخمین ضرایب با استفاده از تکنیکهایی مانند حداقل مربعات، حداکثر درست نمایی و از این قبیل.
بررسی مدل: در این مرحله با استفاده از توابع خودهمبستگی و خودهمبستگی جزئی و آمارهی باکس و الژانگ، مستقل بودن سری پسماندها، مورد آزمون قرار میگیرد. مدل خودرگرسیو میانگین متحرک انباشته بهینه مدلی است که پسماندهای آن فاقد همبستگی خطی باشند.
پیش‌بینی: با استفاده از مدل خودرگرسیو میانگین متحرک انباشته بهینه، ارزش متغیر در آینده را پیش‌بینی میکنیم.
2-10) انواع نامانایی [27]اغلب دو مدل به منظور مشخص کردن نامانایی به کار گرفته میشود:
مدل گشت تصادفی با رانش
معادله 2-23)

فرآیند روند- مانا (اطراف خط روند مانا می باشند)
معادله 2-24)

که مدل اول را نامانای تصادفی و مدل دوم را نامانای معین می نامند.
برای مانا کردن مدلهای گشت تصادفی، معمولاً از تفاضل و برای مانا کردن مدلهای روند- مانا معمولاً از روند زدایی استفاده میگردد.
2-11 ) آزمون ریشهی واحد [32,27]
یک سری، وقتی مانا است که تابع خودهمبستگی و یا خودهمبستگی جزئی آن به صورت نمایی کاهش پیدا کند اما از آن جایی که این روش بررسی مانایی سریهای زمانی، قضاوتی است اغلب از آزمون ریشه واحد برای بررسی مانایی یک سری زمانی استفاده میشود.
یکی از مهمترین این آزمونها، آزمون دیکی و فولر است که در این آزمون معناداری ضریب بوسیله ی مقادیر بحرانی توزیع تجربی دیکی و فولر مورد بررسی قرار می گیرد.
معادله 2-25)

اگر آماره t-student برای ضریب از مقادیر بحرانی جدول دیکی و فولر کمتر باشد، آن گاه سری زمانی ماناست.
3 مدل زیر را دیکی و فولر افزوده مینامند:
معادله 2-26)

2-12) معیارهای اطلاعاتی ADDIN EN.CITE <EndNote><Cite><Author>Akaike.H</Author><Year>1974</Year><RecNum>1</RecNum><record><rec-number>1</rec-number><foreign-keys><key app="EN" db-id="099eatxa8td0f1e0zz355fa2wfafep9rrzsf">1</key></foreign-keys><ref-type name="Journal Article">17</ref-type><contributors><authors><author><style face="normal" font="Times New Roman" size="10">Akaike.H</style></author></authors></contributors><titles><title><style face="normal" font="Times New Roman" size="100%">A New Look at the Statistical Model Identification</style></title><secondary-title><style face="normal" font="Times New Roman" size="10">IEEE Transactions on Automatic Control </style></secondary-title></titles><dates><year><style face="normal" font="default" size="10">1974</style></year></dates><urls></urls></record></Cite><Cite><Author>Schwarz.G</Author><Year>1978</Year><RecNum>40</RecNum><record><rec-number>40</rec-number><foreign-keys><key app="EN" db-id="099eatxa8td0f1e0zz355fa2wfafep9rrzsf">40</key></foreign-keys><ref-type name="Journal Article">17</ref-type><contributors><authors><author>Schwarz.G</author></authors></contributors><titles><title>Estimating the Dimension of a Model</title><secondary-title>Annals of Statistics 6</secondary-title></titles><dates><year>1978</year></dates><urls></urls></record></Cite></EndNote>[27]
استفاده از توابع خودهمبستگی و خودهمبستگی جزئی در مرحلهی تشخیص مدل، به دلیل آن که در دادههای واقعی به ندرت الگوهای ساده دیده میشود، اغلب کمی دشوار است. بنابراین عموماً از معیارهای اطلاعاتی برای این منظور استفاده میگردد که از جمله این معیارهای اطلاعاتی میتوان به معیار آکائیک، شوارتر و هنان کوئین اشاره نمود.
این معیارهای اطلاعاتی، با در نظر گرفتن مربعات خط و جریمهی از دست دادن درجهی آزادی، منجر به یافتن تعداد پارامترهای بهینه میگردند.
2-13) شبکه های عصبی مصنوعی
2-13-1) نرونهای بیولوژیکی
شبکههای عصبی مصنوعی از عناصر عملیاتی سادهای ساخته میشوند که به صورت موازی در کنار یکدیگر عمل میکنند. این عناصر که از سیستمهای عصبی زیستی الهام گرفته شدهاند، در تلاشاند که به صورت ناپارامتریک، مغز انسان را شبیه سازی نمایند. [37,4]
در شبکهی عصبی مصنوعی به این عناصر پردازشی، نرونهای مصنوعی میگویند که این نرونها مشابه نرونهای بیولوژیکی مغز انسان میباشند.
مغز انسان دارای 10011 نرون است که هر کدام از آنها دارای هزاران ارتباط با یکدیگر می باشند. هر نرون از 3 بخش اصلی تشکیل می شود که عبارتند از: دندریت، هسته و آکسون [43]
نرونها از طریق دندریتها سیگنالها را از سایر نرونها دریافت کرده و از طریق آکسونها به دیگر نرونها ارسال میکنند. به ارتباط میان آکسون و دندریت، سیناپس گفته میشود.[62]
در واقع، ورودی یک شبکهی عصبی مصنوعی، مشابه ایمپلاسهای الکتروشیمیایی است که توسط دندریتهای نرونهای بیولوژیکی دریافت میگردد و خروجی نرونهای مصنوعی مشابه سیگنالهای خروجی از آکسون یک نرون بیولوژیکی است.
2-13-2) سیر تاریخی شبکه های عصبی [67,18,16]برخی از پیش زمینههای شبکه های عصبی را می توان به اواخر قرن نوزدهم برگرداند.
چارلز بابیج در سال 1834 اصول اولیه موتور تحلیل را طراحی نمود. قابلیت بالای موتور تحلیل منجر به گسترش روزافزون آن گردید به طوری که در سال 1904 به تأسیس شرکت IBM منجر شد. گسترش روزافزون این موتورها از یک سو و مطالعات روانشناسانی همچون ویلیام جیمز و ایوان پاولوف در زمینهی یادگیری شرطی از سوی دیگر، زمینههای لازم برای مطالعات در شبکههای عصبی را فراهم نمود. اما مک کلوث و والتر پیتز در مقالهای تحت عنوان «حساب منطقی از عقیده درونی در فعالیت عصبی» اذعان داشتند که شبکه های عصبی در محاسبهی توابع حسابی و منطقی بسیار توانمند میباشد که این امر باعث بروز دیدگاههای جدید در شبکه های عصبی گردید. گسترش کامپیوترهای الکترونیکی منجر به تشویق محققان به استفاده از کامپیوتر در شبکههای عصبی گردید و مکانیسم ارائه شده توسط دونالد هب در یادگیری نرونهای بیولوژیکی مبنای ساخت اولین "نروکامپیوتر" قرار گرفت.
شبکههای عصبی در اواخر دههی پنجاه قرن بیستم، برای اولین بار توسط فرانک روزنبلات به طور عملی مطرح گردید. روزنبلات در سال 1958 شبکه های عصبی پرسپترون را معرفی نمود که این شبکه قادر به شناسایی الگوها از یکدیگر بود.
در سال 1960 برنارد ویدرو شبکههای عصبی تطبیقی خطی (آدالاین) را با قانون یادگیری جدید مطرح نمود که از لحاظ ساختاری به شبکهی روزنبلات شبیه بود. اما هر دو این شبکهها توان طبقه بندی الگوهایی را داشتند که از نظر خطی قابل تمایزند و این امر به عنوان محدودیتی برای این شبکهها تلقی میگردید و از طرفی دیگر، آنها قانون یادگیری را برای شبکههای عصبی تک لایه مطرح نموده بودند. آنها هرچند توانستند شبکههای عصبی چند لایه را مطرح نمایند ولیکن، نتوانستند الگوریتمهای یادگیری شبکه تک لایهشان را بهبود بخشند.
در سال 1972 تئو کوهونن و جیمز اندرسون همزمان و بدون اطلاع از یکدیگر شبکههای عصبی جدیدی که به عنوان عناصر ذخیره ساز عمل میکردند را معرفی نمودند.
اما گسترش روزافزون علم کامپیوتر منجر به بروز ایدههای جدیدی در شبکههای عصبی گردید، به طوری که در سال 1982 ویلشا و ون در مالزبرگ مفهوم خودسازمانی و شبکههای عصبی را مطرح کردند که نتایج آنها منجر به ارائه شبکههای عصبی دینامیکی، یعنی شبکههای عصبی بازگشتی شد و در سال 1986 یکی از مهمترین تحولات در پژوهشهای شبکههای عصبی به وقوع پیوست. این امر "الگوریتم پسانتشار خطا" بود که توسط رملهارت و مک کلند مطرح گردید. ورباس در سال 1988 فهمید که شبکههای عصبی آموزش دیده با الگوریتم پسانتشار خطا، نسبت به مدلهای سنتی، عملکرد بهتری از خود ارائه میدهند، بنابراین زمینهی لازم برای مطالعات کاربردی بیشتر فراهم گردید.
2-13-3) کاربرد شبکههای عصبی [20]از شبکههای عصبی برای پیادهسازی توابع پیچیده در زمینههای مختلف از جمله تشخیص الگو، تشخیص هویت، طبقهبندی، پردازش صحبت، تصویر و سیستمهای کنترلی استفاده میشود.
برخی از کاربردهای شبکههای عصبی در علوم مختلف به قرار زیر می باشد:
هوا و فضا:
خلبان خودکار هواپیما با کارآیی بالا
شبیه سازی مسیر پرواز
و ...
حمل و نقل:
سیستم راهنمای اتوماتیک
تحلیل گارانتی
سیستم ترمز کامیون
و ...
بانکداری:
کاربردهای ارزیابی کارتهای اعتباری
ابزار خودکار خواندن چک و سایر اسناد
و ...
الکترونیک:
پیش‌بینی ترتیب کد
طراحی مدارات مجتمع
کنترل فرآیند
و ...
مالی:
ارزیابی ملک
درجهبندی شرکتها
تحلیل مالی شرکتها
پیشبینی قیمت
علاوه بر زمینههای فوق میتوان به کاربرد شبکه در امور دفاعی، ساخت و تولید، پزشکی، نفت و گاز، رباتیک، گفتار و مخابرات نیز اشاره نمود.
2-13-4) اجزا و ساختار شبکههای عصبیعناصر پردازشکننده: همانطور که قبلاً ذکر کردیم به عناصر پردازشی در شبکههای عصبی نرونهای مصنوعی میگویند. هر کدام از این نرونها ورودی را دریافت و پردازش نموده و سپس یک خروجی از خود ارائه میدهند.
لایه ورودی
لایه پنهان
لایه خروجی
لایه های شبکهی عصبی: مجموع نرونهای تشکیل دهندهی شبکه در قالب لایهها گروه بندی میگردند. شکل زیر، ساختار پایهای از شبکهی عصبی را به تصویر میکشد.
شکل 2-1) ساختار پایهای شبکهی عصبینرونهایی که دادهها را دریافت میکنند، لایههای ورودی و نرونهایی که ستاده تولید میکنند لایههای خروجی نامیده میشوند. لایههای ورودی و خروجی دارای ویژگی مشترک تعامل با دنیای خارج میباشند.
لایهای که در بین دو لایهی ورودی و خروجی وجود دارد، لایهی پنهان نامیده میشود که این لایه برخلاف دو لایهی دیگر با دنیای بیرون تعامل ندارد.
هر مدل شبکه دارای یک لایهی ورودی و یک لایه خروجی میباشد، در حالی که ممکن است دارای یک یا چندین لایهی پنهان باشد.
توپولوژی شبکه :[2]
چگونگی سازماندهی و ارتباط بین لایههای شبکه عصبی توسط توپولوژی شبکهی عصبی توصیف میگردد. توپولوژی شبکه معمولاً از لحاظ مسیر ارتباطی به دو دسته تقسیم میشود:
1- شبکههای پیشخور:
شبکههایی هستند که جریان دادهها فقط از نرونهای ورودی به سمت نرونهای خروجی صورت میپذیرد و ارتباط میان خروجی نرونها با نرونهای همان لایه و یا لایههای قبل امکانپذیر نیست.
2- شبکههای پسخور:
در این نوع شبکهها ارتباط میان خروجی نرونها با نرونهای همان لایه و یا لایههای قبل امکان پذیر میباشد و در واقع خواص دینامیکی این نوع از شبکهها حائز اهمیت است.
یادگیری شبکه:
یادگیری شبکه، فرآیندی است که طی آن، بردار وزنها و بایاسها بوسیلهی الگوریتم یادگیری به منظور پیدا کردن وزنهای بهینه تعدیل میگردند. پس از هر تکرار از الگوریتم یادگیری، شبکه از محیط، شرایط و هدف خود بیشتر مطلع می گردد.
انواع یادگیری:
یادگیری با ناظر: در یادگیری با ناظر، شبکه بوسیلهی زوجهای ورودی- خروجی آموزش داده می شود. زوج های ورودی- خروجی به شرح زیر میباشند:
pi,ti i=1,2,…,Lکه در آن ورودی شبکه و خروجی مطلوب شبکه یا همان هدف است. پس از اعمال به شبکهی عصبی خروجی ایجاد شده توسط شبکه با مقدار مطلوب شبکهی مقایسه گردیده، آنگاه وزنها طوری تعدیل میگردند که خروجی شبکه به هدف مورد نظر نزدیک شود.
یادگیری بدون ناظر: در یادگیری بدون ناظر، وزنها و بایاسها تنها در مقابل ورودی شبکه اصلاح میشوند و در واقع هیچ بردار هدفی وجود ندارد. این الگوریتم یادگیری برای عملیات دستهبندی استفاده میگردد. به یادگیری بدون ناظر، "یادگیری خودسازمان ده" نیز گفته میشود.
2-13-5) مدل ریاضی نرونها [20,14]
در این بخش با اجزای پایه ساختمان شبکههای عصبی مصنوعی نظیر نرونها، توابع انتقال و لایهها بیشتر آشنا خواهیم شد.
نرون ها با یک ورودی عددی
در شکل سمت چپ، مدل یک نرون با یک ورودی نمایش داده شده است. این نرون ساده از دو عنصر کلیدی تشکیل میگردد: وزنها و تابع انتقال F
p
w
n
F
a

نرون بدون بایاس
ورودی
p
w

متن کامل در سایت امید فایل 

n

a

F
نرون با بایاس
ورودی

شکل 2-2) نرون با یک ورودی عددی
ورودی p به نرون اعمال شده و با ضرب در وزن w، وزندار میگردد. حاصلضرب به عنوان ورودی به تابع انتقال f اعمال شده و خروجی نهایی a حاصل میشود.
با اضافه کردن بایاس، یک نرون بایاس دار به صورت نرون سمت راست ایجاد میگردد.
توابع انتقال:
a
n
1+

تابع انتقال، یک تابع خطی از n میباشد که با توجه به نوع شبکه عصبی، مورد استفادهی آن تغییر مییابد.
توابع انتقال مهم در شبکههای عصبی عبارتند از:
تابع انتقال (hard limit):
fn=0 n<01 &n≥0این تابع انتقال در صورتی که باشد، خروجی صفر و در صورتی که باشد خروجی 1 تولید مینماید. این تابع انتقال معمولاً در شبکه پرسپترون برای دستهبندی کردن ورودیها به دو کلاس مورد استفاده قرار میگیرند.
تابع انتقال خطی (pure line): a

n

f(n)=n
این تابع همان مقدار ورودی را به عنوان خروجی بر میگرداند. از این تابع انتقال برای تقریب خطی در فیلترینگ خطی استفاده میگردد.
a
n
1+
تابع انتقال لجستیک:

از این تابع انتقال، در شبکههای پس انتشار استفاده میشود. این تابع انتقال مقادیر ورودی را در محدوده تا دریافت کرده و بر مبنای فرمول فوق خروجی در بازهی تولید مینماید.
a
n
1+
1-
تابع انتقال تانژانت هیپربولیک :

این تابع نیز مانند تابع لجستیک معمولاً در شبکههای BP مورد استفاده قرار میگیرد. این تابع ورودی محدودهی تا را دریافت کرده و خروجی بر مبنای فرمول بالا در بازهی تولید مینماید.
شبکه تک لایه با چندین نرون و بردار ورودی:

F

ورودی

F

F

.
.
.

شکل 2-3) شبکه تک لایه با چندین نرون و بردار ورودی
در این شبکه ماتریس وزن ها در بردار ورودی ضرب شده و سپس با بردار بایاس ها جمع و به تابع
انتقال اعمال میگردد و در نهایت خروجی حاصل میگردد.
بردار وزن در شبکه بالا عبارت است از:

شبکههای عصبی با چندین لایه و چندین نرون:

.
.
.
.
.
.

.
.
.

برخی از شبکهها میتوانند از چند لایه تشکیل گردند که هر لایه در شبکه دارای ماتریس وزنها، بردار بایاسها و خروجی مخصوص خود میباشند. شکل زیر بیانگر یک شبکه دو لایه میباشد.

2-4) شبکههای عصبی با چندین لایه و چندین نرون
: وزن ارتباطی بین لایهی ورودی و لایه پنهان اول
: وزن ارتباطی بین لایهی پنهان اول و دوم
2-13-6) الگوریتم پسانتشار خطا
شبکه پسانتشار، که به اختصار آن را با BP نمایش میدهیم، یک شبکه چند لایه با تابع انتقال غیرخطی و قاعده یادگیری Widrow-Hoff میباشد. از بردار ورودی و هدف در راستای آموزش این نوع شبکه، برای تقریب زدن یک تابع، یافتن رابطهی بین ورودی و خروجی و دستهبندی ورودیها استفاده میگردد.
یک شبکهی پسانتشار با دارا بودن بایاس، یک لایه sigmoid و یک لایهی خروجی در تخمین توابع خطی بسیار توانمند میباشد.
BPاستاندارد یک الگوریتم کاهش شیب است که در آن وزنهای شبکه در جهت خلاف شیب تابع کارآیی حرکت میکنند. لغت پسانتشار به رفتار شبکه در محاسبهی شیب در شبکههای غیرخطی چند لایه اشاره دارد. الگوریتمهای مختلفی وجود دارند که بر مبنای این الگوریتم استاندارد عمل میکنند.
از جمله این الگوریتمها می توان به الگوریتمهای گرادیان توأم، روشهای شبه نیوتن و الگوریتم L-M اشاره نمود. نرخ یادگیری در الگوریتم پسانتشار خطا اهمیت بالایی را داراست، زیرا نرخ یادگیری میزان تغییر در وزنها را مشخص میکند. افزایش نرخ یادگیری منجر به افزایش هر گام اصلاحی و در نتیجه بیثباتی آموزش و کاهش آن منجر به افزایش زمان برای همگرایی میگردد.
2-13-7) معماری شبکههای پسانتشاریکی از مرسومترین معماریهای شبکههای ‍BP، شبکههای چند لایه پیشخور میباشند که به منظور تخمین مدل، طبقهبندی و مدلسازی به طور گسترده مورد استفاده قرار میگیرد.[46]
شبکههای پیشخور اغلب دارای یک یا چند لایهی پنهان از نرونهای sigmoid بوده و در لایهی خروجی خود از تابع فعال سازی خطی استفاده میکنند.
شبکهی پیشخور (ff) را میتوان به صورت بیان نمود به طوری که I میزان نرونها در لایهی ورودی و H میزان نرونها در لایهی پنهان و O میزان نرونها در لایهی خروجی را نشان میدهد. شکل زیر یک شبکهی پیشخور را به نمایش میکشد.
لایه خروجی
ورودی
P

پاسخ دهید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *