|
شبكه هاي حالت پژواك (Echo State Networks يا ESNs) به عنوان ابزارهاي قدرتمندي براي پيش بيني سري هاي زماني مطرح شده اند، اما عملكرد آن ها به شدت به چگونگي مقداردهي اوليه مخزن (reservoir) وابسته است، كه به طور سنتي بر پايه وزن هاي تصادفي و مستقل از ويژگي هاي داده هاي ورودي انجام مي شود. اين مقاله چارچوب نظري نوآورانه اي همراه با يك روش بهينه سازي براي طراحي مخزن ESN ارائه مي دهد و نشان مي دهد كه وزن هاي مخزن بايد بر اساس ويژگي هاي داده هاي ورودي تنظيم شوند و اين كه هم توپولوژي و هم وزن ها تأثير قابل توجهي بر دقت پيش بيني دارند.
با بهره گيري از بينش هاي نظري در مورد رفتار مخزن وابسته به ورودي، دو روش مكمل پيشنهاد مي كنيم:
1. يك رويكرد نظارت شده (supervised) كه مستقيماً وزن هاي مخزن را با استفاده از گراديان نزولي بهينه مي كند.
2. يك تكنيك نيمه نظارتي (semi-supervised) كه ويژگي هاي شبكه هاي "جهان كوچك" (small-world) و "مقياس آزاد" (scale-free) را با بهينه سازي ابرپارامترها تركيب مي كند.
آزمايش هاي گسترده ما روي مجموعه داده هاي مختلف، از جمله سري هاي زماني Mackey-Glass و NARMA، نشان مي دهند كه روش هاي پيشنهادي به طور مداوم عملكرد بهتري نسبت به ESNهاي سنتي دارند و خطاي پيش بيني را به طور قابل توجهي كاهش مي دهند. مهم تر از همه، تحليل ما نشان مي دهد كه پارامترهاي اتصال بين يال ها نقش حياتي دارند و پس از اندازه مخزن، دومين عامل تعيين كننده در عملكرد شبكه هستند. اين يافته ها راهنمايي هاي عملي مهمي براي طراحي ESN فراهم مي كنند و مسيرهاي جديدي را براي بهينه سازي خودكار مخزن بر اساس ويژگي هاي داده هاي ورودي مي گشايند.
|