انجمن سیستم های فازی ایران سیستم های فازی و کاربردها 2717-4409 8 1 2025 06 22 Investigating the effect of selecting hyperparameters in time series forecasting using LSTM neural networks بررسی تأثیر انتخاب ابرپارامترها در پیش بینی سری زمانی با استفاده از شبکه‌های عصبی LSTM 93 119 226789 10.22034/jfsa.2025.483155.1248 FA محمدرضا پورمیر گروه مهندسی کامپیوتر، دانشکده فنی و مهندسی، دانشگاه زابل، زابل، ایران نجمه قنبری گروه مهندسی کامپیوتر، دانشکده فنی و مهندسی، دانشگاه زابل، زابل، ایران Journal Article 2024 10 15 “One of the important issues in the field of data mining is time series prediction, which has attracted the attention of many researchers in recent years.” Usually, the time series data are related to time and have specific patterns that by knowing these patterns and using them, it is possible to predict future events. One of the most common deep neural networks for predicting time series is the long-short-term memory (LSTM) neural network. The LSTM network is a recurrent neural network that can retain complex time-related information and understand complex patterns in time series. One of the important challenges of neural networks in predicting time series is determining the correct value of hyperparameters, which has a great impact on their efficiency and performance. Various hyperparameters can be considered. The hyperparameters considered in this paper are: the number of neurons in the hidden layer, the sparsity parameter, the weight reduction parameter in the cost function, and the sparsity penalty weight. The Bayesian optimization method is used to set the correct value of the hyperparameters to achieve the highest accuracy in the problem. Bayesian optimization method determines probability distribution for hyperparameters using probability theory. In order to evaluate the performance of the proposed method, a random data set has been used. The proposed method is applicable and generalizable to real data sets such as weather, environment and energy data. The obtained results show the efficiency and proper performance of the proposed method. چکیده. یکی از مسائل مهم در حوزه داده‌کاوی پیش‌بینی سری‌های زمانی می‌باشد و در سال‌های اخیر توجه محققان زیادی را به خود جلب کرده است. معمولا داده‌های سری‌های زمانی مرتبط با زمان و دارای الگوهای خاصی می‌باشند که با دانستن این الگوها و استفاده از آنها امکان پیش‌بینی رویدادهای آینده فراهم می‌شود. یکی از رایج‌ترین شبکه‌های عصبی عمیق برای پیش‌بینی سری‌های زمانی شبکه عصبی حافظه طولانی کوتاه‌مدت (LSTM ) می‌باشد. شبکه LSTM یک شبکه عصبی بازگشتی است که می تواند اطلاعات پیچیده مرتبط با زمان را حفظ و الگوهای پیچیده در سری‌های زمانی را درک کند. یکی از چالش‌های مهم شبکه‌های عصبی در پیش‌بینی سری‌های زمانی تعیین مقدار درست ابرپارامترها می‌باشد که بر کارایی و عملکرد آنها تاثیر زیادی دارد. ابرپارامترهای مختلفی می‌تواند در نظرگرفته شود. ابرپارامترهایی که در این مقاله در نظر گرفته شده‌اند عبارتند از: تعداد نرون‌ها در لایه پنهان، پارامتر پراکندگی، پارامتر کاهش وزن در تابع هزینه و وزن جریمه پراکندگی. برای تنظیم مقدار صحیح ابرپارامترها به گونه‌ای که بیشترین دقت در مساله حاصل شود از روش بهینه‌سازی بیزی استفاده می‌شود. روش بهینه‌سازی بیزی با استفاده از تئوری احتمالات برای ابرپارامترها توزیع احتمالی تعیین می‌کند. به منظور ارزیابی عملکرد روش پیشنهادی از مجموعه داده‌های تصادفی استفاده شده است. روش پیشنهادی قابل اجرا و تعمیم به مجموعه داده‌های واقعی مثل داده‌های آب و هوا، محیط زیست و انرژی می‌باشد. نتایج به دست آمده کارایی و عملکرد مناسب روش پیشنهادی را نشان می‌دهد. https://jfsa.fuzzy.ir/article_226789_a48be691052018fbe762d8ea096034b9.pdf