1991-6639 2949-1940 Известия Кабардино-Балкарского научного центра РАН NEWS OF THE KABARDINO-BALKARIAN SCIENTIFIC CENTER OF RAS КБНЦ РАН 10.35330/1991-6639-2026-28-3-49-70 RTBSAL https://izvestiyakbncran.ru/index.php/28-3-4/ СИСТЕМНЫЙ АНАЛИЗ, УПРАВЛЕНИЕ И ОБРАБОТКА ИНФОРМАЦИИ, СТАТИСТИК SYSTEM ANALYSIS, MANAGEMENT AND INFORMATION PROCESSING , STATISTICS Прогнозирование нагрузки на каждый час суток с помощью PatchTST и Temporal Fusion Transformer: сравнительный системный анализ с традиционными методами бустинга (CatBoost) и нейросетевыми моделями на базе N-HiTS Hourly load forecasting via PatchTST and Temporal Fusion Transformers: comparative system analysis with CatBoost and N-HiTS network models Дзгоев Алан Эдуардович Дзгоев Алан Эдуардович Dzgoev Alan E. dzgoev@mirea.ru 0000-0002-1314-6151 Климкин Егор Владимирович Климкин Егор Владимирович Klimkin Egor V. KlimkinEVK@yandex.ru 0009-0001-3876-3041 Черняускас Владислав Витаутович Черняускас Владислав Витаутович Chernyauskas Vladislav V. chernyauskas-vladislav@yandex.ru 0009-0002-8438-3418 Брайловский Андрей Валерьевич Брайловский Андрей Валерьевич Brailovsky Andrey V. brajlovskij@mirea.ru 0009-0006-1794-7825 Резеньков Роман Николаевич Резеньков Роман Николаевич Rezenkov Roman N. rezenkov@mirea.ru 0009-0005-5542-2125 МИРЭА– Российский технологический университет (Москва, Россия) MIREA – Russian Technological University (Moscow, Russia) 22 06 2026 2026 28 3 49 70 01 04 2026 11 06 2026 Дзгоев А. Э., Климкин Е. В., Черняускас В. В., Брайловский А. В., Резеньков Р. Н. 2026 Дзгоев А. Э., Климкин Е. В., Черняускас В. В., Брайловский А. В., Резеньков Р. Н. Dzgoev A.E., Klimkin E.V., Chernyauskas V.V., Brailovsky A.V., Rezenkov R.N. CC BY 4.0 https://izvestiyakbncran.ru/index.php/28-3-4/

В современных условиях динамичного поведения спроса и влияния внешних факторов традиционные статистические авторегрессионные методы моделирования (ARIMA, SARIMAX) часто уступают место алгоритмам машинного обучения (Gradient Boosting) и современным архитектурам глубокого обучения (Transformers). Цель исследования – решение задачи выбора лучшей модели прогнозирования электропотребления на каждый час следующих суток в условиях ограниченности информации с применением современных методов машинного и глубокого обучения: CatBoost, Temporal Fusion Transformer (TFT), PatchTST, N‑HiTS. Материалы и методы исследования. Код программы написан на языке Python и представлен на открытой платформе GitHub по адресу: https://github.com/KEV0143/Comparative-analysis-of-hourly-load-forecasting-using-PatchTST-TFT-NHiTS-and-CatBoost. Результаты. В рамках каждого из рассматриваемых методов разработаны новые качественные и адекватные математические модели для прогнозирования электропотребления. Важный математический результат состоит в том, что решение задачи – прогнозирование электропотребления для управления энергосбережением на предприятии – сведено к научно обоснованному выбору одной лучшей модели, что важно с точки зрения как теоретического исследования алгоритмов современного машинного и глубокого обучения моделей, так и их практического применения, учитывая возрастающий объем данных. Задача является значимой для целей оптимизации расхода электроэнергии на предприятии и в регионе в целом. Заключение. В результате проведенного теоретического анализа и вычислительного эксперимента на реальных данных энергетической компании Российской Федерации получен важный практический вывод о применимости модели CatBoost для решения задач оптимизации расхода электроэнергии на предприятиях. Все полученные в статье выводы подтверждаются результатами проведенных статистических тестов.

Under modern conditions of dynamic demand behavior and external factors, traditional statistical autoregressive modeling methods (ARIMA, SARIMAX) are increasingly outperformed by machine learning algorithms (Gradient Boosting) and modern deep learning architectures (Transformers). Aim. This study aims to address the problem of selecting the optimal model for next-day hourly electricity consumption forecasting under limited information constraints, utilizing advanced machine and deep learning methods such as CatBoost, Temporal Fusion Transformer (TFT), PatchTST, and N-HiTS. Materials and methods. The source code was developed in Python and is publicly available as an open-source repository on GitHub at https://github.com/KEV0143/Comparative-analysis-of-hourly-load-forecasting-using-PatchTST-TFT-NHiTS-and-CatBoost. Results. New highly accurate and robust mathematical models for electricity consumption forecasting were successfully developed for each of the evaluated methods. A key mathematical outcome of this study demonstrates that effective electricity consumption forecasting for corporate energy conservation can be formulated as a scientifically substantiated selection of the single optimal model. This approach is crucial for both the theoretical analysis of advanced machine learning algorithms and their practical deployment, driven by the rapidly growing volume of data. Addressing this issue is highly significant for energy consumption optimization across individual enterprises and entire regions. Conclusion. The theoretical analysis and computational experiments utilizing empirical data from a Russian energy company provided valuable practical insights into the applicability of the CatBoost model for industrial energy consumption optimization. All conclusions presented in this paper are rigorously supported by statistical test results.

 Ключевые слова системный анализ моделей математическая статистика краткосрочное прогнозирование потребление электроэнергии сравнительный системный анализ машинное обучение глубокое обучение CatBoost Temporal Fusion Transformer (TFT) PatchTST N‑HiTS Keywords systems analysis of models mathematical statistics short-term load forecasting electricity consumption comparative analysis machine learning deep learning CatBoost Temporal Fusion Transformer (TFT) PatchTST N‑HiTS Исследование проведено без спонсорской поддержки. The study was performed without external funding. Карпенко С. М., Карпенко Н. В., Ематин Е. А., Марат Ш. Планирование электропотребления промышленного предприятия в условиях оптового рынка электроэнергии // Энергобезопасность и энергосбережение. 2024. № 6. С. 35–40. EDN: CKFPVC Карпенко С. М., Карпенко Н. В., Ематин Е. А., Джунджу Д. Многофакторный статистический анализ показателей оптового рынка электроэнергии (на примере ценовой зоны) // Энергобезопасность и энергосбережение. 2024. № 4. С. 37–42. EDN: QBTQHW Бык Ф. Л., Мышкина Л. С. Экономическая эффективность современной электроэнергетики // Энергетик. 2022. № 1. С. 17–21. EDN: OGTFOW Hong T., Fan S. Probabilistic electric load forecasting: A Tutorial Review. International Journal of Forecasting. 2016. Vol. 32. No. 3. Pp. 914–938. DOI: 10.1016/j.ijforecast.2015.11.011 Dudek G. Pattern-based local linear regression models for short-term load forecasting. Electric Power System Research. 2016. No. 130. Pp. 139–147. DOI: 10.1016/ j.epsr.2015.09.001 Gochhait S., Sharma D.K. Regression model-based short-term load forecasting for load despatch centre. Journal of Applied Engineering and Technological Science. 2023. Vol. 4(2). Pp. 693–710. DOI: 10.37385/jaets.v4i2.1682 Lee M.H.L., Ser Y.C., Selvachandran G., Pham T.H. A comparative study of forecasting electricity consumption using machine learning models. Mathematics. 2022. Vol. 10. Article 1329. DOI: 10.3390/math10081329 Dayarathna M., Wen Yo., Fan Rui. Data center energy consumption modeling: a survey. IEEE Communications Surveys & Tutorials. 2016. Vol. 18. No. 1. DOI: 10.1109/COMST.2015.2481183 Mughees M., Li Y., Chen Y., Li Y.R. Short-term load forecasting for ai-data center. IEEE PES General Meeting 2025. Electrical Engineering and Systems Science. 2025. DOI: 10.48550/arXiv.2503.07756 Ye Z., Gao W., Hu Q. et al. Deep learning workload scheduling in GPU datacenters: A survey. ACM Computing Surveys. 2024. Vol. 56. No. 6. Pp. 1–38. DOI: 10.1145/3638757 Munkhammar J., Meer D., Widén J. Very short term load forecasting of residential electricity consumption using the Markov-chain mixture distribution (MCM) model. Applied Energy. 2021. 282(A):116180. DOI: 10.1016/j.apenergy.2020.116180 Hippert H.S., Pedreira C.E., Souza R.C. Neural networks for short-term load forecasting: a review and evaluation. IEEE Transactions on Power Systems. Vol. 16. No. 1. Pp. 44–55. 2001. DOI: 10.1109/59.910780 Sailor D.J., Munoz J.R. Sensitivity of electricity and natural gas consumption to climate in the U.S.A. Methodology and results for eight states. Energy. 1997. Vol. 22. No. 10. Pp. 987–998. DOI: 10.1016/S0360-5442(97)00034-0 Hong T., Pinson P., Fan S. et al. Probabilistic energy forecasting: global energy forecasting competition 2014 and beyond. International Journal of Forecasting. 2016. Vol. 32. No. 3. Pp. 896–913. DOI: 10.1016/j.ijforecast.2016.02.001 Wang A., Yu Q., Wang J. et al. Electric load forecasting based on deep ensemble learning. Applied Sciences. 2023. Vol. 13. No. 17. P. 9706. DOI: 10.3390/app13179706 Lim B., Arık Ö.S., Loeff N., Pfister T. Temporal fusion transformer for interpretable multi-horizon time series forecasting. International Journal of Forecasting. 2021. Vol. 37. No. 1. DOI: 10.1016/j.ijforecast.2021.03.012 Challu C., Olivares K.G., Oreshkin B.N. et al. N‑HiTS: Neural hierarchical interpolation for time series forecasting. Proceedings of the AAAI Conference on Artificial Intelligence. 2023. Vol. 37. No. 6. Pp. 6989–6997. DOI: 10.48550/arXiv.2201.12886 Ahmad H., Mortazavi S.K., Bahnasawi M.E. et al. Enhanced time series forecasting: integrating PatchTST with BERT Layers. Conference: 5th International Conference on Applied Mathematics & Computer Science (ICAMCS 2025). At: Venice, Italy, September 27–29, 2025. DOI: 10.1109/ICAMCS62774.2024.00014 Dorogush A.V., Ershov V., Gulin A. Catboost: gradient boosting with categorical features support. DOI: 10.48550/arXiv.1810.11363.2018 Lim B., Arık S.Ö., Loeff N., Pfister T. Temporal fusion transformer for interpretable multi-horizon time series forecasting. International Journal of Forecasting. Vol. 37. No. 4. 2021. Pp. 1748–1764. DOI: 10.1016/j.ijforecast.2021.03.012. Nie Y., Nguyen N.H., Sinthong P., Kalagnanam J. A time series is worth 64 words: long-term forecasting with transformers (PatchTST). Proceedings of the International Conference on Learning Representations. International Conference on Learning Representations ICLR 2023. https://arxiv.org/pdf/2211.14730.pdf Karpenko S.M., Karpenko N.V., Ematin E.A., Marat Sh. Power consumption planning for an industrial enterprise under the conditions of the wholesale electricity market. Energy Safety and Energy Economy. 2024. No. 6. Pp. 35–40. EDN: CKFPVC. (In Russian) Karpenko S.M., Karpenko N.V., Ematin E.A., Jjunju D. Multiple factor analysis of the wholesale electricity market on the example of a specific pricing zone. Energy Safety and Energy Economy. 2024. No. 4. Pp. 37–42. EDN: QBTQHW. (In Russian) Byk F.L., Myshkina L.S. Economic efficiency of modern electric power industry. Energetik. 2022. No. 1. Pp. 17–21. EDN: OGTFOW. (In Russian) Hong T., Fan S. Probabilistic electric load forecasting: A Tutorial Review. International Journal of Forecasting. 2016. Vol. 32. No. 3. Pp. 914–938. DOI: 10.1016/j.ijforecast.2015.11.011 Dudek G. Pattern-based local linear regression models for short-term load forecasting. Electric Power System Research. 2016. No. 130. Pp. 139–147. DOI: 10.1016/ j.epsr.2015.09.001 Gochhait S., Sharma D.K. Regression model-based short-term load forecasting for load despatch centre. Journal of Applied Engineering and Technological Science. 2023. Vol. 4(2). Pp. 693–710. DOI: 10.37385/jaets.v4i2.1682 Lee M.H.L., Ser Y.C., Selvachandran G., Pham T.H. A comparative study of forecasting electricity consumption using machine learning models. Mathematics. 2022. Vol. 10. Article 1329. DOI: 10.3390/math10081329 Dayarathna M., Wen Yo., Fan Rui. Data center energy consumption modeling: a survey. IEEE Communications Surveys & Tutorials. 2016. Vol. 18. No. 1. DOI: 10.1109/COMST.2015.2481183 Mughees M., Li Y., Chen Y., Li Y.R. Short-term load forecasting for ai-data center. IEEE PES General Meeting 2025. Electrical Engineering and Systems Science. 2025. DOI: 10.48550/arXiv.2503.07756 Ye Z., Gao W., Hu Q. et al. Deep learning workload scheduling in GPU datacenters: A survey. ACM Computing Surveys. 2024. Vol. 56. No. 6. Pp. 1–38. DOI: 10.1145/3638757 Munkhammar J., Meer D., Widén J. Very short term load forecasting of residential electricity consumption using the Markov-chain mixture distribution (MCM) model. Applied Energy. 2021. 282(A):116180. DOI: 10.1016/j.apenergy.2020.116180 Hippert H.S., Pedreira C.E., Souza R.C. Neural networks for short-term load forecasting: a review and evaluation. IEEE Transactions on Power Systems. Vol. 16. No. 1. Pp. 44–55. 2001. DOI: 10.1109/59.910780 Sailor D.J., Munoz J.R. Sensitivity of electricity and natural gas consumption to climate in the U.S.A. Methodology and results for eight states. Energy. 1997. Vol. 22. No. 10. Pp. 987–998. DOI: 10.1016/S0360-5442(97)00034-0 Hong T., Pinson P., Fan S. et al. Probabilistic energy forecasting: global energy forecasting competition 2014 and beyond. International Journal of Forecasting. 2016. Vol. 32. No. 3. Pp. 896–913. DOI: 10.1016/j.ijforecast.2016.02.001 Wang A., Yu Q., Wang J. et al. Electric load forecasting based on deep ensemble learning. Applied Sciences. 2023. Vol. 13. No. 17. P. 9706. DOI: 10.3390/app13179706 Lim B., Arık Ö.S., Loeff N., Pfister T. Temporal fusion transformer for interpretable multi-horizon time series forecasting. International Journal of Forecasting. 2021. Vol. 37. No. 1. DOI: 10.1016/j.ijforecast.2021.03.012 Challu C., Olivares K.G., Oreshkin B.N. et al. N‑HiTS: Neural hierarchical interpolation for time series forecasting. Proceedings of the AAAI Conference on Artificial Intelligence. 2023. Vol. 37. No. 6. Pp. 6989–6997. DOI: 10.48550/arXiv.2201.12886 Ahmad H., Mortazavi S.K., Bahnasawi M.E. et al. Enhanced time series forecasting: integrating PatchTST with BERT Layers. Conference: 5th International Conference on Applied Mathematics & Computer Science (ICAMCS 2025). At: Venice, Italy, September 27–29, 2025. DOI: 10.1109/ICAMCS62774.2024.00014 Dorogush A.V., Ershov V., Gulin A. Catboost: gradient boosting with categorical features support. DOI: 10.48550/arXiv.1810.11363.2018 Lim B., Arık S.Ö., Loeff N., Pfister T. Temporal fusion transformer for interpretable multi-horizon time series forecasting. International Journal of Forecasting. Vol. 37. No. 4. 2021. Pp. 1748–1764. DOI: 10.1016/j.ijforecast.2021.03.012. Nie Y., Nguyen N.H., Sinthong P., Kalagnanam J. A time series is worth 64 words: long-term forecasting with transformers (PatchTST). Proceedings of the International Conference on Learning Representations. International Conference on Learning Representations ICLR 2023. https://arxiv.org/pdf/2211.14730.pdf