News of the Kabardino-Balkarian Scientific Center of the Russian Academy of SciencesNews of the Kabardino-Balkarian Scientific Center of the Russian Academy of SciencesИзвестия Кабардино-Балкарского научного центра РАН1991-66392949-194029071010.35330/1991-6639-2025-27-1-143-151XRYMDHSystem analysis, management and information processingСистемный анализ, управление и обработка информацииResearch ArticleComparative analysis of class imbalance reduction methods in building machine learning models in the financial sectorСравнительный анализ методов снижения дисбаланса классов при построении моделей машинного обучения в финансовом сектореhttps://orcid.org/0009-0000-9591-33013088-3121KonstantinovAlexey F.КонстантиновАлексей Федорович
Russian Federation

аспирант кафедры информатики

Post-graduate Student, Department of Informatics

konstantinovaf@gmail.comhttps://orcid.org/0000-0001-5229-80702513-8831ДьяконоваЛюдмила ПавловнаDyakonovaLyudmila P.
Russian Federation

канд. физ.-мат. наук, доцент, кафедра информатики

Candidate of Physical and Mathematical Sciences, Associate Professor, Department of Informatics

Dyakonova.LP@rea.ruРоссийский экономический университет им. Г. В. ПлехановаPlekhanov Russian University of Economicsru1502202520252711431500705202507052025Copyright ©; 2025, Константинов А.F., Дьяконова Л.P.Copyright ©; 2025, Константинов А.Ф., Дьяконова Л.П.2025Константинов А.F., Дьяконова Л.P.Константинов А.Ф., Дьяконова Л.П.https://creativecommons.org/licenses/by/4.0https://journals.rcsi.science/1991-6639/article/view/290710

The article discusses methods for improving quality metrics of machine learning models used in the financial sector. Due to the fact that the data sets on which the models are trained have class imbalances, it is proposed to use models aimed at reducing the imbalance. The study conducted experiments using 9 methods for accounting for class imbalances with three data sets on retail lending. The CatboostClassifier gradient boosting model, which does not take into account class imbalances, was used as the base model. The experiments showed that the use of the RandomOverSampler method provides a significant increase in classification quality metrics compared to the base model. The results indicate the promise of further research into methods for accounting for class imbalances in the study of financial data, as well as the feasibility of application of the considered methods in practice.

В статье рассматриваются методы улучшения показателей качества моделей машинного обучения, применяемых в финансовом секторе. В связи с тем, что наборы данных, на которых обучаются модели, обладают несбалансированностью классов, предлагается использовать модели, направленные на снижение дисбаланса. В исследовании были проведены эксперименты с применением 9 методов учета несбалансированности классов к трем наборам данных по розничному кредитованию. В качестве базовой использовалась модель градиентного бустинга CatboostClassifier, не учитывающая дисбаланс классов. Проведенные эксперименты показали, что применение метода RandomOverSampler дает существенный прирост показателей качества классификации по сравнению с базовой моделью. Результаты свидетельствуют о перспективности дальнейших исследований методов учета дисбаланса классов при изучении финансовых данных, а также о целесообразности применения рассмотренных методов на практике.

financial risksmachine learningclassificationclass imbalanceфинансовые рискимашинное обучениеклассификациядисбаланс классовChawla N.V., Bowyer K.W., Hall L.O., Kegelmeyer W.P. Smote: synthetic minority over-sampling technique. Journal of artificial intelligence research. 2002. Vol. 16. Pp. 321–357. DOI: 10.1613/jair.953He H., Bai Y., Garcia E.A., Li S. Adasyn: adaptive synthetic sampling approach for imbalanced learning. In 2008 IEEE International Joint Conference on Neural Networks (IEEE World Congress on Computational Intelligence). 2008. Pp. 1322–1328. DOI: 10.1109/IJCNN.2008.4633969Han H., Wang W.-Y., Mao B.-H. Borderline-smote: a new over-sampling method in imbalanced data sets learning. International conference on intelligent computing. 2005. Pp. 878–887. Springer. DOI: 10.1007/11538059_91Tomek I. Two modifications of cnn. IEEE Trans. Systems, Man and Cybernetics. 1976. Vol. 6. Pp. 769–772. DOI: 10.1109/TSMC.1976.4309452Laurikkala J. Improving identification of difficult small classes by balancing class distribution. In Conference on Artificial Intelligence in Medicine in Europe. 2001. Pp. 63–66. Springer. DOI: 10.1007/3-540-48229-6_9Batista G., Prati R.C., Monard M.C. A study of the behavior of several methods for balancing machine learning training data. ACM Sigkdd Explorations Newsletter 2004. Vol. 6. No. 1. Pp. 20–29. DOI: 10.1145/1007730.1007735Batista G., Bazzan B., Monard M., Balancing Training Data for Automated Annotation of Keywords: a Case Study. In WOB. 2003. Pp. 10–18. BibTeX key: conf/wob/BatistaBM03