Логико-математическая интерпретация решений интеллектуальных агентов

Л. А. Лютикова, М. С. Кочкарова

---

Аннотация. Современные системы кибербезопасности сталкиваются с постоянным усложнением архитектуры сетей и увеличением разнообразия атакующих воздействий. В этих условиях особое значение приобретает способность интеллектуальных систем не только эффективно обнаруживать угрозы, но и объяснять принимаемые решения.
Цель работы – разработка и экспериментальная верификация модели RL-агента, способного принимать решения в сетевой среде, интерпретируемые в терминах временной и эпистемической логики.

Методы исследования. В данной работе в качестве основных методов исследования применяются имитационное и мультиагентное моделирование.
Результаты. В статье представлен формальный подход к развитию объяснимого обучения с подкреплением (Explainable Reinforcement Learning, XRL) для задач кибербезопасности, включающий разработку математической модели интеллектуального агента, способного выявлять аномалии в сетевом трафике и принимать решения в условиях неопределенности. Предложен метод интерпретации стратегий агента, основанный на использовании временной логики линейных последовательностей (LTL) и эпистемической логики (EL), что обеспечивает прозрачность, формальную проверяемость и объяснимость поведения системы. Демонстрируется, что логикоматематическая интерпретация обученных политик позволяет перейти от эмпирических зависимостей к формализуемым свойствам безопасности, живости и причинности, что способствует повышению доверия и надежности систем киберзащиты. В рамках вычислительного эксперимента подтверждена эффективность предложенного подхода: точность обнаружения аномалий достигла 94–96 %, а средняя задержка реакции – менее 0,3 секунды.

Заключение. Полученные результаты свидетельствуют о высокой применимости модели для построения объяснимых, верифицируемых и устойчивых систем кибербезопасности, а также демонстрируют, что логическая интерпретация стратегий способствует повышению прозрачности решений и укреплению доверия к интеллектуальным системам в области защиты информации. Эксперимент показал, что агент способен достигать высокой точности обнаружения угроз при малом времени реакции, а полученные логические формулы успешно проходят проверку на выполнимость спецификаций. Это подтверждает, что логическая интерпретация стратегий повышает прозрачность и доверие к решениям интеллектуальных систем.

Ключевые слова: модель, интерпретация, логический анализ, обучение с подкреплением, агент, объяснимый искусственный интеллект

Для цитирования. Лютикова Л. А., Кочкарова М. С. Логико-математическая интерпретация решений интеллектуальных агентов // Известия Кабардино-Балкарского научного центра РАН. 2025. Т. 27. № 6. С. 125–134. DOI: 10.35330/1991-6639-2025-27-6-125-134

Список литературы

1. Sutton R.S., Barto A.G. Reinforcement learning: an introduction. 2nd ed. MIT Press, 2020.
2. Rybakov V.V. Intransitive linear temporal logic, knowledge from past, decidability, admissible rules. arXiv preprint arXiv: 1503.08761. 2015.
3. Doshi-Velez F., Kim B. Towards a rigorous science of interpretable machine learning. arXiv preprint arXiv:1702.08608, 2017.
4. Rudin C. Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence. 2019. Vol. 1. Pp. 206–215.
5. Wang Ya., Yu W., Seligman J. Quantifier-free epistemic term-modal logic with assignment operator. Annals of Pure and Applied Logic. 2022. Vol. 173. No. 3. P. 103071. DOI: 10.1016/j.apal.2021.103071
6. Nguyen T.T., Reddi V.J. Deep reinforcement learning for cyber security. Computers & Security, 2022. Vol. 113. P. 102583. DOI: 10.1109/TNNLS.2021.3121870
7. Baier C., Katoen J.-P. Principles of Model Checking. MIT Press, 2008.
8. Shoham Y., Leyton-Brown K. Multiagent systems: algorithmic, game-theoretic, and logical foundations. Cambridge University Press, 2009.
9. Башмаков С. И., Кошелева А. В., Рыбаков В. В. Унификация во временных многоагентных логиках с универсальной модальностью // Математика в современном мире: тез. докл. междунар. конф. (14–19 августа 2017 г.). Новосибирск: ИМ СО РАН, 2017. С. 67.
10. Wolter F.M., Zakharyaschev M. Undecidability of the unification and admissibility problems for modal and description logics. ACM Transactions on Computational Logic. 2008. Vol. 9. No. 4. P. 25.
11. Lyutikova L.A. Methods for improving the efficiency of neural network decision-making. Advances in Automation IV. RusAutoCon 2022. Lecture Notes in Electrical Engineering. 2023. Vol. 986. Pp. 294–303. DOI: 10.1007/978-3-031-22311-2_29

Информация об авторах

Лютикова Лариса Адольфовна, вед. науч. сотр. отдела нейроинформатики и машинного обучения, Институт прикладной математики и автоматизации – филиал Кабардино-Балкарского научного центра Российской академии наук;
360000, Россия, г. Нальчик, ул. Шортанова, 89 А;
lylarisa@yandex.ru, ORCID: https://orcid.org/0000-0003-4941-7854, SPIN-код: 1679-7460
Кочкарова Мадина Сосламбековна, ассистент кафедры «Цифровая инженерия и сетевые технологии», Северо-Кавказская государственная академия;
369001, Россия, г. Черкесск, ул. Ставропольская, 36
madina_kochkarova_94@mail.ru