Ai-система обнаружения социальной инженерии в цифровых коммуникациях: многоуровневая архитектура и методика ее экспериментальной оценки

Аннотация

В статье рассматривается задача автоматического выявления атак социальной инженерии (фишинг, целевой фишинг, компрометация деловой переписки) в электронной почте и мессенджерах. Показано, что распространенные детекторы, опирающиеся на стиль и лексику текста, теряют надежность при появлении сообщений, сгенерированных большими языковыми моделями, а также при переписке на нескольких языках. Предложена архитектура многоуровневой системы, объединяющей три независимых канала анализа: лингвистический анализ текста трансформерной моделью, оценку отклонения сообщения от привычного профиля общения отправителя и технический анализ адресов, заголовков и вложений. Описано правило слияния решений, корректно учитывающее отсутствие истории переписки. Разработана методика экспериментальной оценки на открытых корпусах писем, включающая кросс-корпусное тестирование и полный факторный эксперимент 23 для анализа влияния доли сообщений, сгенерированных языковой моделью, длины истории отправителя и веса лингвистического канала на качество обнаружения. Работа носит проектный характер: программный прототип и численные результаты испытаний являются предметом следующего этапа исследования.

Ключевые слова: социальная инженерия, фишинг, обнаружение атак, обработка естественного языка, трансформер, информационная безопасность, планирование эксперимента

References

1. Verizon. 2024 Data Breach Investigations Report [Электронный ресурс]. – Verizon Business, 2024. – URL: https://www.verizon.com/business/resources/reports/dbir/ (дата обращения: 11.11.2026).
2. Hadnagy C. Social Engineering: The Science of Human Hacking. – 2nd ed. – Indianapolis: Wiley, 2018. – 320 p.
3. Cialdini R. B. Influence: The Psychology of Persuasion. – New York: Harper Business, 2006. – 336 p.
4. Federal Bureau of Investigation. Internet Crime Report 2023 [Электронный ресурс]. – Internet Crime Complaint Center (IC3), 2024. – URL: https://www.ic3.gov/ (дата обращения: 11.11.2026).
5. Hazell J. Spear Phishing With Large Language Models [Электронный ресурс] // arXiv. – 2023. – arXiv:2305.06972. – URL: https://arxiv.org/abs/2305.06972 (дата обращения: 11.11.2026).
6. Salloum S., Gaber T., Vadera S., Shaalan K. A Systematic Literature Review on Phishing Email Detection Using Natural Language Processing Techniques // IEEE Access. – 2022. – Vol. 10. – P. 65703–65727.
7. Kitterman S. Sender Policy Framework (SPF) for Authorizing Use of Domains in Email, Version 1: RFC 7208 [Электронный ресурс]. – IETF, 2014. – URL: https://www.rfc-editor.org/rfc/rfc7208 (дата обращения: 11.11.2026).
8. Crocker D., Hansen T., Kucherawy M. DomainKeys Identified Mail (DKIM) Signatures: RFC 6376 [Электронный ресурс]. – IETF, 2011. – URL: https://www.rfc-editor.org/rfc/rfc6376 (дата обращения: 11.11.2026).
9. Kucherawy M., Zwicky E. Domain-based Message Authentication, Reporting, and Conformance (DMARC): RFC 7489 [Электронный ресурс]. – IETF, 2015. – URL: https://www.rfc-editor.org/rfc/rfc7489 (дата обращения: 11.11.2026).
10. Abu-Nimeh S., Nappa D., Wang X., Nair S. A Comparison of Machine Learning Techniques for Phishing Detection // Proceedings of the Anti-Phishing Working Groups 2nd Annual eCrime Researchers Summit. – 2007. – P. 60–69.
11. Sahingoz O. K., Buber E., Demir O., Diri B. Machine Learning Based Phishing Detection from URLs // Expert Systems with Applications. – 2019. – Vol. 117. – P. 345–357.
12. Vaswani A., Shazeer N., Parmar N. [et al.]. Attention Is All You Need // Advances in Neural Information Processing Systems. – 2017. – Vol. 30. – P. 5998–6008.
13. Devlin J., Chang M.-W., Lee K., Toutanova K. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding // Proceedings of NAACL-HLT 2019. – 2019. – P. 4171–4186.
14. Conneau A., Khandelwal K., Goyal N. [et al.]. Unsupervised Cross-lingual Representation Learning at Scale // Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics (ACL). – 2020. – P. 8440–8451.
15. Liu F. T., Ting K. M., Zhou Z.-H. Isolation Forest // Proceedings of the 8th IEEE International Conference on Data Mining (ICDM). – 2008. – P. 413–422.
16. Chen T., Guestrin C. XGBoost: A Scalable Tree Boosting System // Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. – 2016. – P. 785–794.
17. Lundberg S. M., Lee S.-I. A Unified Approach to Interpreting Model Predictions // Advances in Neural Information Processing Systems. – 2017. – Vol. 30. – P. 4765–4774.
18. Klimt B., Yang Y. The Enron Corpus: A New Dataset for Email Classification Research // Machine Learning: ECML 2004. – Berlin: Springer, 2004. – (Lecture Notes in Computer Science; Vol. 3201). – P. 217–226.
19. Nazario J. Phishing Corpus [Электронный ресурс]. – URL: https://monkey.org/~jose/phishing/ (дата обращения: 11.11.2026).
20. PhishTank. Developer Information: Verified Phishing URLs [Электронный ресурс]. – URL: https://phishtank.org/ (дата обращения: 11.11.2026).
21. Montgomery D. C. Design and Analysis of Experiments. – 9th ed. – Hoboken: Wiley, 2017. – 640 p.

How to cite

Сарыкхазыева А.Р., Магипарова А.Е. Ai-система обнаружения социальной инженерии в цифровых коммуникациях: многоуровневая архитектура и методика ее экспериментальной оценки // Central Asian Scientific Journal. – 2026. – №4(32), Т. 2. – С. 204–211.