Штучний інтелект

Науковий журнал

ISSN 2710-1673

ONLINE: ISSN 2710-1681

Шукати за:

Роком видання
Автором
Назвою статті

Застосування семантичної метрики для виявлення промт-ін’єкцій у мультиагентних системах на основі мовних моделей

Клименко М.С.1
1 Інститут проблем штучного інтелекту МОН України і НАН України

Повний текст (PDF)

УДК: 004.8
Мова публікації: Українська
Stuc. intelekt. 2026; 31; (2):177-182

Анотація: У роботі узагальнено сучасні дослідження останніх років з метою проведення ґрунтовного аналізу методологій виявлення, оцінки їхньої ефективності щодо еволюціонуючих зловмисних стратегій, таких як непряма ін’єкція, замасковані під предметну область шкідливі навантаження та кон’юнктивні атаки. Окреслено зміну парадигми у виявленні атак ін’єкції промтів, що полягає у переході від статичних, одноагентних механізмів захисту до динамічних, мультиагентних та структурно-орієнтованих архітектур. Новизна сучасних досліджень полягає в усвідомленні того, що традиційні лексичні та семантичні фільтри є недостатніми для протидії адаптивним зловмисникам, які використовують складні топології комунікації мультиагентних систем на основі великих мовних моделей.

Ключові слова: багатоагентні системи, відстеження механізму уваги, міркування на основі ланцюжка думок, адаптивне розподілення детекторів, доменно замасковані атаки, адаптація під час тестування, мультимодальна безпека, непряме впровадження запитів

Посилання:

  1. Akinrele, A., & Gowda, S. N. (2026). Prompt Injection Detection is Regime-Dependent: A Deployment-Aware Evaluation with Interpretable Structural Signals (Version 1). arXiv. https://doi.org/10.48550/ARXIV.2605.26999
  2. Arif, N. H., Lou, Q., & Zheng, M. (2026). Conjunctive Prompt Attacks in Multi-Agent LLM Systems (Version 1). arXiv. https://doi.org/10.48550/ARXIV.2604.16543
  3. Ayub, Md. A., & Majumdar, S. (2024). Embedding-based classifiers can detect prompt injection attacks (Version 1). arXiv. https://doi.org/10.48550/ARXIV.2410.22284
  4. Chang, H., Jun, Y., & Lee, H. (2025). ChatInject: Abusing Chat Templates for Prompt Injection in LLM Agents (Version 3). arXiv. https://doi.org/10.48550/ARXIV.2509.22830
  5. Chen, Y., Cao, T., Li, H., Liu, Y., Li, Y., He, Y., Khoi, L. M., Song, Y., Yan, S., & Hooi, B. (2026). WebAgentGuard: A Reasoning-Driven Guard Model for Detecting Prompt Injection Attacks in Web Agents (Version 1). arXiv. https://doi.org/10.48550/ARXIV.2604.12284
  6. Du, M., Fang, H., Ma, H., Chen, J., Xu, K., Yin, Q., & Chang, E.-C. (2026). SnapGuard: Lightweight Prompt Injection Detection for Screenshot-Based Web Agents (Version 1). arXiv. https://doi.org/10.48550/ARXIV.2604.25562
  7. Ferrag, M. A., Tihanyi, N., Hamouda, D., Maglaras, L., Lakas, A., & Debbah, M. (2025). From Prompt Injections to Protocol Exploits: Threats in LLM-Powered AI Agents Workflows (Version 2). arXiv. https://doi.org/10.48550/ARXIV.2506.23260
  8. Gosmar, D., & Dahl, D. A. (2025). Sentinel Agents for Secure and Trustworthy Agentic AI in Multi-Agent Systems (Version 1). arXiv. https://doi.org/10.48550/ARXIV.2509.14956
  9. Gosmar, D., & Dahl, D. A. (2026). Prompt Injection Mitigation with Agentic AI, Nested Learning, and AI Sustainability via Semantic Caching (Version 1). arXiv. https://doi.org/10.48550/ARXIV.2601.13186
  10. Gosmar, D., Dahl, D. A., & Gosmar, D. (2025). Prompt Injection Detection and Mitigation via AI Multi-Agent NLP Frameworks (Version 1). arXiv. https://doi.org/10.48550/ARXIV.2503.11517
  11. Gulyamov, S., Gulyamov, S., Rodionov, A., Khursanov, R., Mekhmonov, K., Babaev, D., & Rakhimjonov, A. (2026). Prompt Injection Attacks in Large Language Models and AI Agent Systems: A Comprehensive Review of Vulnerabilities, Attack Vectors, and Defense Mechanisms. Information, 17(1), 54. https://doi.org/10.3390/info17010054
  12. Guo, Q., Tang, J., & Huang, X. (2025). Attacking LLMs and AI Agents: Advertisement Embedding Attacks Against Large Language Models (Version 2). arXiv. https://doi.org/10.48550/ARXIV.2508.17674
  13. Hao, G., & Wu, J. (2025). Privacy-Preserving Prompt Injection Detection for Smart Cloud-Deployed Large Language Models. 2025 IEEE 10th International Conference on Smart Cloud (SmartCloud), 26–31. https://doi.org/10.1109/smartcloud66068.2025.00009
  14. He, P., Xing, Y., Li, J., Dong, S., Dai, Z., Tang, X., Liu, H., Xu, H., Xiang, Z., Aggarwal, C. C., & Liu, H. (2025). Comprehensive Vulnerability Analysis is Necessary for Trustworthy LLM-MAS (Version 3). arXiv. https://doi.org/10.48550/ARXIV.2506.01245
  15. Hossain, S. M. A., Shayoni, R. K., Ameen, M. R., Islam, A., Mridha, M. F., & Shin, J. (2025). A Multi-Agent LLM Defense Pipeline Against Prompt Injection Attacks (Version 4). arXiv. https://doi.org/10.48550/ARXIV.2509.14285
  16. Hung, K.-H., Ko, C.-Y., Rawat, A., Chung, I.-H., Hsu, W. H., & Chen, P.-Y. (2024). Attention Tracker: Detecting Prompt Injection Attacks in LLMs (Version 2). arXiv. https://doi.org/10.48550/ARXIV.2411.00348
  17. Ju, T., Wang, Y., Hua, Y., Ma, X., Cheng, P., Zhao, H., Wang, Y., Liu, L., Xie, J., Zhang, Z., & Liu, G. (2026). Flooding spread of manipulated knowledge in LLM-based multi-agent communities. Science China Information Sciences, 69(7). https://doi.org/10.1007/s11432-024-4663-2
  18. Kokkula, S., R, S., R, N., Aashishkumar, & Divya, G. (2024). Palisade -- Prompt Injection Detection Framework (Version 1). arXiv. https://doi.org/10.48550/ARXIV.2410.21146

Переглянути повний текст статті (PDF)