ПРИМЕНЕНИЕ LLM В КИБЕРБЕЗОПАСНОСТИ: ОБЗОР ПРИЛОЖЕНИЙ И УЯЗВИМОСТЕЙ LLM
В этом документе представлен всесторонний обзор будущего кибербезопасности с помощью больших языковых моделей (LLM). Мы представляем обзор эволюции LLM и ее текущего состояния, уделяя особое внимание достижениям в таких моделях, как GPT-4, GPT-3.5, BERT, Falcon2 и LLaMA. Наш анализ распространяется на уязвимости LLM, такие как быстрое внедрение, небезопасная обработка выходных данных, отравление данных, DDoS-атаки и состязательные инструкции. Мы подробно рассмотрим стратегии смягчения последствий для защиты этих моделей, предоставив всесторонний обзор потенциальных сценариев атак и методов их предотвращения. Эти аналитические данные направлены на улучшение защиты от кибербезопасности в режиме реального времени и повышение сложности приложений LLM для обнаружения угроз и реагирования на них. В нашем документе представлено основополагающее понимание и стратегическое направление интеграции LLM в будущие системы кибербезопасности для защиты от развивающихся киберугроз.
Сведения
- Журнал
- Bulletin of the CAA
- Опубликовано
- 2025 · Т. 38, № 3
- Язык
- Русский
- ISSN
- 2413-8614
- Издатель
- JSC "Academy of Civil Aviation
- Аффилиации
- Казахский национальный университет имени аль-Фараби