АТАКИ АДАПТИВНОГО МАНИПУЛЯТИВНОГО КОНТЕНТА И УСТОЙЧИВОСТЬ МОДЕЛЕЙ ОБНАРУЖЕНИЯ
В статье рассмотрена проблема устойчивости к адаптивным атакам моделей обнаружения деструктивного манипулятивного воздействия в сети Интернет. Представлено, что развитие автоматизированного обнаружения манипуляций контентом происходит параллельно с разработкой подходов адаптивной их модификации для обхода средств обнаружения. В работе представлена модель противника типа black-box, учитывающая специфику противостояния с системами обнаружения в социальных сетях, и дана классификация адаптивных атак манипулятивного контента. В рамках исследования выполнен анализ поверхностей атаки в системах выявления деструктивного манипулятивного воздействия и проведена оценка устойчивости моделей обнаружения при воздействии различных классов адаптивных атак. Для количественной интерпретации деградации качества обнаружения введён показатель, основанный на изменении F-меры, позволяющий рассматривать снижение качества классификации как индикатор уязвимости модели к адаптивному манипулятивному воздействию. Аналитическое моделирование показало, что наибольший спад наблюдается при эмоциально-контекстуальных атаках - когда манипулятивная нагрузка скрывается за переупаковкой формы и контекста сообщения. Полученные результаты обосновывают необходимость учета адаптивного характера манипулятивного воздействия при проектировании и эксплуатации систем мониторинга социальных сетей. Предложенный подход расширяет традиционные методы оценки эффективности обнаружения манипулятивного контента. Может быть использован в качестве методологической основы для разработки комплексных методик оценивания деструктивного манипулятивного воздействия.
Сведения
- Журнал
- Вестник КазАТК
- Опубликовано
- 2026 · Т. 4, № 145, С. 534-546
- Язык
- Русский
- ISSN
- 1609-1817 · 2790-5802
- Издатель
- JSC Academy of Logistics and Transport