Central AsianResearch Index

АТАКИ АДАПТИВНОГО МАНИПУЛЯТИВНОГО КОНТЕНТА И УСТОЙЧИВОСТЬ МОДЕЛЕЙ ОБНАРУЖЕНИЯ

В статье рассмотрена проблема устойчивости к адаптивным атакам моделей обнаружения деструктивного манипулятивного воздействия в сети Интернет. Представлено, что развитие автоматизированного обнаружения манипуляций контентом происходит параллельно с разработкой подходов адаптивной их модификации для обхода средств обнаружения. В работе представлена модель противника типа black-box, учитывающая специфику противостояния с системами обнаружения в социальных сетях, и дана классификация адаптивных атак манипулятивного контента. В рамках исследования выполнен анализ поверхностей атаки в системах выявления деструктивного манипулятивного воздействия и проведена оценка устойчивости моделей обнаружения при воздействии различных классов адаптивных атак. Для количественной интерпретации деградации качества обнаружения введён показатель, основанный на изменении F-меры, позволяющий рассматривать снижение качества классификации как индикатор уязвимости модели к адаптивному манипулятивному воздействию. Аналитическое моделирование показало, что наибольший спад наблюдается при эмоциально-контекстуальных атаках - когда манипулятивная нагрузка скрывается за переупаковкой формы и контекста сообщения. Полученные результаты обосновывают необходимость учета адаптивного характера манипулятивного воздействия при проектировании и эксплуатации систем мониторинга социальных сетей. Предложенный подход расширяет традиционные методы оценки эффективности обнаружения манипулятивного контента. Может быть использован в качестве методологической основы для разработки комплексных методик оценивания деструктивного манипулятивного воздействия.

Сведения

Опубликовано
2026 · Т. 4, № 145, С. 534-546
Язык
Русский
ISSN
1609-1817 · 2790-5802
Издатель
JSC Academy of Logistics and Transport