АДАПТАЦИЯ И СРАВНИТЕЛЬНАЯ ОЦЕНКА ПРЕДОБУЧЕННЫХ МОДЕЛЕЙ В ЗАДАЧЕ КЛАССИФИКАЦИИ ТЕКСТА НА КАЗАХСКОМ ЯЗЫКЕ
В данной статье исследуется применение моделей BERT, T5 и RoBERTa для классификации текстов на казахском языке. Эти модели относятся к современным трансформерным архитектурам и успешно используются в задачах обработки естественного языка. Благодаря своим особенностям они хорошо подходят для работы с морфологически сложными языками, к которому относится казахский. В данной работе рассматривается возможность использования данных, подготовленных для задачи распознавания именованных сущностей (NER), при классификации текстов. Для этого была проведена оценка моделей с учетом особенностей казахского языка, а также рассмотрены этапы подготовки данных и последующего дообучения моделей. В результате экспериментов выявлены наилучшие подходы к классификации текстов на казахском языке с использованием моделей BERT, T5 и RoBERTa.
Сведения
- Журнал
- Вестник КазАТК
- Опубликовано
- 2026 · Т. 144, № 3, С. 353-369
- Язык
- Русский
- ISSN
- 1609-1817 · 2790-5802
- Издатель
- JSC Academy of Logistics and Transport