Central AsianResearch Index

АДАПТАЦИЯ И СРАВНИТЕЛЬНАЯ ОЦЕНКА ПРЕДОБУЧЕННЫХ МОДЕЛЕЙ В ЗАДАЧЕ КЛАССИФИКАЦИИ ТЕКСТА НА КАЗАХСКОМ ЯЗЫКЕ

В данной статье исследуется применение моделей BERT, T5 и RoBERTa для классификации текстов на казахском языке. Эти модели относятся к современным трансформерным архитектурам и успешно используются в задачах обработки естественного языка. Благодаря своим особенностям они хорошо подходят для работы с морфологически сложными языками, к которому относится казахский. В данной работе рассматривается возможность использования данных, подготовленных для задачи распознавания именованных сущностей (NER), при классификации текстов. Для этого была проведена оценка моделей с учетом особенностей казахского языка, а также рассмотрены этапы подготовки данных и последующего дообучения моделей. В результате экспериментов выявлены наилучшие подходы к классификации текстов на казахском языке с использованием моделей BERT, T5 и RoBERTa.

Сведения

Опубликовано
2026 · Т. 144, № 3, С. 353-369
Язык
Русский
ISSN
1609-1817 · 2790-5802
Издатель
JSC Academy of Logistics and Transport