{"title":"文本文档自动分类的新方法","authors":"В. А. Яцко, V. Yatsko","doi":"10.36535/0548-0027-2021-06-5","DOIUrl":null,"url":null,"abstract":"Описываются процедуры и особенности применения нового метода автоматической классификации документов, основанного на вычислении отклонений распределения стоп-слов от коэффициента Ципфа. С целью нейтрализации разниц в размерах текстов применена и описана методика их выравнивания по нижнему пределу. Введено понятие итеративного порогового уровня, позволяющее сократить размер текста до нескольких десятков терминов. Разработаны показатели дискриминирующей и симилирующей силы и вычисляемый на их основе обобщённый показатель. Проведено 14 тестов, включая сопоставление с косинусной мерой близости документов, которые показали высокую эффективность предлагаемого метода при решении задач авторской атрибуции художественных и кластеризации политических текстов.","PeriodicalId":24076,"journal":{"name":"Научно-техническая информация. Серия 2: Информационные процессы и системы","volume":null,"pages":null},"PeriodicalIF":0.0000,"publicationDate":"2021-01-01","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":"1","resultStr":"{\"title\":\"Новый метод автоматической классификации текстовых документов\",\"authors\":\"В. А. Яцко, V. Yatsko\",\"doi\":\"10.36535/0548-0027-2021-06-5\",\"DOIUrl\":null,\"url\":null,\"abstract\":\"Описываются процедуры и особенности применения нового метода автоматической классификации документов, основанного на вычислении отклонений распределения стоп-слов от коэффициента Ципфа. С целью нейтрализации разниц в размерах текстов применена и описана методика их выравнивания по нижнему пределу. Введено понятие итеративного порогового уровня, позволяющее сократить размер текста до нескольких десятков терминов. Разработаны показатели дискриминирующей и симилирующей силы и вычисляемый на их основе обобщённый показатель. Проведено 14 тестов, включая сопоставление с косинусной мерой близости документов, которые показали высокую эффективность предлагаемого метода при решении задач авторской атрибуции художественных и кластеризации политических текстов.\",\"PeriodicalId\":24076,\"journal\":{\"name\":\"Научно-техническая информация. Серия 2: Информационные процессы и системы\",\"volume\":null,\"pages\":null},\"PeriodicalIF\":0.0000,\"publicationDate\":\"2021-01-01\",\"publicationTypes\":\"Journal Article\",\"fieldsOfStudy\":null,\"isOpenAccess\":false,\"openAccessPdf\":\"\",\"citationCount\":\"1\",\"resultStr\":null,\"platform\":\"Semanticscholar\",\"paperid\":null,\"PeriodicalName\":\"Научно-техническая информация. Серия 2: Информационные процессы и системы\",\"FirstCategoryId\":\"1085\",\"ListUrlMain\":\"https://doi.org/10.36535/0548-0027-2021-06-5\",\"RegionNum\":0,\"RegionCategory\":null,\"ArticlePicture\":[],\"TitleCN\":null,\"AbstractTextCN\":null,\"PMCID\":null,\"EPubDate\":\"\",\"PubModel\":\"\",\"JCR\":\"\",\"JCRName\":\"\",\"Score\":null,\"Total\":0}","platform":"Semanticscholar","paperid":null,"PeriodicalName":"Научно-техническая информация. Серия 2: Информационные процессы и системы","FirstCategoryId":"1085","ListUrlMain":"https://doi.org/10.36535/0548-0027-2021-06-5","RegionNum":0,"RegionCategory":null,"ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":null,"EPubDate":"","PubModel":"","JCR":"","JCRName":"","Score":null,"Total":0}
Новый метод автоматической классификации текстовых документов
Описываются процедуры и особенности применения нового метода автоматической классификации документов, основанного на вычислении отклонений распределения стоп-слов от коэффициента Ципфа. С целью нейтрализации разниц в размерах текстов применена и описана методика их выравнивания по нижнему пределу. Введено понятие итеративного порогового уровня, позволяющее сократить размер текста до нескольких десятков терминов. Разработаны показатели дискриминирующей и симилирующей силы и вычисляемый на их основе обобщённый показатель. Проведено 14 тестов, включая сопоставление с косинусной мерой близости документов, которые показали высокую эффективность предлагаемого метода при решении задач авторской атрибуции художественных и кластеризации политических текстов.