{"title":"创建基于GENSIM和NLTK的文本向量和正常化变换器","authors":"О.М. Минаев, Х.-М.М. Вахажи, А.С. Успанова","doi":"10.36684/57-2022-1-37-41","DOIUrl":null,"url":null,"abstract":"Приложения обработки естественного языка существуют уже несколько десятилетий, добавление методов машинного обучения в эту сферу обеспечило определенную гибкость и скорость реагирования, которые при иных условиях были бы невозможны. Данная статья содержит описание алгоритма векторизации для объединения лингвистических приемов из пакета библиотек NLTK с приемами машинного обучения из ScikitLearn и Gensim и создания собственных преобразователей для использования в повторяемых конвейерах многократного использования.","PeriodicalId":142330,"journal":{"name":"Итоговая научно-практическая конференция профессорско-преподавательского состава","volume":"120 1","pages":"0"},"PeriodicalIF":0.0000,"publicationDate":"2022-02-25","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":"0","resultStr":"{\"title\":\"СОЗДАНИЕ ПРЕОБРАЗОВАТЕЛЯ ДЛЯ ВЕКТОРИЗАЦИИ И НОРМАЛИЗАЦИИ ТЕКСТА НА ОСНОВЕ GENSIM И NLTK\",\"authors\":\"О.М. Минаев, Х.-М.М. Вахажи, А.С. Успанова\",\"doi\":\"10.36684/57-2022-1-37-41\",\"DOIUrl\":null,\"url\":null,\"abstract\":\"Приложения обработки естественного языка существуют уже несколько десятилетий, добавление методов машинного обучения в эту сферу обеспечило определенную гибкость и скорость реагирования, которые при иных условиях были бы невозможны. Данная статья содержит описание алгоритма векторизации для объединения лингвистических приемов из пакета библиотек NLTK с приемами машинного обучения из ScikitLearn и Gensim и создания собственных преобразователей для использования в повторяемых конвейерах многократного использования.\",\"PeriodicalId\":142330,\"journal\":{\"name\":\"Итоговая научно-практическая конференция профессорско-преподавательского состава\",\"volume\":\"120 1\",\"pages\":\"0\"},\"PeriodicalIF\":0.0000,\"publicationDate\":\"2022-02-25\",\"publicationTypes\":\"Journal Article\",\"fieldsOfStudy\":null,\"isOpenAccess\":false,\"openAccessPdf\":\"\",\"citationCount\":\"0\",\"resultStr\":null,\"platform\":\"Semanticscholar\",\"paperid\":null,\"PeriodicalName\":\"Итоговая научно-практическая конференция профессорско-преподавательского состава\",\"FirstCategoryId\":\"1085\",\"ListUrlMain\":\"https://doi.org/10.36684/57-2022-1-37-41\",\"RegionNum\":0,\"RegionCategory\":null,\"ArticlePicture\":[],\"TitleCN\":null,\"AbstractTextCN\":null,\"PMCID\":null,\"EPubDate\":\"\",\"PubModel\":\"\",\"JCR\":\"\",\"JCRName\":\"\",\"Score\":null,\"Total\":0}","platform":"Semanticscholar","paperid":null,"PeriodicalName":"Итоговая научно-практическая конференция профессорско-преподавательского состава","FirstCategoryId":"1085","ListUrlMain":"https://doi.org/10.36684/57-2022-1-37-41","RegionNum":0,"RegionCategory":null,"ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":null,"EPubDate":"","PubModel":"","JCR":"","JCRName":"","Score":null,"Total":0}
СОЗДАНИЕ ПРЕОБРАЗОВАТЕЛЯ ДЛЯ ВЕКТОРИЗАЦИИ И НОРМАЛИЗАЦИИ ТЕКСТА НА ОСНОВЕ GENSIM И NLTK
Приложения обработки естественного языка существуют уже несколько десятилетий, добавление методов машинного обучения в эту сферу обеспечило определенную гибкость и скорость реагирования, которые при иных условиях были бы невозможны. Данная статья содержит описание алгоритма векторизации для объединения лингвистических приемов из пакета библиотек NLTK с приемами машинного обучения из ScikitLearn и Gensim и создания собственных преобразователей для использования в повторяемых конвейерах многократного использования.