View Code? Open in Web Editor
NEW
This project forked from mannefedov/compling_nlp_hse_course
Материалы курса по компьютерной лингвистике Школы Лингвистики НИУ ВШЭ
HTML 2.82%
Jupyter Notebook 97.18%
compling_nlp_hse_course's Introduction
Материалы курса по компьютерной лингвистике (Natural Language Processing course materials)
- Предобработка текста (Text preprocessing)
Токенизация, лемматизация, стемминг, pymorphy, mystem, regex, razdel.
- Классификация текста (мешок слов) (Bag-of-words classification)
TFIDF, CountVectorizer, LogReg, KNN, DecisionTrees, Naive Bayes, RandomForest, косинусная близость, тональность текста
- Поиск и исправление опечаток (Spellchecking)
Алгоритм Норвига, расстояние Левенштейна, символьные нграммы, SymSpell.
- Базовое языковое моделирование (Basic Language Modelling)
Вероятность слова, Ngram language model, перплексия, генерация текста.
- Тематическое моделирование (Topic modelling)
Матричные разложения (SVD, NMF), LDA, перплексия, когерентность.
- Векторные представления слов (word2vec/fastext) (Word embeddings)
CBOW, Skip-gram, negative sampling, deep learning basics, sigmoid, softmax.
- WSD/WSI
Adagram, кластеризация контекстов, wordnet, алгоритм Леска.
- RNN и извлечение именованных сущностей (Named Entity Recognition)
LSTM, GRU, Bidirectional RNN, IOB кодировка, sequence labelling.
- Использование предобученных моделей (Fine-tuning pretrained models)
Transformer, BERT, HuggingFace, fine-tuning.
- Генерация текста (GPT)
- Машинный перевод (Machine Translation)
Архивные jupyter-ноутбуки
Jupyter-notebooks in English
compling_nlp_hse_course's People