Обробка природних мов

Section outline

• Select section General

  Collapse Expand

  General

  Collapse all Expand all

  • Select activity ДисциплінаВ межах дисципліни «Обробка природних...

    Дисципліна
    

    В межах дисципліни «Обробка природних мов» вивчаються методи дослідження, попередньої обробки та перетворення текстових даних.

    Метою вивчення дисципліни «Обробка природних мов» є оволодіння знаннями про основні методи комп’ютерного моделювання природних мов та застосування моделей до вирішення практичних задач.

    Основними завданнями вивчення дисципліни «Обробка природних мов» є:

    • оволодіння базовими знаннями щодо особливостей обробки природних мов;

    • набуття вмінь та навичок створення числових представлень елементів природної мови — слів, словосполучень, речень, довгих текстів;

    • ознайомлення з принципами застосування нейронних мереж до обробки текстів;

    • набуття вмінь та навичок класифікації, кластеризації, перетворення текстів.

    
    

  • Select activity ВикладачДобровольський Геннадій Анатолійович, канд...

    Викладач
    

    Добровольський Геннадій Анатолійович, кандидат технічних наук, старший викладач кафедри комп'ютерних наук, І корпус, ауд.39
    Telegram: https://t.me/gen_dobr
    
    CV: https://docs.google.com/document/d/1d7ptNpOYMEwrzfNrO1Zdp64SqCLx0msqUQya1W0vQT0/edit?usp=sharing
    
    

  • Select activity Основні джерела Daniel Jurafsky, James H. Mart...

    Основні джерела

    1. Daniel Jurafsky, James H. Martin Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition. Third Edition. — Stanford University and University of Colorado at Boulder. 2023. 636 p. https://web.stanford.edu/~jurafsky/slp3/ed3book_jan72023.pdf
       

    2. Hobson Lane, Cole Howard, Hannes Max Hapke. Natural Language Processing in Action. Understanding, analyzing, and generating text with Python. — Manning. 2019. 545 p.

    3. Delip Rao and Brian McMahan. Natural Language Processing with PyTorch. Build Intelligent Language Applications Using Deep Learning. — O’Reilly. 2019. 210 p.

    Додаткові джерела

    4. “10 Standard Datasets for Practicing Applied Machine Learning” https://machinelearningmastery.com/standard-machine-learning-datasets/ Last Updated on October 20, 2021.
       

  • Select activity Оцінювання

    

    Оцінювання File
  • Select activity Оголошення

    

    Оголошення Forum
  • Select activity Силабус - Обробка природних мов

    

    Силабус - Обробка природних мов File
• Select section Теоретичний матеріал

  Collapse Expand

  Теоретичний матеріал

  • Select activity 001-Предмет, типові задачі та методи обробки приро...

    
    001-Предмет, типові задачі та методи обробки природних мов
    001.1 Токенізація URL
    001.2 Part-of-speech tagging URL
    001.3 Named Entity Recognition (NER) 
    001.4 Stemming and Lemmatization 
    001.5 Stop words removal
    001.6 Sentiment Analysis 
    001.7 Dependency parsing 
    001.8 Text classification 
    001.9 Machine Translation
    001.10 Speech recognition
    001.11 Text Generation
    001.12 Summarization
    001.13 Coreference resolution
    001.14. Word Sense Disambiguation 
    001.15 Question Answering
    002.1 Створення словника
    002.2 Bекторна модель документа
    003 - Тематичне моделювання. Латентний семантичний аналіз.
    004.1 - Тематичне моделювання. Приховане розміщення Діріхле. 
    004.2 - Тематичне моделювання. Сучасні методи
    004.3 - GloVe.
    004.4 Якість тематичної моделі
    005 - Огляд архітектур нейронних мереж для NLP 
    005.1. Feedforward Neural Networks (FNNs) 
    005.2. Recurrent Neural Networks (RNNs) 
    005.3 LSTM
    005.4 GRU
    005.5 CNN
    005.6 Transformers
    005.7. Bidirectional Encoder Representations from Transformers (BERT)
    005.8. Generative Pre-trained Transformers (GPT)
    005.9. Sequence-to-Sequence (Seq2Seq)
    005.10. Attention Mechanisms
    005.11. ELECTRA
    005.12. XLNett
    006 - Представлення слів у Rn. Word2Vec. FastText. Оперування представленнями
    007 - Згорточні нейронні мережі для обробки текстів
    008 - Моделювання тексту за допомогою рекурентних нейронних мереж. RNN
    009 - Моделювання тексту за допомогою нейронної мережі з довгою короткочасною пам'яттю. LSTM 
    010 - Перетворення послідовності в послідовність
    011 - Модель трансформерів
    012 - Механізм уваги
    013.1 - Виявлення сутностей у тексті
    013.2 Виявлення зв'язків між сутностями
    014 - Діалогові системи 

• Select section Завдання до практичних занять

  Collapse Expand

  Завдання до практичних занять

  • Select activity 001 - завдання - Наївна байєсівська класифікація новин

    

    001 - завдання - Наївна байєсівська класифікація новин URL
  • Select activity 001 - здача робіт - Наївна байєсівська класифікація новин

    

    001 - здача робіт - Наївна байєсівська класифікація новин Assignment
  • Select activity 002 - завдання - Тематичне моделювання

    

    002 - завдання - Тематичне моделювання URL
  • Select activity 002 - здача робіт - Тематичне моделювання

    

    002 - здача робіт - Тематичне моделювання Assignment
  • Select activity 003 - завдання - Аналіз настроїв у відгуках

    

    003 - завдання - Аналіз настроїв у відгуках URL
  • Select activity 003 - здача робіт - Аналіз настроїв у відгуках

    

    003 - здача робіт - Аналіз настроїв у відгуках Assignment
  • Select activity 004 - завдання - Виявлення сутностей

    

    004 - завдання - Виявлення сутностей URL
  • Select activity 004 - здача робіт - Виявлення сутностей

    

    004 - здача робіт - Виявлення сутностей Assignment
  • Select activity 005 - завдання - Модель кодування-декодування

    

    005 - завдання - Модель кодування-декодування URL
  • Select activity 005 - здача робіт - Модель кодування-декодування

    

    005 - здача робіт - Модель кодування-декодування Assignment
  • Select activity 006 - завдання - Генерація тексту

    

    006 - завдання - Генерація тексту URL
  • Select activity 006 - здача робіт - Генерація тексту

    

    006 - здача робіт - Генерація тексту Assignment
• Select section Контрольні заходи

  Collapse Expand

  Контрольні заходи

  • Select activity Поточний контроль 1

    

    Поточний контроль 1 Quiz
  • Select activity Поточний контроль 2

    

    Поточний контроль 2 Quiz
  • Select activity Підсумковий контроль

    

    Підсумковий контроль Quiz