Arvutiteaduse instituut
  1. Kursused
  2. 2023/24 sügis
  3. Transformerid (MTAT.06.055)
EN
Logi sisse

Transformerid 2023/24 sügis

  • Main
  • Lectures
  • Labs
  • Homeworks
  • Projects
  • Grades

Labs

  • Given by Lisa (lisa_k@tartunlp.ai) and Pasha (pavel.chizhov@ut.ee)
  • Thursdays at 14:15 in Delta 2047
  • Communication channel in Slack
1.Sep 14Intro + training a toy modelslidescodesolved
2.Sep 21Encoder from scratchslidescodesolved
3.Oct 5Pre-trained models & HuggingFaceslidescodesolved
4.Oct 12Pre-processing and BPE---codesolved
5.Oct 19HW1 Review + Intro to MT---codesolved
6.Oct 26MT metricsslidescodesolved
7.Nov 2Text generationslidescodesolved
8.Nov 9GPT from scratchslidescodesolved
9.Nov 16Guest lab: Fine-tuning LLMs---code (Kaggle), code (Colab)
10.Nov 23Projects info + ViT from scratchslidescodesolved
11.Nov 30Swin Transformer discussionslides------
12.Dec 7HW3 Review + Bells & Whistlesslidescode---
13.Dec 14ASRslidescode---
  • Arvutiteaduse instituut
  • Loodus- ja täppisteaduste valdkond
  • Tartu Ülikool
Tehniliste probleemide või küsimuste korral kirjuta:

Kursuse sisu ja korralduslike küsimustega pöörduge kursuse korraldajate poole.
Õppematerjalide varalised autoriõigused kuuluvad Tartu Ülikoolile. Õppematerjalide kasutamine on lubatud autoriõiguse seaduses ettenähtud teose vaba kasutamise eesmärkidel ja tingimustel. Õppematerjalide kasutamisel on kasutaja kohustatud viitama õppematerjalide autorile.
Õppematerjalide kasutamine muudel eesmärkidel on lubatud ainult Tartu Ülikooli eelneval kirjalikul nõusolekul.
Courses’i keskkonna kasutustingimused