Arvutiteaduse instituut
  1. Kursused
  2. 2024/25 sügis
  3. Transformerid (MTAT.06.055)
EN
Logi sisse

Transformerid 2024/25 sügis

  • Main
  • Lectures
  • Labs
  • Homeworks
  • Projects
  • Grades

Labs

  • Given by Dmytro Pashchenko, Martin Vainikko and Taido Purason
  • Thursdays at 14:15 in Delta 2047
  • Communication channel in Slack
1.Sep 12Intro + training a toy modelslidescodesolved
2.Sep 19Encoder from scratchslidescodesolved
3.Sep 26Pre-trained models & HuggingFaceslidescodesolved
4.Oct 03Pre-processing and BPE---codesolved
5.Oct 10MT metrics---codesolved
6.Oct 17MT intro---codesolved
7.Oct 24Text generation + HW1 reviewslidescodesolved
8.Oct 31GPT from scratchslidescodesolved
9.Nov 7Introduction to Rocket HPCguide--
10.Nov 21ViT from scratchslidescodesolved
11.Nov 28Guest lab with: LLM fine-tuningslidescodesolved
12.Dec 12Promptingslidescodesolved
  • Arvutiteaduse instituut
  • Loodus- ja täppisteaduste valdkond
  • Tartu Ülikool
Tehniliste probleemide või küsimuste korral kirjuta:

Kursuse sisu ja korralduslike küsimustega pöörduge kursuse korraldajate poole.
Õppematerjalide varalised autoriõigused kuuluvad Tartu Ülikoolile. Õppematerjalide kasutamine on lubatud autoriõiguse seaduses ettenähtud teose vaba kasutamise eesmärkidel ja tingimustel. Õppematerjalide kasutamisel on kasutaja kohustatud viitama õppematerjalide autorile.
Õppematerjalide kasutamine muudel eesmärkidel on lubatud ainult Tartu Ülikooli eelneval kirjalikul nõusolekul.
Courses’i keskkonna kasutustingimused