AIRE x Eesti Maaülikool: praktiline veebiseminar

Praktiline veebiseminar: “Lokaalne tehisintellekt arvutis: mudelitest AI-agentideni”

Tehisintellekt ei pea elama ainult pilves. Tänapäeval on võimalik käivitada võimekaid AI-mudeleid oma arvutis, kasutades enda riistvara ja säilitades kontrolli oma andmete üle.

Selles praktilises veebiseminaris ehitame samm-sammult üles lokaalse AI keskkonna, vaatame, kuidas valida sobivaid mudeleid ning kuidas panna AI enda jaoks reaalselt tööle.

Veebiseminaril räägime ja teeme kaasa:

AI ja masinõppe põhiterminoloogia

• Mis on tehisintellekt, masinõpe ja suured keelemudelid (LLM-id)?
• Kuidas AI mudelid töötavad?
• Mis on tokenid ja miks mõjutavad need AI kasutamise efektiivsust?
• Mudelite suurus, võimekus ja ressursivajadus

Oma arvuti ettevalmistamine lokaalse AI jaoks

• Windows Subsystem for Linux (WSL) seadistamine
• Arvuti võimekuse hindamine: protsessor, mälu, graafikakaart ja salvestusruum
• Milliseid mudeleid saab erineva riistvaraga kasutada?

Lokaalse AI ülesseadmine

• Ollama paigaldamine ja kasutamine
• AI-mudelite allalaadimine ja haldamine
• Erinevate mudelite katsetamine
• Kuidas suhelda lokaalse AI-ga käsurealt

Oma ChatGPT-laadne keskkond

• Open WebUI kasutuselevõtt
• Lokaalse AI kasutamine mugava veebiliidese kaudu
• Dokumentide ja enda andmetega töötamine

AI-agendid ja automatiseerimine

• Mis on AI-agent ja mille poolest erineb see tavalisest vestlusrobotist?
• Kuidas anda AI-le tööriistu ja ülesandeid?
• Agentide praktilised kasutusvõimalused

Mudelite hindamine ja AI kvaliteedi mõõtmine

• Mis on AI harnessid?
• Kuidas võrrelda erinevaid mudeleid?
• Ülevaade LLM Arena ja teiste hindamisvahendite võimalustest

Veebiseminari lõpuks oskad:

• seadistada oma arvutisse lokaalse AI keskkonna;
• valida enda riistvarale sobivaid mudeleid;
• käivitada ja kasutada lokaalseid keelemudeleid;
• kasutada AI-d enda dokumentide ja andmetega;
• mõista AI-agentide võimalusi ning järgmisi samme automatiseerimise suunas.

Osaleja võiks võimalusel osaleda arvutiga, millel on administraatoriõigused ning piisavalt vaba kettaruumi, et lokaalseid AI-mudeleid paigaldada. Lisaks teooriale teeme praktilised seadistused ja näited läbi samm-sammult.

Päevakava:

I osa 9.45 – 12.00
Paus 12.00 – 14.00
II osa 14.00 – 16.30

Toimumiskoht: Zoom

Osalemiseks tuleb veebiseminarile eelregistreeruda hiljemalt 2. novembriks.
Zoomi link saadetakse kõigile registreerunutele vahetult enne seminari toimumist.