Įgūdžiai

Privatus DI: lokalūs modeliai, žinių bazės ir agentinės sistemos

Praktinė programa skirta dalyviams, norintiems savo kompiuteryje paleisti dirbtinio intelekto modelius, kurti privačius dokumentų asistentus ir vizualiai konstruoti agentines DI sistemas. Dalyviai mokysis pasirinkti tinkamą lokalų modelį, palyginti jo kokybę su debesijos modeliais, analizuoti dokumentus ir vaizdus, kurti žinių bazes, suteikti asistentams atmintį bei įrankius ir sujungti kelis DI veiksmus į vientisą aplikaciją. Didžioji programos dalis skiriama praktinėms užduotims ir veikiančių sprendimų kūrimui. „LM Studio“ leidžia lokaliai paleisti kalbos ir vaizdo modelius, dirbti su dokumentais, naudoti vietinę API bei prijungti MCP įrankius. „AnythingLLM“ suteikia darbo erdves, RAG, agentų įrankius ir agentų veiksmų sekas, o „Flowise“ leidžia vizualiai kurti DI asistentus, agentines darbo eigas ir žmogaus patvirtinimo žingsnius.

Aplikuok

LAIKOTARPIS:

sausio 19 d. - kovo 2 d.

LAIKAS:

2 k. per savaitę

KALBA:

Lietuvių

TIPAS:

Įgūdžiai

Kaina:

€ 500

Kontaktinės valandos:

62 ak. val.

Įrankiai ir kalbos

Chatflow

Assistant

API

Flowise

Apie kursus

Šiuolaikiniame versle ir viešajame sektoriuje augant dirbtinio intelekto (DI) sprendimų pritaikymui, vis aštriau iškyla duomenų privatumo, konfidencialumo ir saugumo klausimai. Naudojantis viešomis debesijos platformomis kyla rizika nutekinti jautrią įmonės ar klientų informaciją. Todėl galimybė paleisti lokalus DI modelius tiesiogiai organizacijos arba vartotojo kompiuteryje tampa itin svarbiu strateginiu pranašumu.

Lokalūs modeliai, dokumentų žinių bazės (RAG) ir agentinės sistemos leidžia saugiai analizuoja konfidencialius dokumentus, valdyti įmonės žinias ir automatizuoti užduotis be išorinių duomenų nutekinimo rizikos. Ši programa yra ypač aktuali specialistams ir vadovams, siekiantiems visiškos duomenų kontrolės, didesnio privatumo ir norintiems kurti autonominius DI asistentus vietinėje infrastruktūroje.

Įsidarbinimo galimybės

Programa

1 temos

2 temos

3 temos

4 temos

5 temos

6 temos

7 temos

8 temos

9 temos

10 temos

11 temos

12 temos

Privataus ir lokalaus DI pagrindai 4 ak. val.

Lokalaus DI, debesijos modelių, DI asistento, žinių bazės ir agentinės sistemos skirtumai. Privatumo, greičio, kainos ir atsakymų kokybės kompromisai. Dalyviai įsidiegia pagrindines mokymų programas ir parengia darbo aplinką.

Lokalūs modeliai su „LM Studio“ ir „Ollama“ 6 ak. val.

Modelių paieška, atsisiuntimas, paleidimas, atnaujinimas ir pašalinimas. Konteksto, temperatūros, sisteminių instrukcijų ir modelio atminties nustatymai. Dalyviai praktiškai išbando skirtingus modelius ir paleidžia lokalų API serverį.

Modelių kokybės tikrinimas ir tinkamo modelio parinkimas 4 ak. val.

Modelių palyginimas naudojant vienodas užduotis. Vertinamas instrukcijų laikymasis, lietuvių kalbos kokybė, loginis samprotavimas, struktūruoti atsakymai, greitis ir klaidų dažnis. Dalyviai parengia praktinį modelių testų rinkinį ir pasirenka tinkamiausią modelį konkrečiam scenarijui.

Multimodalus lokalus DI 5 ak. val.

Vaizdus suprantantys lokalūs modeliai, ekrano nuotraukų, dokumentų, diagramų ir fotografijų analizė. Vietinis garso transkribavimas ir teksto apdorojimas. Kuriamas procesas, kuriame skirtingų formatų informacija paverčiama struktūruota suvestine. „LM Studio“ palaiko vaizdo įvestį turinčius VLM modelius ir vietinį dokumentų apdorojimą.

Privatūs asistentai su „AnythingLLM“ 6 ak. val.

Darbo erdvių kūrimas, lokalaus arba debesijos modelio prijungimas, asistento instrukcijos, pokalbių režimai, atmintis ir vartotojo nustatymai. Dalyviai sukuria atskirus asistentus skirtingoms darbo užduotims.

Dokumentų žinių bazės ir RAG 7 ak. val.

Dokumentų įkėlimas, teksto skaidymas, embeddings, vektorinė paieška ir aktualių ištraukų pateikimas modeliui. Kuriamas dokumentų asistentas, atsakantis pagal vidines taisykles, procedūras, produktų informaciją arba kitą pasirinktą medžiagą.

RAG kokybė ir žinių bazės vertinimas 4 ak. val.

Dokumentų struktūra, skaidymo dydis, pasikartojanti ir pasenusi informacija, paieškos rezultatų kiekis bei konteksto ribos. Dalyviai rengia kontrolinius klausimus, tikrina atsakymų pagrįstumą ir koreguoja žinių bazės nustatymus

DI aplikacijos su „Flowise“ 6 ak. val.

„Assistant“, „Chatflow“ ir pagrindinių vizualaus konstruktoriaus komponentų naudojimas. Modelio, instrukcijų, pokalbio atminties, žinių bazės ir vartotojo įvesties sujungimas. Sukuriama veikianti DI pokalbių aplikacija ir jos vartotojo sąsaja.

Agentinės darbo eigos ir įrankiai 7 ak. val.

„Agentflow“, sąlygos, šakos, ciklai, būsenos, kelių etapų užduotys ir įrankių naudojimas. Dalyviai kuria agentinę sistemą, kuri pasirenka reikalingą veiksmą, apdoroja rezultatą ir prireikus prašo žmogaus patvirtinimo. „Flowise“ palaiko kelių agentų veikimą, išsaugomas būsenas ir žmogaus patvirtinimo taškus.

MCP ir lokalių API integracijos 4 ak. val.

MCP paskirtis, paruoštų MCP serverių prijungimas, jų suteikiamų įrankių peržiūra ir leidimų ribojimas. „LM Studio“ vietinės API panaudojimas prijungiant lokalų modelį prie kitų aplikacijų. Sukuriama integracija tarp lokalaus modelio ir pasirinkto išorinio įrankio.

Privatumas, saugumas ir sistemos priežiūra 3 val.

Vietinis ir išorinis duomenų apdorojimas, modelių bei papildinių kilmė, API raktai, prieigos teisės, žurnalai ir atsarginės kopijos. Aptariamos dokumentų nutekinimo, nepatikimų MCP serverių, prompt injection ir per plačių agento teisių rizikos.

Baigiamasis privataus DI sprendimo projektas 6 ak. val.

Dalyvis sukuria veikiančią DI sistemą, naudojančią lokalų arba hibridinį modelį, dokumentų žinių bazę, aiškias veikimo instrukcijas ir bent vieną agentinę darbo eigą arba išorinį įrankį. Projektas išbandomas, dokumentuojamas ir pristatomas.

Atsisiųsti programą

Pasitikrink savo žinias apie dirbtinį intelektą!

Įsivertink įgūdžius atlikdamas trumpą 5 klausimų testą! Tai smagus ir greitas būdas sužinoti savo stipriąsias puses ir atrasti, kur dar gali tobulėti.😎

Pasiruošęs iššūkiui? Pradėk testą dabar!🤩

Spręsk testą