Základy Machine Learningu a LLM: Trénovanie verzus Inference

Čo je machine learning a ako vlastne fungujú LLM?

Machine learning (strojové učenie) je oblasť umelej inteligencie, v ktorej sa počítač neučí podľa presne napísaných pravidiel, ale sám odhaľuje vzory v obrovskom množstve dát. Namiesto toho, aby programátor napísal „ak uvidíš toto slovo, urob toto“, model si sám vytvorí štatistický obraz sveta na základe miliárd príkladov.

LLM (Large Language Model), teda veľký jazykový model, je špeciálny typ machine learningového modelu natrénovaný na obrovskom množstve textu – knihách, článkoch, kóde, diskusiách. Jeho úlohou je jednoduchá, no zákerne mocná vec: predpovedať, aké slovo (respektíve „token“) má nasledovať po predchádzajúcom texte. Znie to takmer banálne – a predsa z tejto jednoduchej hry na „hádanie ďalšieho slova“ vzniká schopnosť písať eseje, programovať či viesť plynulú konverzáciu.

Trénovanie verzus inferencia: dva úplne odlišné svety

Aby ste naozaj pochopili, ako LLM fungujú, musíte poznať dve kľúčové fázy ich života – a sú od seba vzdialené takmer ako štúdium na univerzite a samotné pracovné pohovory:

• Trénovanie (training): Fáza, počas ktorej sa model „učí“. Prehltne obrovské množstvo textu, opakovane robí chyby v predpovedaní ďalšieho slova a postupne si upravuje milióny až bilióny parametrov, aby bol čoraz presnejší.
• Inferencia (inference): Fáza, keď je model už natrénovaný a vy mu položíte otázku. Model už nič nemení, len použije to, čo sa naučil, a v zlomku sekundy vygeneruje odpoveď.

Rozdiel medzi nimi je zásadný – a práve preto sa oplatí venovať mu samostatnú pozornosť.

Porovnanie trénovania a inferencie do detailu

1. Trénovanie: roky štúdia v priebehu týždňov

Počas trénovania model spracúva biliardy slov a pri každom kroku porovnáva svoju predpoveď so skutočným ďalším slovom v texte. Ak sa mýli, algoritmus (tzv. backpropagation) mu „popcháva“ vnútorné parametre správnym smerom. Táto fáza si vyžaduje obrovské výpočtové zdroje – tisíce grafických kariet bežiacich týždne až mesiace – a je extrémne nákladná.

Kľúčové vlastnosti: prebieha raz (alebo občas pri aktualizácii modelu), je extrémne výpočtovo náročná, výsledkom sú „zamrznuté“ parametre modelu.

2. Inferencia: bleskový výkon nadobudnutých vedomostí

Keď si s modelom „chatujete“, prebieha inferencia. Model už nič netrénuje ani sa neučí – iba použije svoje pevne dané parametre a pre váš vstup vypočíta najpravdepodobnejšie pokračovanie textu, slovo po slove, v reálnom čase.

Kľúčové vlastnosti: prebieha pri každej vašej otázke, je oveľa lacnejšia než trénovanie (aj keď stále náročná pri veľkom počte používateľov), výsledok závisí výhradne od toho, čo sa model naučil počas trénovania.

3. Prečo je tento rozdiel dôležitý

Pochopenie tohto rozdielu vysvetľuje, prečo model „nezabúda“ vašu predošlú konverzáciu po reštarte (pretože jeho parametre sa počas rozhovoru nemenia) a prečo aktualizácia jeho vedomostí vyžaduje nové, nákladné trénovanie – nie len jednoduchý „reštart“.

4. Fine-tuning: elegantný medzikrok

Existuje aj tretia cesta – fine-tuning, teda dodatočné, menšie dotrénovanie už existujúceho modelu na špecifickú úlohu alebo doménu. Je to podstatne lacnejšie než trénovanie od nuly, no stále zložitejšie než bežná inferencia.

Prečo sa učiť o machine learningu a LLM s nami?

Ak vás fascinuje, ako umelá inteligencia „premýšľa“, a chcete pochopiť princípy machine learningu skutočne do hĺbky, ponúkame vám prezenčné aj online školenia zamerané na strojové učenie a prácu s modernými AI nástrojmi. Vysvetlíme vám nielen teóriu, ale aj to, ako tieto poznatky prakticky využiť pri programovaní a automatizácii.

Okrem AI a machine learningu ponúkame aj tradičné programátorské kurzy, napríklad v jazykoch PHP alebo Java. S nami pochopíte technológiu, ktorá dnes mení celý svet – nie len jej povrch.

Časté otázky o machine learningu a LLM

1. Prečo je trénovanie modelu také drahé?

Pretože vyžaduje spracovanie obrovského množstva dát na tisíckach výkonných grafických kariet po dobu týždňov až mesiacov – to stojí obrovské množstvo elektrickej energie a hardvéru.

2. Mení sa model počas toho, ako s ním rozprávam?

Nie, počas bežnej inferencie sa parametre modelu nemenia. Model si „pamätá“ len aktuálnu konverzáciu v rámci jedného rozhovoru, nie navždy.

3. Je fine-tuning to isté ako trénovanie od nuly?

Nie, fine-tuning vychádza z už natrénovaného modelu a iba ho doladí na konkrétnu úlohu – je podstatne rýchlejší a lacnejší.

Top 5 zaujímavých informácií o LLM

1. Najväčšie modely majú stovky miliárd parametrov: Každý z nich sa upravuje počas trénovania miliónkrát.
2. Trénovanie jedného veľkého modelu môže stáť milióny dolárov: Kvôli obrovským nárokom na výpočtový výkon a energiu.
3. Inferencia jednej odpovede trvá len zlomok sekundy: Aj napriek tomu, že model „prehľadáva“ znalosti z biliónov slov.
4. Model nikdy naozaj „nerozumie“ v ľudskom zmysle: Iba extrémne presne predpovedá pravdepodobné pokračovanie textu.
5. Aktualizácia znalostí modelu vyžaduje nové trénovanie: Preto majú modely vždy určitý „dátum uzávierky“ znalostí.