Mi az az LLM (nagy nyelvi modell), és hogyan működik?
Mit jelent az LLM, és mi történik a ChatGPT belsejében, amikor válaszol? Egyetlen mondatot követünk végig a gépen, és megmutatjuk, miért drágább a magyar szöveg, mint az angol.
Röviden
- Az LLM (large language model, nagy nyelvi modell) egy szövegen tanított mesterséges intelligencia, amely a szöveg következő darabját jósolja meg, újra és újra.
- A modell nem szavakat, hanem tokeneket lát. A mi mérésünkben ugyanaz a három mondat magyarul 63, angolul 37 token volt, a magyar tehát drágább és hamarabb tölti meg a modell memóriáját.
- A kontextusablak az, amennyi szöveget a modell egyszerre figyelembe tud venni. 2026-ban a vezető modelleknél ez 1 millió token, ebbe több százezer szónyi szöveg fér.
- Nyílt modellt saját szerveren is futtathatsz, a zárt modellt csak a gyártó szolgáltatásán át éred el. Magyar nyelvre a HUN-REN Nyelvtudományi Kutatóközpont PULI-modelljei a legismertebbek.
- Legjobb LLM nincs, csak a feladatra legjobb. Cégnél a nyelvi minőség, az ár, az adatkezelés és a cserélhetőség dönt.
Tartalom
Az LLM a large language model rövidítése, magyarul nagy nyelvi modell. Olyan mesterséges intelligencia, amelyet hatalmas mennyiségű szövegen tanítottak arra, hogy megjósolja, hogyan folytatódik egy szöveg. Ezt az egy dolgot csinálja, csak nagyon jól és nagyon gyorsan, újra és újra egymás után. Ebből a képességből lesz a ChatGPT levele, a Claude összefoglalója és a Gemini válasza.
A nagy nyelvi modell a mesterséges intelligencia egyik ága, a generatív AI legismertebb fajtája. A tágabb képet a mesterséges intelligenciáról szóló alapcikkünk adja, itt a gépházba nézünk be.
Nagy nyelvi modell (LLM)
Szöveges adatokon tanított neurális hálózat, amely egy szöveg következő elemét (tokenjét) jósolja meg valószínűségek alapján. A "nagy" a tanítóadat és a paraméterek (a modell belső beállításainak) számára utal, ami a mai modelleknél milliárdos nagyságrend.
Hogyan működik egy nagy nyelvi modell?
Egy nagy nyelvi modell úgy működik, hogy a beírt szöveget apró darabokra (tokenekre) bontja, kiszámolja, melyik darab a legvalószínűbb folytatás, hozzáteszi, és ezt ismétli, amíg a válasz el nem készül. A modell nem keres meg egy kész választ egy adatbázisban. Minden választ darabonként, menet közben rak össze a tanítás során megtanult mintázatokból.
Nézzük egy példán. Beírod: "Kérlek, péntekig küldd el nekem a múlt havi rendelés..." A modell ekkor minden lehetséges következő darabhoz valószínűséget rendel: a "számláját" nagyon valószínű, a "kutyáját" nagyon nem. Kiválaszt egyet, hozzáfűzi, és újraszámol a már hosszabb szövegre. Egy bekezdésnyi válasznál ez több százszor fut le, másodpercek alatt.
A mai modellek alapja a transformer nevű architektúra, amelyet a Google kutatói 2017-ben írtak le. A lényege a "figyelem": a modell minden szó jelentését a mondat többi szavához viszonyítva értelmezi. Így tudja, hogy a "vár" a mondatban ige vagy főnév, és hogy a "számláját" kinek a számlája.
Mik azok a tokenek, és miért drágább a magyar?
A token a szöveg az a darabja, amivel a modell számol: egy rövid szó, egy szórész vagy egy írásjel. Az angol szavak többnyire egy-egy tokenek, a magyar, ragokkal teli szavak viszont több darabra esnek szét. Ez két dolgot jelent: a magyar szöveg ugyanannyi tartalommal több tokenbe kerül, és hamarabb tölti meg a modell memóriáját.
Ezt mi magunk is lemértük 2026. október 4-én, az OpenAI nyilvános o200k_base tokenizálójával, amit a GPT-4o, a GPT-4.1 és a GPT-5 modellek használnak. Ugyanazt a három hétköznapi mondatot számoltuk meg angolul és magyarul:
| Magyarul | Angolul | Token (angol) | Token (magyar) |
|---|---|---|---|
| Kérlek, péntekig küldd el nekem a múlt havi rendelés számláját. | Please send me the invoice for last month's order by Friday. | 12 | 23 |
| Szombat estére szeretnénk asztalt foglalni négy főre. | We would like to book a table for four people on Saturday evening. | 14 | 20 |
| Az ügyfél panaszkodott, hogy a kiszállítás két napot késett. | The customer complained that the delivery arrived two days late. | 11 | 20 |
| Összesen | 37 | 63 |
A magyar változat így nagyjából 1,7-szer annyi tokenbe került, pedig karakterben rövidebb volt. A "számláját" szó a mondatban egymagában 4 darabra esett szét ("szá", "ml", "áj", "át"). Mivel az API-k tokenenként számláznak, egy magyarul dolgozó céges rendszer ugyanazért a munkáért többet fizet, mint egy angol. Más gyártó tokenizálója más számot ad, de az irány ugyanez szokott lenni.
Hogyan tanul egy LLM?
Egy nagy nyelvi modell tanítása két fő szakaszból áll. Az előtanítás során a modell hatalmas szövegmennyiségen tanulja meg a nyelvet és a világról szóló tudást, úgy, hogy újra és újra a következő tokent próbálja kitalálni. Az utótanítás során emberek által értékelt példákon azt tanulja meg, hogyan legyen hasznos asszisztens: hogyan kövesse az utasításokat, és mit ne tegyen.
A második lépés többet számít, mint elsőre hinnéd. Az OpenAI 2022-es kutatásában egy 1,3 milliárd paraméteres, emberi visszajelzéssel finomított modell válaszait az értékelők jobbnak tartották, mint egy százszor nagyobb, 175 milliárd paraméteres modellét. A méret tehát nem minden: az számít, mire tanították.
Mi a kontextusablak?
A kontextusablak az a szövegmennyiség, amit a modell egy beszélgetésben egyszerre figyelembe tud venni: a te kérdéseid, a feltöltött dokumentumok és a saját korábbi válaszai együtt. Ami nem fér bele, azt a modell nem látja. 2026 októberében a vezető modelleknél ez 1 millió token, vagyis több százezer szónyi szöveg.
Magyarul, a fenti mérés alapján, ugyanebbe kevesebb szó fér, de így is egy teljes pályázati dokumentáció vagy egy hosszú levelezés. A gyakorlati tanulság: hosszú beszélgetésben a modell a régi részleteket kevésbé pontosan kezeli. Ha egy fontos dokumentumra építesz, add meg újra, vagy kezdj új beszélgetést.
Miért hallucinál egy nagy nyelvi modell?
Egy nagy nyelvi modell azért hallucinál, mert mindig a legvalószínűbb folytatást írja le, akkor is, ha nem tudja a választ. Ha egy adat (egy telefonszám, egy ritka név, egy paragrafus) alig szerepelt a tanítóadatban, a modell a formát folytatja, nem a tényt. Az OpenAI kutatói szerint ezt az erősíti, hogy a modellek értékelése a tippelést jutalmazza, nem a "nem tudom"-ot.
Ez a működésből következik, nem hiba, amit egy frissítés kijavít. Csökkenteni lehet: keresővel, saját anyaggal, ellenőrző kérdésekkel. A gyakorlati oldalát, vagyis hogy mikor talál ki az AI adatot, és hogyan veszed észre, az AI hallucinációról szóló cikkben írjuk le részletesen.
Nyílt vagy zárt modell: mi a különbség?
A zárt modellt csak a gyártó szolgáltatásán keresztül éred el (ilyen a GPT, a Claude és a Gemini), a nyílt (open-weight) modell belső paramétereit viszont letöltheted, és saját gépen vagy szerveren futtathatod. A zárt modellek ma általában erősebbek, a nyíltak felett viszont teljes az irányításod: az adat nem hagyja el a géped.
| Zárt modell | Nyílt modell | |
|---|---|---|
| Példák | GPT, Claude, Gemini | Llama, Qwen, a magyar PULI-modellek |
| Hol fut | A gyártó felhőjében | Ahol te futtatod |
| Teljesítmény | Ma jellemzően a legerősebbek | Közelít, főleg a nagyobb változatoknál |
| Költség | Használat szerint vagy előfizetéssel | Saját hardver és üzemeltetés |
| Adat | A gyártó szerverén megy át, szerződés szerint | Nálad marad |
| Ki frissíti | A gyártó, és ki is vezetheti | Te döntöd el |
Van magyar nyelvi modell?
Igen, kifejezetten magyarra hangolt nagy nyelvi modelleket a HUN-REN Nyelvtudományi Kutatóközpont ad ki PULI néven. Ezek nyílt modellek: a legújabbak közül kettő egy nemzetközi alapmodellt (a Meta Llama 3.1-ét vagy az Alibaba Qwen2.5-ét) tanítanak tovább magyar szövegen. A PULI-LlumiX és a PULI-Trio-Q a modellkártyájuk szerint nagyjából 8,7 milliárd szónyi magyar szöveget kapott.
Ezek a modellek 7-8 milliárd paraméteresek, vagyis jóval kisebbek a ChatGPT vagy a Claude mögött futó modelleknél. A tapasztalatunk szerint hétköznapi magyar szövegre ma a nagy, többnyelvű zárt modellek adják a legjobb minőséget. A magyar modellek ott értékesek, ahol az adat nem hagyhatja el a szervezetet, és ahol a saját futtatás fontosabb a csúcsminőségnél.
Melyik a legjobb LLM, és hogyan válasszon egy cég?
Legjobb LLM nincs, csak a feladatra legjobb. A modellek rangsora hónapról hónapra változik, és a különbségek sokszor kisebbek, mint a jó és a rossz utasítás közötti különbség. Egy cégnek ezért nem a "legokosabb" modellt kell keresnie, hanem azt, amelyik az ő feladatán, az ő nyelvén, elfogadható áron és adatkezeléssel megbízhatóan dolgozik.
Négy szempont, amin egy cégnek végig kell mennie:
- Nyelvi minőség a saját anyagodon. Tíz valódi magyar levél, szerződés, ügyfélkérdés többet mond bármilyen rangsornál.
- Ár magyar szövegre számolva. A tokenár mellé számold be, hogy a magyar több tokenbe kerül.
- Adatkezelés. Hol fut, mit tárol, tanít-e a beküldött adatokon, van-e adatfeldolgozási szerződés.
- Cserélhetőség. A gyártók a régi modelleket kivezetik. Az Anthropic például minden modellnél közli a legkorábbi kivezetési dátumot. A rendszer úgy épüljön, hogy a modell egy nap alatt cserélhető legyen.
A cserélhetőség fontosságát egy átvett rendszernél láttuk a legtisztábban. A Profitszakértő korábbi, más szolgáltató által épített AI-levelezője egyik napról a másikra leállt, mert a mögötte lévő technológiát kivezették. Még aznap átvettük, visszaállítottuk, és egy erősebb modellre költöztettük. Ezért építjük úgy a rendszereinket, hogy a modell egy beállítás legyen, ne az alapfal: a modell a rendszer legrövidebb életű része.
Hudácsek Bence Társalapító, CTO · AutomatingA teljes történet a Profitszakértő esettanulmányában olvasható. Ha a szakszavak között elveszel, az AI szótár magyarul magyarázza el a tokent, a promptot és a többit, ha pedig azt nézed, melyik kész eszközt használd a munkádhoz, a ChatGPT, Claude, Gemini és társaik összehasonlítása a következő lépés.
Gyakori kérdések
Mi a különbség az LLM és a ChatGPT között?
Az LLM maga a modell, a ChatGPT egy alkalmazás, ami ilyen modelleket használ. A ChatGPT mögött az OpenAI GPT-modelljei futnak, a Claude alkalmazás mögött az Anthropic Claude-modelljei. Az alkalmazás tesz hozzá keresést, fájlkezelést, memóriát és felületet.
Melyik a legjobb magyar LLM?
Hétköznapi magyar szövegre ma a nagy, többnyelvű modellek (GPT, Claude, Gemini) teljesítenek a legjobban. Kifejezetten magyarra hangolt, nyíltan elérhető modellt a HUN-REN Nyelvtudományi Kutatóközpont ad ki PULI néven, ezek kisebbek, viszont saját szerveren is futtathatók.
Gondolkodik egy nagy nyelvi modell?
Nem emberi értelemben. A modell valószínűségeket számol, és a legjobban illő folytatást választja. Az újabb modellek a válasz előtt köztes lépéseket is generálnak (ezt hívják gondolkodásnak vagy érvelésnek), ami összetett feladatnál javítja a pontosságot, de nem tudatosság.
Mennyi idő alatt tanítanak be egy LLM-et?
A nagy modellek előtanítása hetekig vagy hónapokig tart, rengeteg grafikus processzoron. Egy cégnek ezt nem kell megcsinálnia: a kész modelleket használja, és a saját tudását a kérdés mellé adja (tudásbázis), nem a modellbe tanítja.
Források
- Attention Is All You Need (Vaswani és mtsai), arXiv (2017-06-12)
- Training language models to follow instructions with human feedback (Ouyang és mtsai), arXiv / OpenAI (2022-03-04)
- Why Language Models Hallucinate (Kalai és mtsai), arXiv / OpenAI (2025-09-04)
- tiktoken (o200k_base tokenizáló), OpenAI (2026-10-04)
- Models overview (kontextusablak, kivezetési dátumok), Anthropic (2026-10-04)
- NYTK modellek a Hugging Face-en (PULI család), HUN-REN Nyelvtudományi Kutatóközpont (2026-10-04)
- PULI-LlumiX-Llama-3.1, HUN-REN Nyelvtudományi Kutatóközpont (2026-10-04)
- PULI-Trio-Q, HUN-REN Nyelvtudományi Kutatóközpont (2026-10-04)
Utolsó tartalmi frissítés: 2026. október 4.