Rozhodovací modely

1. Jev zatím zůstává. Náš vlastní pokus: malý model Qwen3.5-0.8B dotrénovaný na 287 hodnocených vláknech dosáhl na 273 společných vláknech AUC 0,948 proti 0,975 u Jevu a ve 19 jistých odpovědech se spletl; Jev v žádné [21].

2. Přesnost se dá postavit rozdělením otázky. Ve veřejném opakovatelném testu na 2 000 phishingových e-mailech měl Jev s jednou otázkou 62,6 %. Když se otázka rozdělila na pět úzkých a jejich váhy se naučily na 1 000 označených e-mailech, dosáhl 95,0 %. Claude Haiku 4.5 měl stejným postupem 93,2 % a dvouřádkový regulární výraz 91,8 % [17].

3. Na vlastní grafické kartě 12 GB jde dotrénovat jen malé modely: Qwen3.5 do velikosti 2B (náš trénink 2B potřeboval 11 GB) nebo laya. Modely 9B a větší jde na takové kartě nanejvýš spouštět [15] [16] [21].

4. Hotový model na české tiskové poptávky jsme nenašli. E-mailové modely v oddílu níže řeší spam, phishing nebo obecné třídění; češtinu žádný z nich neuvádí a laya umí jen anglicky.

5. Další krok je vyčistit vstup, ne zvětšit model. Při tréninku model vidí jen prvních 4 096 tokenů vlákna, při vyhodnocení až 16 384. Polovinu vstupu tvoří citované kopie starších zpráv a chyby se kupí právě v konverzacích s citací. Postup je v záložce Plán čištění [22] [23].

6. Pro češtinu je nejslibnější vyzkoušet malý vícejazyčný enkodér mmBERT. Unsloth ho umí dotrénovat stejným postupem, pojme až 8 192 tokenů a na procesoru je výrazně levnější než Qwen. České výsledky zatím nikdo nezměřil, proto až po čištění a na stejných datech (záložka Model pro češtinu) [24].

Obecná tabulka Unsloth platí pro LoRA v plné přesnosti; 4bitový trénink modelů Qwen3.5 Unsloth nedoporučuje [16]. Jeho návod na rozhodovací modely přesto načítá model 4bitově [15]. Náš trénink: vstup do 4 096 tokenů, při vyhodnocení se 2B do 12 GB nevešel u dlouhých vláken.

• laya je dotrénovaná mimo jiné na třídění e-mailů (spam, phishing, oddělení), jen anglicky [12].
• email-safety-triage (Qwen3.5-2B): vrací JSON s tříděním, prioritou a rizikem. Učil se na 8 000 e-mailech ze sady email-safety-triage-10k; na testu stoupl průměr z 0,537 na 0,862 a podíl úspěšných odpovědí z 61,5 % na 89,0 %. Licence „other“ [19].
• email-triage-lora (Llama 3.2 3B): volí mezi předáním člověku, automatickou odpovědí a doplňujícím dotazem. Na 21 e-mailech 71,4 %, jednoduchá pravidla 76,2 % [20].

• Nezávislé srovnání všech těchto modelů na stejných datech neexistuje; většinu přesností měřili autoři modelů.
• Jestli laya-multilingual rozumí češtině. Autoři uvádějí přes 100 jazyků, seznam jsme nečetli.
• Pod jakou licencí jsou váhy tev1. Stránka modelu uvádí licenci jen u skriptů a dat.
• Kolik paměti potřebuje spuštění modelu s dlouhým e-mailem. Uvádíme jen velikost souboru; dlouhý vstup chce paměti víc.
• Ohlasy uživatelů: diskuse se skutečnými zkušenostmi jsme nenašli, jen články a stránky autorů.

1. S0

   hotovo

   Sonda proveditelnosti. Dotrénovaný model jde provozovat i na procesoru bez Unsloth (llama.cpp). Domácí server zpracuje vlákno o 9 300 tokenech za 352 s, takže délka vstupu je i provozní otázka [21].

2. S1

   hotovo

   Data a srovnávací laťky. 136 lidsky označených vláken, pět skupin podle odesílatele a časový běh: trénink na starších 80 %, test na nejnovějších 20 %. Testovací vlákna do tréninku nepatří [21].

3. S2

   brána neprošla

   První trénink Qwen3.5-0.8B a 2B na kartě 12 GB. Model 2B dosáhl AUC 0,950, Jev 0,989. Jev zůstal [21].

4. S2c

   hotovo

   Delší okno 8 192 tokenů se do 12 GB nevejde (přetéká do sdílené paměti) a 31 ze 102 vláken by zůstalo uříznutých [21].

5. S3a

   brána prošla

   Velký model glm jako druhý učitel (Ollama cloud): na 136 vláknech AUC 0,997 a žádná jistá chyba [21].

6. S3b–d

   hotovo

   Víc štítků. glm a Jev navrhly štítky, sporná a kontrolní vlákna rozhodl člověk: 162 vláken [21].

7. S3e

   brána neprošla

   Přeměření s víc štítky. Na 273 společných vláknech AUC 0,948 proti 0,975 u Jevu a 19 jistých chyb. Víc štítků model zlepšilo jen nepatrně a udělalo ho přesvědčenějším [21].

8. Č

   teď

   Čištění trénovacích dat podle průzkumu, viz záložky Příprava dat a Plán čištění [22] [23].

• Polovina vstupu je historie. Citované řádky (začínající znakem „>“) tvoří 49,3 % tokenů, zástupné symboly masky 17,0 %.
• Trénink a vyhodnocení vidí jiný text. Unsloth při tréninku řeže vstup na 4 096 tokenů a konec zahodí bez značky; predikce čte až 16 384 tokenů [25] [26]. Týká se to 17 % vláken.
• Dnešní čištění nestačí. Nahrazení citovaných kopií značkou zkrátí sadu jen o 11,4 % a z 63 uříznutých vláken zachrání 6.
• Celou historii smazat nejde. U 20 poptávek je text poptávky jen v citaci.
• Chyby se kupí v konverzacích s citací. U negativních vláken s historií nad 50 % se model spletl ve 12 z 80 případů, bez historie v 1 ze 131. Je to souvislost, ne dokázaná příčina.

1. 0

   hotovo

   Změřit rozdíl okna bez tréninku. Na dlouhých vláknech dá predikce na stejných 4 096 tokenech jako trénink AUC 0,910 místo 0,861 a 2 jisté chyby místo 4. Rozdíl okna tedy škodí.

2. 1–3

   zrušeno

   Přezkum štítků naslepo. Jisté chyby našeho modelu, Jevu i glm a stejný počet jistě správných vláken, zamíchaně a bez skóre. Zrušeno 12. 10., protože skoro všechna posuzovaná vlákna byla ze soukromé pošty.

3. 2b

   teď

   Data jen z vláken Prelude. Vlákna od Prelude nebo pro Prelude a všechna vlákna od kolegy, celkem 204. Člověk označí naslepo 181 vláken, která štítek ještě nemají. Pak z nich vznikne nová sada se skupinami podle odesílatele a nová laťka.

4. 4–6

   čeká

   Jedna funkce délky. Řez po celých zprávách (první zpráva a nejnovější zprávy) na rozpočet v tokenech Qwen, stejně pro trénink i predikci.

5. 5

   čeká

   Deduplikace citací. Opakovaný řádek zůstane jen při prvním výskytu ve vlákně, takže poptávka, která je jen v citaci, se neztratí.

6. 7

   čeká

   Čtyři varianty textu: cv0 dnešní vstup, cv1 s řezem po zprávách, cv2 navíc s deduplikací citací, cv3 navíc se sloučenými podpisovými bloky masky.

7. 9

   čeká

   Trénink na HAL3000: 4 varianty po 6 bězích, výchozí a nejlepší varianta se třemi semeny.

8. 10

   čeká

   Vyhodnocení. Brána beze změny: AUC aspoň 0,955 a žádná jistá chyba. Varianta se přijme, jen když se zlepší aspoň ve 4 z 5 skupin.

9. 11

   podle výsledků

   Další páky: téměř stejná vlákna do jedné skupiny, cílené štítkování konverzací s citací, jiný model (záložka Model pro češtinu).

Průběh

• 11. 10. 2026: plán napsán podle průzkumu, nic zatím neprovedeno.
• 11. 10. 2026: uživatel plán schválil včetně srovnání s Jevem na stejných vláknech a štítcích (ne na stejném textu). Další krok: kostra skriptu a změření rozdílu okna bez tréninku.
• 11. 10. 2026: rozdíl okna změřen na stávajících predikcích S3e (287 vláken, z toho 60 dlouhých). Predikce na 16 384 tokenech: AUC 0,927, na dlouhých 0,861. Predikce na 4 096 jako při tréninku: AUC 0,935, na dlouhých 0,910. Jde o jeden běh a horní odhad, ale směr podporuje řez po zprávách stejný pro trénink i predikci.
• 11. 10. 2026: revize plánu proti průzkumu. Přezkum štítků je teď symetrický: posoudí se jisté chyby našeho modelu, Jevu i glm. Kdyby se opravovaly jen chyby našeho modelu, štítky by se posouvaly k němu a srovnání s Jevem by mu nadržovalo. Tři semena u všech variant a cílené štítkování konverzací s citací během tréninku uživatel nevybral. Vítěz se proto vybere z jednoho běhu a těsný výsledek bude potřeba ověřit dalšími semeny.
• 11. 10. 2026: stránka k přezkumu je připravená. Mezi 287 hodnocenými vlákny má jistou chybu náš model ve 20 vláknech, glm v 5 a Jev v žádném. K 24 podezřelým vláknům přibylo 24 jistě správných, takže se posuzuje 48 vláken naslepo bez skóre i dnešního štítku. Čeká se na označení.
• 12. 10. 2026: po 12 posudcích změna směru: uživatel si všiml, že většina vláken je z jeho soukromé pošty, která s projektem nesouvisí. Trénovat se bude jen na vláknech Prelude. V databázi EmailRatoru je jich 204 z 1 094, včetně všech 169 vláken od kolegy. Ta jdou do tréninku, i když zatím sloužila jako testovací sada EmailRatoru, a model se ověří křížovou validací. Z dosavadní sady 340 vláken jich do Prelude patří jen 23. Na stránce k označení je 181 vláken.

1. Plán čištění dokončit na Qwen3.5-0.8B. Výsledky půjdou porovnat s dosavadními pokusy a model mezi variantami dat se nemění.

2. Vítěznou variantu dat vyzkoušet s mmBERT-base. Unsloth vedle Qwenu umí dotrénovat i enkodér s rozhodovací hlavou (cesta Laya, jen v 16 bitech) [26]. Vícejazyčná laya na mmBERT-base má 322 mil. parametrů, s nastavením pojme 8 192 tokenů a na procesoru odpoví za 193–464 ms; trénink laya potřebuje podle Unsloth 2,5 GB [15]. mmBERT měl v předtréninku 22,7 mld. tokenů češtiny a ve vícejazyčném testu XNLI 77,1 proti 74,6 u XLM-R. Česká čísla nemá.

3. Gemma 4 E2B jako druhý kandidát, když mmBERT zaostane: ve vícejazyčném testu MMMLU 67,4 %, licence Apache 2.0. Větší E4B potřebuje k tréninku 14,4 GB a na naši kartu se nevejde; paměť pro E2B je potřeba nejdřív změřit.

4. Nejdřív změřit, kolik tokenů dá čeština v tokenizéru každého kandidáta na našich vláknech. Na tom závisí, kolik vlákna se vejde do okna a kolik stojí provoz na procesoru.

V českém dotrénování na úloze ABSA (2025) měla Gemma 3 4B F1 70,46; malé modely s 1–3 mld. parametrů byly na úrovni dřívějších enkodérů nebo pod ní [24].