Rozhodovací funkce je g(x)=wᵀx+b. Znaménko určí binární třídu; velikost g sama závisí na škále parametrů.

Podepsaná vzdálenost dělí hodnotu funkcí normou w. V kanonickém zápisu jsou podpůrné nadroviny g=±1. Celková šířka pásu je 2/‖w‖.

U lineárně separovatelných dat minimalizujeme polovinu čtverce normy při podmínce správného kanonického oddělení všech bodů.

Podpůrné vektory leží na aktivních omezeních. Při neseparovatelnosti tato úloha nemá přípustné řešení.

Každé omezení dostane nezáporný multiplikátor αᵢ. Stacionarita dává váhový vektor jako kombinaci trénovacích vzorků a nulový součet αᵢyᵢ.

Duál maximalizuje konkávní kvadratickou funkci. Nulové αᵢ přispívat nemusí; aktivní multiplikátory určují výsledný model.

U konvexní úlohy jsou za splněných předpokladů KKT podmínky podmínkami optimality. Nemusíme hledat mezi odlišnými lokálními minimy jako u obecné neuronové sítě.

Jedinečnost w neznamená obecně jedinečnost všech multiplikátorů nebo biasu v každé degenerované variantě. Klasifikace využije součet jen přes podpůrné vektory.

Neseparovatelná data dovolují porušení okraje. ξ=0 splňuje kanonické omezení, 0<ξ<1 leží správně uvnitř pásu a ξ>1 může znamenat chybné znaménko.

Penalizujeme součet porušení, nikoli přímo počet chyb. Velké C zvyšuje cenu porušení; malé dává větší prostor regularizaci.

Duální multiplikátory nyní leží mezi 0 a C. U bodů s 0<αᵢ<C je ξᵢ=0 a bod leží na okraji; z těchto bodů lze určit bias.

Pokud takové body chybějí, bias se určuje z přípustného intervalu nebo podle řešiče. Zvyšování C neudělá neseparovatelná data separovatelnými.

One-vs-rest učí K binárních modelů, one-vs-one K(K−1)/2. Jejich skóre a hlasování vyžadují pravidlo řešení shod.

Existují i společné vícetřídé optimalizační formulace. SVM proto není principiálně omezeno na dvě třídy; binární odvození je výchozí stavební kámen.

Skalární součin ve vhodném prostoru příznaků nahradíme jádrem K(x,z). Aby šlo o platné reálné jádro, musí být symetrické a jeho Gramovy matice pozitivně semidefinitní.

Lineární, polynomiální a Gaussovo RBF jádro představují různé podobnosti. RBF používá čtverec vzdálenosti x−z, nikoli čtverec skalárního součinu.

Některé modely vracejí jen třídu, jiné pořadí nebo vektor skóre. Slučovat můžeme pouze výstupy s jasně sjednoceným významem a pořadím tříd.

Raw SVM skóre není posteriorní pravděpodobnost. Kalibrace i váhy kombinace se učí na vhodně oddělených datech.

Většinové hlasování počítá vítězné třídy dílčích modelů. Borda sčítá pořadí každé třídy a vybírá nejnižší součet.

Vazby a váhy musí být předem definované. Pro tři žebříčky [1,5,4,2,3], [5,1,3,2,4], [5,3,1,4,2] jsou součty pořadí tříd [6,13,10,12,4], vítězí tedy třída 5.

Průměr, minimum a maximum mají různý význam. Maximum zvýrazní optimistický model, minimum vyžaduje souhlas a průměr vyrovnává rozdíly.

Průměr kalibrovaných pravděpodobností může být užitečný ensemble. Prostý součin nebo jiná „Bayesovská“ kombinace vyžaduje model závislostí; nelze automaticky násobit posteriory a opakovaně započítat prior.

Pro w = (3,4), b = −5 a x = (1,1) je skóre 2 a ‖w‖ = 5, tedy vzdálenost od hranice 0,4. Kanonické hyperroviny se skóre ±1 mají šířku pásu 2/5 = 0,4; to je jiná veličina než vzdálenost libovolného bodu.

Nepovažujte 2/‖w‖ za empirický margin bez ověření kanonického měřítka a podmínek vzorků. Hračková geometrická ukázka níže SVM netrénuje.

Změní se geometrická hranice při násobení w i b stejným kladným číslem?

Lineární SVM používá znaménko wᵀx + b. Pro nenulové w je geometrická vzdálenost bodu od hranice |wᵀx+b|/‖w‖. Samotné skóre se při přenásobení w a b mění, geometrická hranice však zůstává.

V separovatelném případě se parametry škálují tak, aby yᵢ(wᵀxᵢ+b) ≥ 1. Vzdálenost mezi podpůrnými hyperrovinami wᵀx+b = ±1 je 2/‖w‖. Maximalizace tohoto marginu odpovídá minimalizaci ½‖w‖².

Soft-margin SVM připouští porušení pomocí slack proměnných a penalizace. Parametr C řídí kompromis mezi velikostí vah a penalizací těchto porušení. Jeho význam závisí i na škálování příznaků a použité formulaci cíle.

Jádrový trik nahrazuje skalární součiny vhodnou jádrovou funkcí. Pro standardní konvexní SVM má být jádro pozitivně semidefinitní. Hyperparametry jádra i C se volí validačně, nikoli na testu.

Autor původních podkladů: Michal Haindl, FIT ČVUT / ÚTIA AV ČR, 2023–2024. Český tematický přepis, vysázení a didaktické doplňky: GRAFIT, 2026.

Tato verze slučuje postupná odhalení a vysvětluje témata vlastními větami. Není doslovnou reprodukcí každé původní tabulky ani náhradou aktuálních organizačních pokynů. Zdrojové PDF zůstává beze změny; žádný původní snímek zde není vložen jako obrázek.