Jak hodnotit klasifikaci
Rozpoznávání obrazců VII · Michal Haindl · podklady 2023–2024.
Od úpravy tematické mapy přejdeme k matici záměn, chybám, validačním protokolům a párovému porovnávání klasifikátorů.
Rozpoznávání obrazců VII · Michal Haindl · podklady 2023–2024.
Od úpravy tematické mapy přejdeme k matici záměn, chybám, validačním protokolům a párovému porovnávání klasifikátorů.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 1
Většinový filtr nahrazuje označení v okolí nejčastější třídou. Může odstranit izolovaný šum, ale také malé skutečné objekty a přesunout hranice.
Medián číselných kódů nominálních tříd nemá obecně věcný význam. Filtrování příznaků před klasifikací a filtrování hotových tříd jsou různé operace.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 1, 2
Subjektivní prohlídka pomůže odhalit artefakty. Objektivní vyhodnocení potřebuje definovanou referenci, výběr testu, jednotku pozorování a ztrátovou funkci.
Neexistuje univerzálně nejlepší klasifikátor pro všechny možné úlohy. Bayesova chyba je vlastnost rozdělení a ztráty; empirická testová chyba ji pouze odhaduje za daného protokolu.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 2, 3, 4
Reprezentativní test zachycuje cílovou populaci i obtížné případy. Výběr jen nejodlišnějších vzorků změní jeho rozdělení.
U obrazu nerozděluj těsně sousedící nebo odvozené výřezy náhodně mezi trénink a test, pokud sdílejí informaci. Označení chyb I/II v různých oborech kolísá; vždy popiš skutečnou a predikovanou událost.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 4, 5
V této webové verzi jsou řádky skutečné třídy a sloupce predikované. Diagonála obsahuje správná rozhodnutí.
Pro zvolenou třídu se všechny ostatní třídy sloučí do negativní skupiny. TP je správně pozitivní, FN přehlédnuté pozitivní, FP falešně pozitivní a TN správně negativní.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 5, 6
Precision odpovídá na otázku, kolik pozitivních předpovědí bylo správných. Recall říká, kolik skutečně pozitivních případů jsme našli. IoU porovnává průnik se sjednocením.
Změna rozhodovacího prahu vytváří precision–recall křivku. Plochu i zvolený pracovní bod reportujeme spolu s četností pozitivní třídy. Při nulovém jmenovateli je metrika bez stanovené konvence nedefinovaná.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 6, 7
Stejná četnost různých chyb nemusí znamenat stejné riziko. Ztrátu lze průměrovat podle skutečných důsledků rozhodnutí.
V podkladu je 998 jablek a dvě hrušky. Klasifikátor „vždy jablko“ má accuracy 99,8 %, ale nulový recall hrušek. Převzorkování tréninku nemění samo o sobě cílové četnosti.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 8
Pixelové skóre neodhalí každé rozdělení jednoho objektu ani spojení několika objektů. Oblastní hodnocení rozlišuje správnou detekci, nadsegmentaci, podsegmentaci, vynechané oblasti a šum.
V ukázce ALI-kNN se porovnávají průniky referenčních a nalezených oblastí při zvoleném prahu 0,75. Procenta podkladu patří konkrétnímu experimentu, nikoli obecnému výkonu metody.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 8, 9, 10
Resubstituce hodnotí model na stejných případech, na kterých se učil. Obvykle podhodnocuje budoucí chybu.
Hold-out oddělí testovací množinu, ale výsledek závisí na dělení a velikosti testu. Ladění parametrů má vlastní validační část; test nevybírá vítěznou konfiguraci.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 10
V k-fold validaci se model opakovaně učí bez právě hodnoceného bloku. Trénovací části se překrývají, takže jednotlivé odhady nejsou nezávislé replikace.
Bootstrap vzorkuje s opakováním. Pravděpodobnost, že případ v n tazích nebude vybrán, míří k 1/e. Out-of-bag případy slouží k hodnocení, ale neřeší automaticky ladění ani závislé vzorky.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 10, 11, 12
Podklad porovnává odhady chyby na multispektrálních datech LANDSAT se sedmi třídami. U téhož Bayesova klasifikátoru uvádí resubstituci 27,6 %, hold-out 33,9 %, rotaci 30,4 % a Toussaintův odhad 28,9 %.
Čísla ukazují závislost závěru na protokolu. Nejsou novým měřením GRAFIT ani srovnáním dnešních algoritmů.
| Odhad | Chyba v podkladu |
|---|---|
| Resubstituce | 27,6 % |
| Hold-out | 33,9 % |
| Rotace | 30,4 % |
| Toussaint | 28,9 % |
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 12, 13
Další příklad LANDSAT TM rozlišuje 15 tříd v sedmi pásmech. Záměna jetele a trávy nebo městské třídy může zůstat skryta v průměru.
Uváděná accuracy 0,774 je historický resubstituční výsledek. Pro interpretaci potřebujeme také podpory tříd, precision, recall a informaci o neklasifikovaných pixelech.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 13, 14
Pořadí metod může změnit testovací vzorek, trénovací vzorek i náhodná inicializace. Opakované běhy zachycují jinou variabilitu než nové nezávislé datasety.
Párové porovnání používá stejné testovací případy pro oba modely. Reportuj rozdělení rozdílů a protokol, nikoli jen dvě nejlepší hodnoty.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 15
Test pro dvě metody na stejných případech využívá pouze neshodné výsledky: b případů správně jen metodou A, c správně jen metodou B.
Příklad b=14, c=5 dává s korekcí 64/19≈3,368. V podkladu nedosahuje hranice 3,841 pro asymptotický test na hladině 0,05. Malý počet neshod je vhodné řešit přesným binomickým testem.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 15
Friedmanův test používá pořadí K metod v N blocích, typicky datasetech. Shody dostanou průměrné pořadí; test zkoumá souhrnnou nulovou hypotézu.
Zamítnutí samo neurčí, které dvojice se liší. Následné testy potřebují kontrolu násobného porovnávání. Číselný příklad v podkladu je historická demonstrace, ne nové benchmarkové tvrzení.
Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 15, 16
Konstruovaný didaktický model. Měňte vstupy a sledujte výpočet; nejde o naměřený výkon ani plný učící algoritmus.
Při 990 negativních a 10 pozitivních případech má klasifikátor „vždy negativní“ accuracy 99 %, ale recall pozitivní třídy 0 %. Precision je nedefinovaná, protože nebyl předpovězen žádný pozitivní případ.
Nezaměňujte precision za recall ani jeden údaj bez rozmyslu nepřekládejte jako „přesnost“. Uvádějte vzorec, pozitivní třídu a jmenovatel.
Jaký recall má pravidlo „vždy negativní“, pokud jsou v testu pozitivní případy?
Nulový: TP = 0 a FN > 0. Precision je bez předpovězených pozitivních případů nedefinovaná.
TP a FN se vztahují ke skutečně pozitivním případům; FP a TN ke skutečně negativním. Bez určení pozitivní třídy a orientace matice záměn je snadné zaměnit citlivost, přesnost a specificitu.
Precision = TP/(TP+FP), recall = TP/(TP+FN), specificity = TN/(TN+FP). Accuracy počítá podíl všech správných rozhodnutí. Při nulovém jmenovateli je poměr nedefinovaný; dohodnuté náhradní konvence je nutné uvést.
ROC zobrazuje TPR proti FPR, křivka precision–recall zachycuje jiný pohled. Jediné číslo AUC nenahrazuje volbu provozního bodu ani cenu chyb. Precision se mění i s apriorní četností pozitivní třídy.
Výkon z konečného vzorku je odhad. Způsob dělení, závislosti mezi vzorky a interval nejistoty jsou součástí jeho interpretace. Téměř stejné skóre nemusí znamenat prokázaný rozdíl metod.
Autor původních podkladů: Michal Haindl, FIT ČVUT / ÚTIA AV ČR, 2023–2024. Český tematický přepis, vysázení a didaktické doplňky: GRAFIT, 2026.
Tato verze slučuje postupná odhalení a vysvětluje témata vlastními větami. Není doslovnou reprodukcí každé původní tabulky ani náhradou aktuálních organizačních pokynů. Zdrojové PDF zůstává beze změny; žádný původní snímek zde není vložen jako obrázek.
Stáhnout původní PDFAutorský zdrojMapa témat a SHA-256
SHA-256 původního PDF: 1ad0efc4e8b03ff321446025c4891cde2052d241c096a703fd4c05295ed2f338