← Zpět na přehledROZ / 07
VýkladS komentářem
ROZ 07 · Výklad s komentářem

Jak hodnotit klasifikaci

Rozpoznávání obrazců VII · Michal Haindl · podklady 2023–2024.

Od úpravy tematické mapy přejdeme k matici záměn, chybám, validačním protokolům a párovému porovnávání klasifikátorů.

DataPříznakyRozhodnutí
Nově kreslené schéma GRAFIT · ilustrační konstrukce.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 1

ROZ 07 · Výklad s komentářem

Vyhlazení tematické mapy

Většinový filtr nahrazuje označení v okolí nejčastější třídou. Může odstranit izolovaný šum, ale také malé skutečné objekty a přesunout hranice.

Medián číselných kódů nominálních tříd nemá obecně věcný význam. Filtrování příznaků před klasifikací a filtrování hotových tříd jsou různé operace.

Oblast A / oblast B
Nově kreslené schéma GRAFIT · ilustrační konstrukce.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 1, 2

ROZ 07 · Výklad s komentářem

Výkon závisí na úloze

Subjektivní prohlídka pomůže odhalit artefakty. Objektivní vyhodnocení potřebuje definovanou referenci, výběr testu, jednotku pozorování a ztrátovou funkci.

Neexistuje univerzálně nejlepší klasifikátor pro všechny možné úlohy. Bayesova chyba je vlastnost rozdělení a ztráty; empirická testová chyba ji pouze odhaduje za daného protokolu.

Pe*=1−∫maxk{πkp(x∣k)}dx

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 2, 3, 4

ROZ 07 · Výklad s komentářem

Test má odpovídat nasazení

Reprezentativní test zachycuje cílovou populaci i obtížné případy. Výběr jen nejodlišnějších vzorků změní jeho rozdělení.

U obrazu nerozděluj těsně sousedící nebo odvozené výřezy náhodně mezi trénink a test, pokud sdílejí informaci. Označení chyb I/II v různých oborech kolísá; vždy popiš skutečnou a predikovanou událost.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 4, 5

ROZ 07 · Výklad s komentářem

Matice záměn s jasnými osami

V této webové verzi jsou řádky skutečné třídy a sloupce predikované. Diagonála obsahuje správná rozhodnutí.

Pro zvolenou třídu se všechny ostatní třídy sloučí do negativní skupiny. TP je správně pozitivní, FN přehlédnuté pozitivní, FP falešně pozitivní a TN správně negativní.

Predikce+−TPFNFPTN+−Řádky: skutečnost
Nově kreslené schéma GRAFIT · ilustrační konstrukce.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 5, 6

ROZ 07 · Výklad s komentářem

Přesnost, úplnost a průnik

Precision odpovídá na otázku, kolik pozitivních předpovědí bylo správných. Recall říká, kolik skutečně pozitivních případů jsme našli. IoU porovnává průnik se sjednocením.

Změna rozhodovacího prahu vytváří precision–recall křivku. Plochu i zvolený pracovní bod reportujeme spolu s četností pozitivní třídy. Při nulovém jmenovateli je metrika bez stanovené konvence nedefinovaná.

precision=TPTP+FP
recall=TPTP+FN
IoU=TPTP+FP+FN

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 6, 7

ROZ 07 · Výklad s komentářem

Náklady chyb a nevyvážené třídy

Stejná četnost různých chyb nemusí znamenat stejné riziko. Ztrátu lze průměrovat podle skutečných důsledků rozhodnutí.

V podkladu je 998 jablek a dvě hrušky. Klasifikátor „vždy jablko“ má accuracy 99,8 %, ale nulový recall hrušek. Převzorkování tréninku nemění samo o sobě cílové četnosti.

R^=1n∑iL(y^i,yi)

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 8

ROZ 07 · Výklad s komentářem

Segmentace vyžaduje i hodnocení oblastí

Pixelové skóre neodhalí každé rozdělení jednoho objektu ani spojení několika objektů. Oblastní hodnocení rozlišuje správnou detekci, nadsegmentaci, podsegmentaci, vynechané oblasti a šum.

V ukázce ALI-kNN se porovnávají průniky referenčních a nalezených oblastí při zvoleném prahu 0,75. Procenta podkladu patří konkrétnímu experimentu, nikoli obecnému výkonu metody.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 8, 9, 10

ROZ 07 · Výklad s komentářem

Resubstituce a hold-out

Resubstituce hodnotí model na stejných případech, na kterých se učil. Obvykle podhodnocuje budoucí chybu.

Hold-out oddělí testovací množinu, ale výsledek závisí na dělení a velikosti testu. Ladění parametrů má vlastní validační část; test nevybírá vítěznou konfiguraci.

TréninkValidaceTest
Nově kreslené schéma GRAFIT · ilustrační konstrukce.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 10

ROZ 07 · Výklad s komentářem

Křížová validace a bootstrap

V k-fold validaci se model opakovaně učí bez právě hodnoceného bloku. Trénovací části se překrývají, takže jednotlivé odhady nejsou nezávislé replikace.

Bootstrap vzorkuje s opakováním. Pravděpodobnost, že případ v n tazích nebude vybrán, míří k 1/e. Out-of-bag případy slouží k hodnocení, ale neřeší automaticky ladění ani závislé vzorky.

P(OOB)=(1−1/n)n⟶e−1
E^CV=1n∑iL(y^i(−fold(i)),yi)

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 10, 11, 12

ROZ 07 · Výklad s komentářem

Historický příklad LANDSAT

Podklad porovnává odhady chyby na multispektrálních datech LANDSAT se sedmi třídami. U téhož Bayesova klasifikátoru uvádí resubstituci 27,6 %, hold-out 33,9 %, rotaci 30,4 % a Toussaintův odhad 28,9 %.

Čísla ukazují závislost závěru na protokolu. Nejsou novým měřením GRAFIT ani srovnáním dnešních algoritmů.

OdhadChyba v podkladu
Resubstituce27,6 %
Hold-out33,9 %
Rotace30,4 %
Toussaint28,9 %

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 12, 13

ROZ 07 · Výklad s komentářem

Proč nestačí celková accuracy

Další příklad LANDSAT TM rozlišuje 15 tříd v sedmi pásmech. Záměna jetele a trávy nebo městské třídy může zůstat skryta v průměru.

Uváděná accuracy 0,774 je historický resubstituční výsledek. Pro interpretaci potřebujeme také podpory tříd, precision, recall a informaci o neklasifikovaných pixelech.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 13, 14

ROZ 07 · Výklad s komentářem

Co se při porovnání mění

Pořadí metod může změnit testovací vzorek, trénovací vzorek i náhodná inicializace. Opakované běhy zachycují jinou variabilitu než nové nezávislé datasety.

Párové porovnání používá stejné testovací případy pro oba modely. Reportuj rozdělení rozdílů a protokol, nikoli jen dvě nejlepší hodnoty.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 15

ROZ 07 · Výklad s komentářem

McNemarův test

Test pro dvě metody na stejných případech využívá pouze neshodné výsledky: b případů správně jen metodou A, c správně jen metodou B.

Příklad b=14, c=5 dává s korekcí 64/19≈3,368. V podkladu nedosahuje hranice 3,841 pro asymptotický test na hladině 0,05. Malý počet neshod je vhodné řešit přesným binomickým testem.

χ2=(|b−c|−1)2b+c

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 15

ROZ 07 · Výklad s komentářem

Více metod na více úlohách

Friedmanův test používá pořadí K metod v N blocích, typicky datasetech. Shody dostanou průměrné pořadí; test zkoumá souhrnnou nulovou hypotézu.

Zamítnutí samo neurčí, které dvojice se liší. Následné testy potřebují kontrolu násobného porovnávání. Číselný příklad v podkladu je historická demonstrace, ne nové benchmarkové tvrzení.

χF2=12NK(K+1)∑jr¯j2−3N(K+1)

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 15, 16

ROZ 07 · Interaktivní doplněk GRAFIT

Matice záměn

Vyzkoušejte · doplněk GRAFIT

Konstruovaný didaktický model. Měňte vstupy a sledujte výpočet; nejde o naměřený výkon ani plný učící algoritmus.

ROZ 07 · Řešený příklad · doplněk GRAFIT

Accuracy umí skrýt neúspěch

Při 990 negativních a 10 pozitivních případech má klasifikátor „vždy negativní“ accuracy 99 %, ale recall pozitivní třídy 0 %. Precision je nedefinovaná, protože nebyl předpovězen žádný pozitivní případ.

Nezaměňujte precision za recall ani jeden údaj bez rozmyslu nepřekládejte jako „přesnost“. Uvádějte vzorec, pozitivní třídu a jmenovatel.

ROZ 07 · Ověření porozumění · doplněk GRAFIT

Zkuste si odpovědět

Jaký recall má pravidlo „vždy negativní“, pokud jsou v testu pozitivní případy?

Zobrazit vysvětlení

Nulový: TP = 0 a FN > 0. Precision je bez předpovězených pozitivních případů nedefinovaná.

ROZ 07 · Shrnutí souvislostí · komentář GRAFIT

Nejdříve určete pozitivní třídu

TP a FN se vztahují ke skutečně pozitivním případům; FP a TN ke skutečně negativním. Bez určení pozitivní třídy a orientace matice záměn je snadné zaměnit citlivost, přesnost a specificitu.

ROZ 07 · Shrnutí souvislostí · komentář GRAFIT

Čtyři čísla, několik otázek

Precision = TP/(TP+FP), recall = TP/(TP+FN), specificity = TN/(TN+FP). Accuracy počítá podíl všech správných rozhodnutí. Při nulovém jmenovateli je poměr nedefinovaný; dohodnuté náhradní konvence je nutné uvést.

ROZ 07 · Shrnutí souvislostí · komentář GRAFIT

Práh mění kompromis

ROC zobrazuje TPR proti FPR, křivka precision–recall zachycuje jiný pohled. Jediné číslo AUC nenahrazuje volbu provozního bodu ani cenu chyb. Precision se mění i s apriorní četností pozitivní třídy.

ROZ 07 · Shrnutí souvislostí · komentář GRAFIT

Nejistota odhadu

Výkon z konečného vzorku je odhad. Způsob dělení, závislosti mezi vzorky a interval nejistoty jsou součástí jeho interpretace. Téměř stejné skóre nemusí znamenat prokázaný rozdíl metod.

ROZ 07 · Provenience

Podklady a způsob zpracování

Autor původních podkladů: Michal Haindl, FIT ČVUT / ÚTIA AV ČR, 2023–2024. Český tematický přepis, vysázení a didaktické doplňky: GRAFIT, 2026.

Tato verze slučuje postupná odhalení a vysvětluje témata vlastními větami. Není doslovnou reprodukcí každé původní tabulky ani náhradou aktuálních organizačních pokynů. Zdrojové PDF zůstává beze změny; žádný původní snímek zde není vložen jako obrázek.

Stáhnout původní PDFAutorský zdrojMapa témat a SHA-256

Obsah přednášky

Moje poznámky

Ukládají se jen v tomto prohlížeči.