← Zpět na přehledROZ / 01
VýkladS komentářem
ROZ 01 · Výklad s komentářem

Od měření k rozhodnutí

Rozpoznávání přiřazuje pozorovanému objektu třídu. Počítač však nedostává objekt samotný: pracuje s jeho měřením a zvolenou reprezentací.

Cílem přednášky je rozumět celé cestě od dat k rozhodnutí, včetně předpokladů a chyb jednotlivých kroků.

DataPříznakyRozhodnutí
Nově kreslené schéma GRAFIT · ilustrační konstrukce.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 1

ROZ 01 · Výklad s komentářem

Organizace a projekt v původním podkladu

Podklad Michala Haindla pochází z let 2023–2024. Tehdejší organizace uvádí výuku 2+2, konzultace Radka Richtra a zkoušku na ÚTIA.

Semestrální příklad skládal klasifikátor kožních lézí: vstup obrazu, detekce, texturové příznaky, transformace, segmentace, následné zpracování a ověření. Jde o historický popis projektu, nikoli aktuální zadání.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 1, 2

ROZ 01 · Výklad s komentářem

Mapa celého kurzu

Nejprve zavedeme statistické rozhodování a učení. Potom přidáme klasifikátory, shlukování, výběr příznaků a vyhodnocení kvality.

Druhá větev používá struktury a gramatiky. Další přednášky se věnují neuronovým sítím, genetickým algoritmům a SVM.

ReprezentaceUčeníHodnocení
Nově kreslené schéma GRAFIT · ilustrační konstrukce.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 2

ROZ 01 · Výklad s komentářem

Rozpoznávání a modelování

Diskriminativní model se soustředí na třídu při známém pozorování. Generativní model popisuje společné rozdělení pozorování a třídy.

Analýza hledá objekty, hranice nebo vady. Syntéza může generovat, rekonstruovat či komprimovat data. Vizuální podobnost výsledku ještě neznamená shodu jednotlivých pixelů.

P(ωi∣x)
p(x,ωi)=p(x∣ωi)P(ωi)

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 3, 4

ROZ 01 · Výklad s komentářem

PR, strojové učení a umělá inteligence

Rozpoznávání řeší přiřazování kategorií. Strojové učení odhaduje model z dat. Umělá inteligence zahrnuje také plánování, reprezentaci znalostí, komunikaci a další úlohy.

Původní přednáška porovnává specializované algoritmy s lidskou schopností přenášet zkušenost. Výkon na jedné úloze nepovažujeme za důkaz obecné inteligence.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 4, 5, 6

ROZ 01 · Výklad s komentářem

Proč rozpoznávat vzory

Pozorování porovnáváme s předchozí zkušeností a hledáme relevantní podobnost. U člověka jde o smyslové a paměťové procesy; u algoritmu musíme reprezentaci i pravidlo podobnosti určit.

Robustní reprezentace má potlačit nepodstatné změny a zachovat rozdíly, které rozhodují o třídě.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 6, 7

ROZ 01 · Výklad s komentářem

Porozumění scéně

Popis scény může obsahovat sémantické třídy pixelů, jednotlivé instance, prostorovou geometrii i vztahy mezi objekty.

Původní příklady robotiky a autonomního řízení ukazují rozdíl mezi zvládnutým dílčím benchmarkem a spolehlivostí celé úlohy. Dobové výroky a předpovědi z let 2014–2023 jsou historický kontext.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 8

ROZ 01 · Výklad s komentářem

Vysvětlitelnost a odpovědné použití

U rozhodovacího systému potřebujeme znát účel, kvalitu vstupů, mezní situace a způsob ověření. Přednáška připomíná témata doporučení WHO z roku 2023: dokumentaci, rizika, validaci, kvalitu dat, ochranu soukromí a spolupráci odborníků.

Vysvětlení pomáhá porozumět rozhodnutí. Samo však nedokazuje správnost ani zobecnění modelu. Žádná metoda není vhodná pro všechny úlohy.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 9, 10

ROZ 01 · Výklad s komentářem

Aplikace a podmínky měření

Příklady zahrnují OCR, kontrolu materiálů a potravin, analýzu signálů, řeč a biometrické rozpoznávání.

Na rozpoznávání tváře je dobře vidět závislost na osvětlení, pozici, zakrytí, výrazu a změně vzhledu v čase. Úspěšnost je třeba rozlišovat podle podmínek i skupin dat; dobová čísla v původním PDF nejsou obecnými konstantami.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 10, 11, 12

ROZ 01 · Výklad s komentářem

Historické milníky

Fisherova diskriminační analýza (1936), Waldova rozhodovací teorie (1950) a Chowovo rozpoznávání pomocí rozhodovacích funkcí (1957) patří k východiskům kurzu.

Následují perceptron, rané počítačové vidění, robot Shakey a systémy rozpoznávání řeči. Různé historické směry řeší různé části dnešního řetězce.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 12

ROZ 01 · Výklad s komentářem

Knihy a odborná literatura

Základ tvoří Duda, Hart a Stork: Pattern Classification; Theodoridis a Koutroumbas: Pattern Recognition; Fukunaga: Introduction to Statistical Pattern Recognition; Webb: Statistical Pattern Recognition; Bishop: Pattern Recognition and Machine Learning.

Pro specializace podklad uvádí Fuovy syntaktické metody, Anderbergovo shlukování, Mitchellovy genetické algoritmy a Haykinovy neuronové sítě. Dalšími zdroji jsou IAPR a časopisy IEEE TPAMI, Pattern Recognition a Pattern Recognition Letters.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 13, 14, 15

ROZ 01 · Výklad s komentářem

Značení, které budeme používat

x je vektor d příznaků. Třída má označení ωᵢ a množina tříd Ω obsahuje K možností. Trénovací množinu odlišujeme od testovací.

Pro třídu používáme střed μᵢ, kovarianci Σᵢ a skóre gᵢ(x). Symboly jsou v celém webovém přepisu sjednoceny; původní PDF místy používá jiné písmo nebo indexy.

x=(x1,…,xd)⊤
Ω={ω1,…,ωK}

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 15

ROZ 01 · Výklad s komentářem

Třídy a rozhodovací oblasti

Klasifikátor rozděluje prostor reprezentací na oblasti a každé přiřazuje třídu. Hranice je místo, kde se rozhodnutí může změnit.

Více tříd lze řešit společně, hierarchicky, pomocí K úloh jedna proti ostatním nebo K(K−1)/2 dvojic. Způsob spojení dílčích rozhodnutí musí být určen.

X=⋃i=1KSi
Si∩Sj=∅(i≠j)
Oblast A / oblast B
Nově kreslené schéma GRAFIT · ilustrační konstrukce.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 16

ROZ 01 · Výklad s komentářem

Diskriminační funkce

Každá třída dostane reálné skóre. Vybereme největší a určíme, jak řešíme shodu skóre.

Stejná přísně rostoucí transformace všech skóre zachová jejich pořadí. U kladných hustot proto často přejdeme od součinů k logaritmům.

ω^(x)=argmaxigi(x)
gi(x)=logp(x∣ωi)+logP(ωi)

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 16, 17

ROZ 01 · Výklad s komentářem

Lineární a nelineární hranice

Lineární skóre dává mezi dvojicí tříd nadrovinu. Kvadratické členy dovolují zakřivené hranice.

Další možností je nejprve vytvořit nelineární příznaky φ(x) a v jejich prostoru použít lineární skóre. Lineární vůči parametrům neznamená lineární vůči původním datům.

gi(x)=wi⊤x+bi
gi(x)=x⊤Aix+wi⊤x+bi
gi(x)=ai⊤ϕ(x)+bi

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 17, 18

ROZ 01 · Výklad s komentářem

Reprezentace rozhoduje

Příznaky jsou měřené nebo odvozené vlastnosti objektu. Výběr zachovává některé původní souřadnice; extrakce vytváří nové.

Zmenšení rozměru může zlepšit odhad i výpočet, ale může také odstranit informaci o třídě. Dobrá projekce pro vizualizaci nemusí být dobrou projekcí pro klasifikaci.

z=ϕ(x),z∈Rq
x₁x₂
Konstruované body a směr/hranice; nejde o experimentální data.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 18

ROZ 01 · Výklad s komentářem

Učení a nezávislé ověření

Učení s učitelem používá označené dvojice, učení bez učitele pouze pozorování. Částečně řízené učení kombinuje oba typy dat; adaptivní učení reaguje na proměny prostředí.

Parametrický model volí rodinu funkcí předem. Neparametrický přístup nemá takto malou pevnou sadu parametrů. Oba potřebují oddělený testovací soubor.

Ttrain={(xj,yj)}j=1n

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 19

ROZ 01 · Výklad s komentářem

Číselný vektor, struktura, gramatika

Statistická reprezentace používá vektor měření. Strukturální reprezentace popisuje části a jejich vztahy. Syntaktická reprezentace zapisuje objekt jako větu nad primitivy.

U dynamického systému navíc odlišujeme vstup, vnitřní stav a výstup. Identifikace hledá jeho model; řízení volí vstup pro požadovaný výstup.

s˙(t)=F(s(t),u(t))
y(t)=G(s(t),u(t))
SaSbaaSbbaabb
Odvození slova aabb pravidly S → aSb a S → ε.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 19, 20, 21

ROZ 01 · Výklad s komentářem

Statistická klasifikace

Z označených dat lze odhadnout rozdělení pro jednotlivé třídy, jejich apriorní četnosti a následně rozhodovací pravidlo.

U neoznačených dat neznáme příslušnost pozorování ke komponentám směsi. Nalezený shluk také nemusí mít stejný význam jako předem pojmenovaná třída.

p(x)=∑i=1Kπip(x∣ωi)

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 21, 22

ROZ 01 · Výklad s komentářem

Geometrické učení a optimalizace

Deterministický klasifikátor lze navrhnout přímo geometricky bez explicitní hustoty. V lineárním případě se upravují váhy a posun hranice.

Gradientní krok mění parametr proti směru lokálního růstu cíle. Potřebujeme vhodnou velikost kroku, kritérium zastavení a ověření mimo trénink.

θt+1=θt−η∇J(θt)
x₁x₂
Konstruované body a směr/hranice; nejde o experimentální data.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 22, 23

ROZ 01 · Výklad s komentářem

Co se mění bez učitele

Bez známých tříd hledáme strukturu: počet skupin, jejich rozdělení, parametry a případně vhodné příznaky. Předpoklady směsového modelu proto hrají zásadní roli.

Na konci této části už umíme rozlišit objekt, reprezentaci, klasifikátor, způsob učení a způsob ověření. Další přednáška přidá pravidla pravděpodobnostního rozhodování.

Michal Haindl · podklad 2023–2024 · tematický přepis GRAFIT. Zdrojové PDF · strany 24

ROZ 01 · Interaktivní doplněk GRAFIT

Co zůstane po projekci

Vyzkoušejte · doplněk GRAFIT

Konstruovaný didaktický model. Měňte vstupy a sledujte výpočet; nejde o naměřený výkon ani plný učící algoritmus.

ROZ 01 · Řešený příklad · doplněk GRAFIT

Stejný počet pixelů, jiná informace

Dva obrázky mohou mít stejný průměrný jas, ale jiný tvar. Klasifikátor s jediným příznakem „průměrný jas“ je podle tohoto příznaku nerozliší. Přidání vhodného tvarového příznaku může pomoci; není však zárukou úspěchu na nových datech.

Organizační pokyny, termíny a projektové odkazy v podkladu patří k sadě 2023–2024. Pro současný běh předmětu rozhoduje aktuální zadání vyučujícího.

ROZ 01 · Ověření porozumění · doplněk GRAFIT

Zkuste si odpovědět

Jsou významová třída a geometrický shluk vždy totéž?

Zobrazit vysvětlení

Ne. Třída vychází ze zadání; shluk z definice podobnosti a optimalizačního kritéria.

ROZ 01 · Shrnutí souvislostí · komentář GRAFIT

Od objektu k rozhodnutí

Vstupem bývá obraz, signál nebo jiný popis objektu. Příznakový vektor x je zvolená reprezentace tohoto vstupu. Klasifikátor převádí x na rozhodnutí; kvalitu celé úlohy proto neurčuje jen poslední algoritmus.

ROZ 01 · Shrnutí souvislostí · komentář GRAFIT

Třída není totéž co shluk

Třída vyjadřuje význam přiřazený v zadání. Shluk vzniká podle podobnosti dat a zvoleného kritéria. Jeden shluk nemusí odpovídat jedné třídě a dobré geometrické oddělení nemusí znamenat užitečné rozpoznávání.

ROZ 01 · Shrnutí souvislostí · komentář GRAFIT

Kde vzniká chyba

Snímač, předzpracování, příznaky i rozhodovací pravidlo mohou přidat chybu. Reprezentace, která zahodí rozlišující informaci, ji dalším učením sama neobnoví. Proto ověřujeme i vstupní data a způsob anotace.

ROZ 01 · Shrnutí souvislostí · komentář GRAFIT

Co znamená zobecnění

Cílem je rozhodovat pro další vzorky z uvažované úlohy, nikoli pouze pamatovat si trénovací příklady. Oddělení trénovacích a testovacích dat musí respektovat i osoby, objekty nebo měřicí série.

ROZ 01 · Provenience

Podklady a způsob zpracování

Autor původních podkladů: Michal Haindl, FIT ČVUT / ÚTIA AV ČR, 2023–2024. Český tematický přepis, vysázení a didaktické doplňky: GRAFIT, 2026.

Tato verze slučuje postupná odhalení a vysvětluje témata vlastními větami. Není doslovnou reprodukcí každé původní tabulky ani náhradou aktuálních organizačních pokynů. Zdrojové PDF zůstává beze změny; žádný původní snímek zde není vložen jako obrázek.

Stáhnout původní PDFAutorský zdrojMapa témat a SHA-256

Obsah přednášky

Moje poznámky

Ukládají se jen v tomto prohlížeči.