Analiza glavnih komponenti

PCA multivarijantne normalne distribucije centrirane na (1,3) sa standardnom devijacijom od 3 u približno (0,866, 0,5) pravcu i od 1 u ortogonalnom pravcu. Prikazani vektori su sopstveni vektori kovarijansne matrice skalirani kvadratnim korenom korespondirajućih sopstvenih vrednosti, i pomereni tako da su njihovi počeci u srednjoj vrednosti.

Analiza glavnih komponenti (Шаблон:Jez-eng-lat) je statistički postupak koji koristi ortogonalnu transformaciju da pretvori skup opažanja eventualno korelisanih promenljivih (entiteta od kojih svaki poprima različite numeričke vrednosti) u skup vrednosti linearno nekorelisanih promenljivih koje se nazivaju glavnim komponentama. Ova transformacija je definisana na takav način da prva glavna komponenta ima najveću moguću varijansu (to jest, obuhvata što je moguće više varijabilnosti podataka), a svaka sledeća komponenta zatim ima najveću preostalu moguću varijansu pod ograničenjem da je ortogonalna na prethodne komponente. Rezultirajući vektori (svaki od kojih je linearna kombinacija promenljivih i sadrži -{n}- opažanja) su nekorelisani ortogonalni bazni skup. PCA je senzitivna na relativno skaliranje originalnih promenljivih.

PCA je izumeo Karl Pirson 1901. godine, kao analog teoreme glavne ose u mehanici. PCA je kasnije tokom 1930-ih nezavisno razvio i imenovao Harold Hoteling. U zavisnosti od oblasti primene koriste se različiti nazivi za PCA, kao što su diskretna Karunen-Loevova transformacija (KLT) u obradi signala, Hotelingova transformacija u multivarijantnoj kontroli kvaliteta, pravilna ortogonalna dekompozicija (POD) u mašinskom inženjerstvu, dekompozicija singularne vrednosti (SVD) od X, dekompozicija sopstvene vrednosti (EVD) od X^TX u linearnoj algebri, faktorska analiza, Ekart–Jangova teorema, ili empirijske ortogonalne funkcije (EOF) u meteorološkoj nauci, dekompozicija empirijske sopstvene funkcije, analiza empirijskih komponenti, kvaziharmonični modusi, spektralna dekompozicija u šumu i vibracijama, i empirijska modalna analiza strukturne dinamike.

PCA se uglavnom koristi kao alat u istraživačkoj analizi podataka i za izradu prediktivnih modela. Ona se često koristi za vizuelizaciju genetske distance i povezanosti između populacija. PCA se može obaviti dekompozicijom sopstvenih vrednosti kovarijansne (ili korelacione) matrice, ili dekompozicijom singularne vrednosti matrice podataka, obično nakon koraka normalizacije početnih podataka. Normalizacija svakog atributa sastoji se od srednjeg centriranja - oduzimanja svake vrednosti podataka od srednje vrednosti njene izmerene promenljive tako da je njena empirijska srednja vrednost (prosek) jednaka nuli - i, po mogućnosti, normalizacije varijanse svake promenljive da bi bila jednaka 1; pogledajte Z-ocene. PCA rezultati se obično diskutuju u smislu komponentnih ocena (Шаблон:Jez-eng-lat), koje se ponekad nazivaju faktorske ocene, vrednosti transformisanih promenljivih koje odgovaraju određenoj tački podataka, i opterećenja (Шаблон:Jez-eng-lat), ponderi kojima se svaka standardizovana originalna promenljiva mora množiti da bi se dobila komponentna ocena. Ako su komponentne ocene standardizovane na jediničnu varijansu, opterećenja moraju da sadrže varijancu podataka u njima (a to je magnituda sopstvenih vrednosti). Ako komponentne ocene nisu standardizovane (stoga sadrže varijansu podataka), opterećenja moraju biti jedinično skalirana („normalizovana”) i ti se ponderi nazivaju sopstvenim vektorima; oni su kosinusi ortogonalne rotacije promenljivih u glavne komponente ili nazad.

PCA je najjednostavnija od pravih multivarijantnih analiza zasnovanih na sopstvenim vektorima. Često se može smatrati da njeno delovanje otkriva unutrašnju strukturu podataka na način koji najbolje objašnjava varijansu podataka. Ako se multivarijantni skup podataka vizualno prikazuje kao skup koordinata u visokodimenzionalnom prostoru podataka (1 osa po promenljivoj), PCA može da pruži korisniku sliku niže dimenzije, projekciju ovog objekta kada se posmatra sa njegovog najinformativnijeg gledišta. To se postiže korišćenjem samo prvih nekoliko glavnih komponenti, tako da se smanjuje dimenzionalnost transformisanih podataka.

PCA je usko povezana sa faktorskom analizom. Faktorska analiza tipično uključuje više pretpostavki specifičnih za domen o osnovnoj strukturi i rešava sopstvene vektore donekle drugačije matrice.

PCA je takođe povezana sa kanoničkom korelacijskom analizom (-{CCA}-). -{CCA}- definiše koordinatne sisteme koji optimalno opisuju unakrsnu kovarijansu između dva skupa podataka, dok PCA definiše novi ortogonalni koordinatni sistem koji optimalno opisuje varijansu u pojedinačnom setu podataka.

Istorija

PCA je 1901. izumeo Karl Pirson, kao analog teoreme o glavnoj osi u mehanici; kasnije ju je nezavisno razvio i imenovao Harold Hoteling 1930-ih. U zavisnosti od područja primene, naziva se i diskretna Karunen-Loeva transformacija (KLT) u obradi signala, Hotelingova transformacija u multivarijantnoj kontroli kvaliteta, pravilna ortogonalna dekompozicija (POD) u mašinstvu, dekompozicija singularne vrednosti (Шаблон:Jez-eng-lat) od X, dekompozicija sopstvenih vrednosti (EVD) od X^TX u linearnoj algebri, faktorska analiza (za raspravu o razlikama između PCA i faktorske analize videti poglavlje 7 Džolifeove Analize glavnih komponenata), Ekart–Jangova teorema, ili empirijske ortogonalne funkcije (EOF) u meteorološkoj nauci, empirijska dekompozicija sopstvenih funkcija, analiza empirijskih komponenata, kvaziharmonski modovi, spektralna dekompozicija u buci i vibracijama, i empirijska modalna analiza u strukturnoj dinamici.

Intuicija

PCA se može smatrati prilagođavanjem p-dimenzionalnog elipsoida podacima, pri čemu svaka osa elipsoida predstavlja glavnu komponentu. Ako je neka osa elipsoida mala, tada je i varijansa duž te ose mala.

Da bi se pronašle ose elipsoida, prvo se mora oduzeti središnja vrednost svake promenljive iz skupa podataka da bi se centrirali podaci oko koordinatnog početka. Zatim se izračunava kovarijansna matricu podataka i izračunavaju se sopstvene vrednosti i korespondirajući sopstveni vektori ove kovarijansne matrice. Zatim je neophodno da se normalizuje svaki od ortogonalnih sopstvenih vektora da bi se pretvorili u jedinične vektore. Nakon što je to urađeno, svaki od međusobno ortogonalnih, jediničnih sopstvenih vektora može se protumačiti kao osa elipsoida uklopljenog u podatke. Ovaj izbor osnove transformiše našu kovarijansnu matricu u dijagonalizovani oblik sa dijagonalnim elementima koji predstavljaju varijansu svake ose. Procenat varijanse koji svaki svojstveni vektor predstavlja može se izračunati deljenjem sopstvene vrednosti koja odgovara tom svojstvenom vektoru sa zbirom svih sopstvenih vrednosti.

Detalji

PCA se definiše kao ortogonalna linearna transformacija koja transformiše podatke u novi koordinatni sistem tako da najveća varijansa po nekoj skalarnoj projekciji podataka leži na prvoj koordinati (koja se naziva prva glavna komponenta), druga najveća varijansa na drugoj koordinati i tako dalje.

Ako se uzme u obzir X matrica podataka $n\times p$ sa nultom kolonskom empirijskom sredinom (srednja vrednost uzorka svake kolone je pomerena na nulu), gde je svaki od -{n}- redova predstavlja različito ponavljanje eksperimenta, a svaki od p kolona daje izvesnu vrstu karakteristike (recimo, rezultate sa datog senzora).

Matematički, transformacija je definisana skupom veličine $l$ p-dimenzionalnih vektora težina ili koeficijenata ${𝐰}_{(k)}=(w_1,\dots ,w_p{)}_{(k)}$ koji mapiraju svaki red vektora ${𝐱}_{(i)}$ od X na novi vektor skorova glavne komponente ${𝐭}_{(i)}=(t_1,\dots ,t_l{)}_{(i)}$, dat sa

${t_k}_{(i)}={𝐱}_{(i)}\cdot {𝐰}_{(k)}\mathrm{z}\mathrm{a}i=1,\dots ,nk=1,\dots ,l$

na taj način da se individualne promenljive $t_1,\dots ,t_l$ od -{t}- razmatraju nad skupom promenljivih koji sukcesivno nasleđuje maksimalnu moguću varijansu od X, pri čemu je svaki koeficijent vektora w ograničen da bude jedinični vektor (gde je $l$ obično odabrano da bude manje od $p$ radi redukcije dimenzionalnosti).

Literatura

• Jackson, J.E. (1991). A User's Guide to Principal Components (Wiley).
• Шаблон:Cite bookШаблон:Мртва веза
• Jolliffe, I.T. (2002). Principal Component Analysis, second edition (Springer).
• Husson François, Lê Sébastien & Pagès Jérôme (2009). Шаблон:Cite book. Chapman & Hall/CRC The R Series, London. 224p.
• Pagès Jérôme (2014). Шаблон:Cite book. Chapman & Hall/CRC The R Series London 272 p
• Шаблон:Cite journal
• Шаблон:Cite journal IEEE Transactions on Signal Processing,., April 2004.
• Шаблон:Cite journal , July 2004.
• Шаблон:Cite journal IEEE Transactions on Signal Processing,., March 2001.
• Y. Hua, Y. Xiang, T. Chen, K. Abed-Meraim and Y. Miao, "A new look at the power method for fast subspace tracking," Digital Signal Processing, Vol. 9. pp. 297-314, 1999.
• Шаблон:Cite journal, June 1998.
• Шаблон:Cite journal, July 1998.
• Шаблон:Cite journal, Jan 1998.

Dodatna literatura

• Шаблон:Cite journal

Spoljašnje veze

• Шаблон:YouTube-lat
• Шаблон:YouTube-lat
• PCA primeri
• Шаблон:YouTube-lat (a video of less than 100 seconds.)
• Шаблон:YouTube-lat
• -{See also the list of Software implementations}-