2.3.2 A korrelációs és a kovariancia mátrix kiszámítása

Ebben a szakaszban a kovariancia és a korrelációs mátrixot vizsgáljuk meg, hogy valóban szorosan együtt változnak-e a négy tantárgy osztályzatai.

A korreláció és a kovariancia két egymással rokon fogalom, melyek azt fejezik ki, hogy két változó mennyire változik együtt. Tegyük fel, hogy van két intelligencia tesztünk. Ha mindkét intelligencia tesztet felvesszük ugyanazzal az emberrel, akkor - mivel az intelligencia nem egy napról-napra változó tulajdonság - a két teszteredménynek relatíve azonos értéket kell adnia, ha valóban mindkét teszt az intelligenciát méri. Az azonos érték természetesen nem arra utal, hogy ha egyik teszten 115 pontot ért el az illető, akkor a másikon is 115 körüli értéket kell elérnie, hanem az értéknek relatíve ugyanolyan nagyságú intelligenciára kell utalnia. Vagyis ha az egyik tesztben a 115 egy átlagos értéket jelent, akkor a másik tesztben elért értéknek is átlagosnak kell lennie, vagyis lehet akár 316 is, ha annak a tesznek a pontszámainak ennyi az átlaga. Továbbá, ha több emberrel is felvesszük ezeket a teszteket, akkor ezeknek a tesztpontszámoknak a két teszt esetében, együtt kell mozogniuk. Ez arra utal, hogy a kevésbé intelligens személyek mindkét tesztben alacsonyabb pontszámot érnek el, míg az intelligensebbek magasabbat.

Írjuk fel formálisan is, képletek segítségével az eddig tárgyaltakat. Van egy jellemzője az egyénnek, amit mérni szeretnénk, vagyis az intelligencia (I). Ezt két változó segítségével tesszük (${\text{X}}_{\text{1}}$ és ${\text{X}}_{\text{2}}$).

Az együttjárás vizsgálatakor ezt a két változót, vagyis ${\text{X}}_{\text{1}}$-et és ${\text{X}}_{\text{2}}$-t vetjük össze. Vizsgáljuk először a két változó kovarianciáját. A két változó kovarianciáját $\mathrm{cov}(X_1,X_2)$-vel jelöljük. A kovarianciát a várható értékkel határozzuk meg:

A képletben az ${\text{X}}_{\text{1}}$, ${\text{X}}_{\text{2}}$ a két változót jelöli, míg ${\text{µ}}_{\text{1}}$ és ${\text{µ}}_{\text{2}}$ az ${\text{X}}_{\text{1}}$ és ${\text{X}}_{\text{2}}$ változók valószínűségi eloszlásának az átlaga.

Definíció szerint a kovariancia szimmetrikus, vagyis $\mathrm{cov}(X_1,X_2)=\mathrm{cov}(X_2,X_1)$. A kovariancia másik tulajdonsága, hogy egy változó önmagával vett kovarianciája egyenlő a változó varianciájával, vagyis $\mathrm{cov}(X_1,X_1)=\mathrm{var}(X_1)$.

Ha mindezt egy kissé általánosabban szeretnénk felírni több változóra, akkor azt a következőképpen tehetjük meg.

Van egy X jelenség (mint előzőleg az intelligencia volt), amelyet ${\text{X}}_{\text{1}}{\text{, X}}_{\text{2}}\text{, }\mathrm{...,}{\text{ X}}_{\text{p}}$ változókkal mérünk.

Ekkor két tetszőleges változó ($X_{\mathrm{i}}$ és $X_{\mathrm{j}}$) kovarianciáját a következőképpen írhatjuk fel:

A kovarianciát röviden $c_{ij}$ -vel jelölhetjük.

Mivel a kovarianciákat a szimmetria jellemzi, így a kovariancia mátrix is szükségszerűen szimmetrikus lesz:

A mátrix főátlójában található $c_{ii}$ eleme az $X_{\mathrm{i}}$ változó varianciája, míg egy $c_{ij}$ elem $X_{\mathrm{i}}$ és $X_{\mathrm{j}}$ változók kovarianciája. A főkomponensek varianciái a C mátrix sajátértékei. Összesen p darab van belőlük, értékük lehet nulla, de negatív értékeket nem vehetnek fel.  

A $c_{ij}$  kovariancia nagysága az $X_{\mathrm{i}}$ és $X_{\mathrm{j}}$ komponensek sztenderd szórásától függ. Ha szeretnénk közvetlenebbül megismerni a két változó együttjárását, akkor azonos mértékre kell hozni a változókat, hogy megkaphassuk a korrelációs értéket.

Ha adottak az $X_{\mathrm{i}}$ és $X_{\mathrm{j}}$ komponensek, akkor a köztük lévő korrelációt  $cor(X_i,X_j)$, röviden $r_{ij}$-vel jelöljük. A korrelációs értéket a következőképpen számíthatjuk ki:

A képletben szereplő ${\sigma }_i$ és ${\sigma }_j$ az $X_{\mathrm{i}}$ és $X_{\mathrm{j}}$ változók sztenderd szórásai.

A korreláció kiszámításának képletéből következik, hogy értéke -1 és 1 közé esik. Továbbá a korreláció örökli a kovariancia szimmetrikus tulajdonságát, vagyis $cor(X_i,X_j)=cor(X_j,X_i)$. Ezen kívül  $cor(X_i,X_i)=1$, vagyis egy változó tökéletesen együtt változik saját magával, azonos irányban.  Ha pedig két változó teljesen független egymástól, akkor korrelációs értékük nulla. A -1-es korrelációs érték is tökéletes együttváltozásra utal, ekkor a változás iránya ellentétes: az egyik változó értékeinek csökkenése a másik változó értékeinek a növekedését vonja maga után. Ahogyan a kovarianciánál láthattuk, a korrelációs értékeket is megjeleníthetjük egy mátrix segítségével.

Figyelembe véve, hogy egy változó önmagával vett korrelációja nulla, a korrelációs mátrix főátlójában végig 1 értékek szerepelnek:

Ezek után számítsuk ki az R-program segítségével a kovariancia-majd a korrelációs mátrixot (2.3-2.4. R-forráskód, illetve R-eredmény).

            matek fizika informatika kemia
matek        2.53   1.51        2.28  2.19
fizika       1.51   1.19        1.26  1.47
informatika  2.28   1.26        2.28  1.94
kemia        2.19   1.47        1.94  2.11

            matek fizika informatika kemia
matek       1.000  0.871       0.949 0.950
fizika      0.871  1.000       0.766 0.927
informatika 0.949  0.766       1.000 0.887
kemia       0.950  0.927       0.887 1.000

Mind a kovariancia, mind a korrelációs mátrix adatai arra utalnak, hogy szoros kapcsolat van a változók között. A kovariancia, illetve a korrelációs értékek nullánál nagyobbak, ami azonos irányú tendenciákra utal. E két mátrix is alátámasztja a feltételezésünket, hogy a változók szorosan együtt változnak.