Két valószínűségi változó kapcsolatának jellemzésére a kovarianciát és a korrelációs együtthatót használjuk.

A fenti képletben - az előzetes középhibához hasonlóan – az előzetes kovariancia, amely számítható akkor, ha ismerjük az u_i és z_i valószínűségi változók várható értékeit. A továbbiakban valószínűségi változó helyett a mérési eredmény, várható érték helyett a valódi érték kifejezéseket fogjuk használni. Ekkor a Δ_ui és Δ_zi mennyiségek a mérési eredmények (valódi) véletlen hibái. Belátható, hogy egyetlen mennyiségnek saját magával alkotott kovarianciája a variancia (az előzetes középhiba négyzete):

A korrelációs együttható a

képlettel fejezhető ki, ahol μ_u és μ_z az u és z mérendő mennyiségek előzetes középhibái.

Az r_uz korrelációs együttható értéke 0 és 1 közé esik. Ha r_uz = 0, azt mondjuk, hogy a két mérendő mennyiség korrelálatlan. A korrelálatlanság csak akkor jelent függetlenséget is, ha a mérési eredmények eloszlása normális. r = 1 esetén a korreláció maximális. Mivel a geodéziai mérési eredmények matematikai feldolgozásának egyszerűsítése céljából a méréseknek függetlennek kell lenniük, fontos, hogy milyen megbízhatósággal számítható ki a korrelációs együttható értéke, ill. milyen abszolút értéke mellett tekinthető szignifikánsnak a két mérendő mennyiség függőségére vonatkozóan. A feladatban a szigorú szignifikancia vizsgálattól eltekintünk, saját megítélésünk alapján kell megítélnünk a kapcsolat hiányát, ill. esetleges létezését.

Becsült értékük alapján két mérési sorozat (minta) közötti lineáris kapcsolat szorosságára következtethetünk ^[1]. Kapcsolat esetén az egyik mennyiség (pl. u) mért értékéből e függőségi kapcsolat - a regresszió - alapján becsülhető a másik mennyiség (pl. z) értéke. Lineáris regresszió esetén a z = f(u) függvény geometriai képe egyenes, amelyet ezért regressziós egyenesnek is nevezünk.

Legyen két mérési sorozatunk az alábbi mérési eredményekkel:

Az utólagos középhiba (négyzetének) analógiájára nevezzük a

kifejezést utólagos kovarianciának.

Ekkor a korrelációs együttható becsült, tapasztalati értéke megadható az

kifejezéssel.

A képletek jelölései:

.

Az - empirikus - regressziós egyenes egyenletei kifejezhetők a

alakban, attól függően, hogy z függőségét vizsgáljuk u - tól, vagy u függőségét z - től. A fenti egyenletekben az eddigi jelölések mellett az egyenesek

iránytangenseit regressziós együtthatóknak nevezzük. A

regressziós egyenesek megkaphatók a legkisebb négyzetek elve alapján is a

feltételekből kiindulva. Az összefüggésekben adottak az u_i és z_i eredmény-párok, keressük a regressziós egyenesek a_z, b_z, ill. a_u, b_u együtthatóit.

6.2.1 Számpélda

Kiinduló adatok:

A mérés sorszáma	A mérési eredmények
	ui (di ) (km)	zi () (mm)
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20	1,7 0,7 1,2 0,7 1,0 1,2 0,5 1,0 0,6 0,1 1,1 0,4 0,2 1,5 0,8 0,4 0,2 1,3 1,4 0,1	9,1 6,5 9,1 2,0 16,1 6,3 3,4 6,1 7,2 0,1 13,5 3,2 2,6 7,3 21,2 7,1 9,3 8,4 10,4 5,0

A számítások a következő táblázatban láthatók:

A mérés sorszáma	A mérési eredmények		Számítások
	ui (di ) (km)	zi () (mm)
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20	1,7 0,7 1,2 0,7 1,0 1,2 0,5 1,0 0,6 0,1 1,1 0,4 0,2 1,5 0,8 0,4 0,2 1,3 1,4 0,1	9,1 6,5 9,1 2,0 16,1 6,3 3,4 6,1 7,2 0,1 13,5 3,2 2,6 7,3 21,2 7,1 9,3 8,4 10,4 5,0	0,89 -0,11 0,39 -0,11 0,19 0,39 -0,31 0,19 -0,21 -0,71 0,29 -0,41 -0,61 0,69 -0,01 -0,41 -0,61 0,49 0,59 -0,71	1,4 -1,2 1,4 -5,7 8,4 -1,4 -4,3 -1,6 -0,5 -7,6 5,8 -4,5 -5,1 -0,4 13,5 -0,6 1,6 0,7 2,7 -2,7	0,792 0,012 0,152 0,012 0,036 0,152 0,096 0,036 0,044 0,504 0,084 0,168 0,372 0,476 0,000 0,168 0,372 0,240 0,348 0,504	1,96 1,44 1,96 32,49 70,56 1,96 18,49 2,56 0,250 57,76 33,64 20,25 26,01 0,160 182,25 0,36 2,56 0,490 7,290 7,290	1,246 0,132 0,546 0,627 1,596 -0,546 1,333 -0,304 0,105 5,396 1,682 1,845 3,111 -0,276 -0,135 0,246 -0,976 0,343 1,593 1,917
Átlag:		= 7,7 mm	= -0,1 km	= -0,1 mm	Σ = 4,568	Σ = 469,730	Σ = 19,454

A táblázatban foglalt számítások alapján számíthatók a következő mennyiségek:

.

Az ui (di), zi ( ) pontok és a regressziós egyenes grafikus ábrázolása (az abszcissza tengelyen a távolságok km-ben, az ordináta tengelyen a mérési hibák mm dimenzióban szerepelnek).

A valódi mérési hibáknak a távolságoktól való függőségét kifejező

vagy, más jelölésekkel

regressziós egyenes egyenlete:

_.

ahol, hogy az eredményt mm dimenzióban kapjuk meg, a d értékét km-ben kell behelyettesíteni (a 4,2 regressziós együttható dimenziója ui. mm/km).

A grafikon alapján a két mennyiség között - nem túl erős - korrelációt lehet gyanítani. Megalapozottabb, meggyőzőbb válasz azonban csak nagyobb minta alapján lenne adható.

Fentiekből következik, s ezt igazolja a gyakorlat is, hogy az elektronikus távolságmérés eredményét egy távolságtól független és egy távolságfüggő hibatag befolyásolja. Megemlítjük, hogy e példában a fordított esetnek - a távolságnak a valódi hibáktól való függőségének - nincs értelme.