Ugrás a tartalomhoz

Matematikai geodéziai számítások 6., Lineáris regresszió számítás elektronikus távmérőkre

Dr. Bácsatyai László (2010)

Nyugat-magyarországi Egyetem

6.2 A feladatban szereplő fogalmak

6.2 A feladatban szereplő fogalmak

Két valószínűségi változó kapcsolatának jellemzésére a kovarianciát és a korrelációs együtthatót használjuk.

A fenti képletben - az előzetes középhibához hasonlóan – az előzetes kovariancia, amely számítható akkor, ha ismerjük az ui és zi valószínűségi változók várható értékeit. A továbbiakban valószínűségi változó helyett a mérési eredmény, várható érték helyett a valódi érték kifejezéseket fogjuk használni. Ekkor a Δui és Δzi mennyiségek a mérési eredmények (valódi) véletlen hibái. Belátható, hogy egyetlen mennyiségnek saját magával alkotott kovarianciája a variancia (az előzetes középhiba négyzete):

A korrelációs együttható a

képlettel fejezhető ki, ahol μu és μz az u és z mérendő mennyiségek előzetes középhibái.

Az ruz korrelációs együttható értéke 0 és 1 közé esik. Ha ruz = 0, azt mondjuk, hogy a két mérendő mennyiség korrelálatlan. A korrelálatlanság csak akkor jelent függetlenséget is, ha a mérési eredmények eloszlása normális. r = 1 esetén a korreláció maximális. Mivel a geodéziai mérési eredmények matematikai feldolgozásának egyszerűsítése céljából a méréseknek függetlennek kell lenniük, fontos, hogy milyen megbízhatósággal számítható ki a korrelációs együttható értéke, ill. milyen abszolút értéke mellett tekinthető szignifikánsnak a két mérendő mennyiség függőségére vonatkozóan. A feladatban a szigorú szignifikancia vizsgálattól eltekintünk, saját megítélésünk alapján kell megítélnünk a kapcsolat hiányát, ill. esetleges létezését.

Becsült értékük alapján két mérési sorozat (minta) közötti lineáris kapcsolat szorosságára következtethetünk [1]. Kapcsolat esetén az egyik mennyiség (pl. u) mért értékéből e függőségi kapcsolat - a regresszió - alapján becsülhető a másik mennyiség (pl. z) értéke. Lineáris regresszió esetén a z = f(u) függvény geometriai képe egyenes, amelyet ezért regressziós egyenesnek is nevezünk.

Legyen két mérési sorozatunk az alábbi mérési eredményekkel:

ui

u1 u2 ................ un

zi

z1 z 2 ................ zn

Az utólagos középhiba (négyzetének) analógiájára nevezzük a

kifejezést utólagos kovarianciának.

Ekkor a korrelációs együttható becsült, tapasztalati értéke megadható az

kifejezéssel.

A képletek jelölései:

.

Az - empirikus - regressziós egyenes egyenletei kifejezhetők a

alakban, attól függően, hogy z függőségét vizsgáljuk u - tól, vagy u függőségét z - től. A fenti egyenletekben az eddigi jelölések mellett az egyenesek

iránytangenseit regressziós együtthatóknak nevezzük. A

regressziós egyenesek megkaphatók a legkisebb négyzetek elve alapján is a

feltételekből kiindulva. Az összefüggésekben adottak az ui és zi eredmény-párok, keressük a regressziós egyenesek az, bz, ill. au, bu együtthatóit.

6.2.1 Számpélda

Kiinduló adatok:

A mérés sorszáma

A mérési eredmények

ui (di ) (km)

zi ()

(mm)

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

1,7

0,7

1,2

0,7

1,0

1,2

0,5

1,0

0,6

0,1

1,1

0,4

0,2

1,5

0,8

0,4

0,2

1,3

1,4

0,1

9,1

6,5

9,1

2,0

16,1

6,3

3,4

6,1

7,2

0,1

13,5

3,2

2,6

7,3

21,2

7,1

9,3

8,4

10,4

5,0

A számítások a következő táblázatban láthatók:

A mérés sorszáma

A mérési eredmények

Számítások

ui (di ) (km)

zi ()

(mm)

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

1,7

0,7

1,2

0,7

1,0

1,2

0,5

1,0

0,6

0,1

1,1

0,4

0,2

1,5

0,8

0,4

0,2

1,3

1,4

0,1

9,1

6,5

9,1

2,0

16,1

6,3

3,4

6,1

7,2

0,1

13,5

3,2

2,6

7,3

21,2

7,1

9,3

8,4

10,4

5,0

0,89

-0,11

0,39

-0,11

0,19

0,39

-0,31

0,19

-0,21

-0,71

0,29

-0,41

-0,61

0,69

-0,01

-0,41

-0,61

0,49

0,59

-0,71

1,4

-1,2

1,4

-5,7

8,4

-1,4

-4,3

-1,6

-0,5

-7,6

5,8

-4,5

-5,1

-0,4

13,5

-0,6

1,6

0,7

2,7

-2,7

0,792

0,012

0,152

0,012

0,036

0,152

0,096

0,036

0,044

0,504

0,084

0,168

0,372

0,476

0,000

0,168

0,372

0,240

0,348

0,504

1,96

1,44

1,96

32,49

70,56

1,96

18,49

2,56

0,250

57,76

33,64

20,25

26,01

0,160

182,25

0,36

2,56

0,490

7,290

7,290

1,246

0,132

0,546

0,627

1,596

-0,546

1,333

-0,304

0,105

5,396

1,682

1,845

3,111

-0,276

-0,135

0,246

-0,976

0,343

1,593

1,917

Átlag:

= 7,7 mm

= -0,1 km

= -0,1 mm

Σ = 4,568

Σ =

469,730

Σ =

19,454

A táblázatban foglalt számítások alapján számíthatók a következő mennyiségek:

.

Az ui (di), zi ( ) pontok és a regressziós egyenes grafikus ábrázolása (az abszcissza tengelyen a távolságok km-ben, az ordináta tengelyen a mérési hibák mm dimenzióban szerepelnek).

A valódi mérési hibáknak a távolságoktól való függőségét kifejező

vagy, más jelölésekkel

regressziós egyenes egyenlete:

.

ahol, hogy az eredményt mm dimenzióban kapjuk meg, a d értékét km-ben kell behelyettesíteni (a 4,2 regressziós együttható dimenziója ui. mm/km).

A grafikon alapján a két mennyiség között - nem túl erős - korrelációt lehet gyanítani. Megalapozottabb, meggyőzőbb válasz azonban csak nagyobb minta alapján lenne adható.

Fentiekből következik, s ezt igazolja a gyakorlat is, hogy az elektronikus távolságmérés eredményét egy távolságtól független és egy távolságfüggő hibatag befolyásolja. Megemlítjük, hogy e példában a fordított esetnek - a távolságnak a valódi hibáktól való függőségének - nincs értelme.



[1] A korrelációs együttható csak a lineáris kapcsolat jellemzésére megfelelő mérőszám, két valószínűségi változó közötti más függvénykapcsolatról nem kapunk információt. Egy meghatározott függvénykapcsolat szorosságát a korrelációs index méri.