Uppdaterad 2016-07-06  

Diverse exempel.

RT90 / WGS84

Om jag mäter mitt duvslag med GPS-en inställd på "map datum" RT90 grader/minuter/sekunder får jag positionen
N 57 grader 43 minuter 11 sekunder
E 11 grader 55 minuter 8 sekunder

Om jag mäter mitt duvslag med GPS-en inställd på "map datum" WGS84 grader/minuter/sekunder får jag positionen
N 57 grader 43 minuter 9 sekunder
E 11 grader 55 minuter 0 sekunder

Beräknar man avståndet mellan dessa två positionsangivelser får man 146 meter.
Detta visar att det är viktigt att GPS-en är rätt inställd, och att när man ska beräkna avstånd
att alla positioner är angivna enligt samma system.

Minuter och sekunder eller minuter med decimaler?

Om jag ställer in GPS-en att visa minuter och sekunder får jag inga decimaler på sekunderna,
vilket innebär en att jag bara får värdet med en noggrannhet på en sextiondedels minut.

Mitt slag hamnar då ute på gatan.

Om man däremot ställer in GPS-en att visa minuter med decimaler får jag 3 decimaler (på min GPS i alla fall).
Det innebär att jag får värdet med en noggrannhet på en tusendels minut!

N 57° 43.157 minuter
E 11° 54.994 minuter
Decimalerna räknas om till sekunder (0.157 minuter = 9.42 sekunder och 0.994 minuter = 59.64 sekunder)

Det är betydligt närmare verkligeheten. (2 meter mer till vänster hade varit perfekt!)
Men man måste komma ihåg att multiplicera minut-decimalerna med 60 för att få sekunder.
Man får absolut inte mata in minut-decimalerna som sekunder!

Fel med decimaler som sekunder.

Om man tittar i listan med positioner för förbundets medlemmar kan man hitta 37 stycken där värdet på latitud eller longitud inehåller ett värde i sekund-kolumnen som är större än 60.
Eftersom antalet sekunder inte kan vara större än 60 (då blir det ju en hel minut) måste dessa värden ha matats in på ett felaktigt sätt.

En medlem (OBS! Inget personligt, jag måste ha ett exempel!) har positionen:
N 57 grader 40 minuter 93.1 sekunder
E 12 grader 12 minuter 95.9 sekunder

Man kan misstänka att mätningen egentligen gett resultatet:
N 57 grader 40.931 minuter
E 12 grader 12.959 minuter

40.931 minuter = 40 minuter 55.86 sekunder
12.959 minuter = 12 minuter 57.54 sekunder

Avständet mellan dessa positioner är 1316 meter!
Detta visar hur viktigt det är att värdena läses av på ett riktigt sätt.
Att mäta med decimaler ger bättre noggrannhet (se ovan), men decimalerna måste ovillkorligen omvandlas till sekunder.