厳密解と近似解

地球を完全な球体として、空気屈折率の影響を考慮しない場合の、厳密解と厳密解の近似解を求める。

標高H₁の点Aから、標高H₂の点Bが水平線と同じ高さで、ぎりぎり見渡せたとする。
このとき、2点A,Bを結ぶ直線は、地球の水平線上の点を通る。この点をPとする。
点Aの標高0mの点をA'、点Bの標高0mの点をB'とする。地球の中心をOとする。
三角形OPA、三角形OPBは直角三角形なので、次式が成立する。

(7)式が2点間の距離の厳密解である。

ところで、θ₁は0に十分近く、H₁はRに比べ十分に小さいので、近似的に次式が成立。

(10)式が2点間の距離の近似解である。