座標計算の基礎の基礎

GioLine pro の計算結果への疑問やご要望の一部について私見を述べさせていただきますが、以下は基準点測量のような厳密解を求める話ではありません
よくある質問 の「解と入力値が一致しない」もお読みください
なお、誤認識がありましたら掲示板へ御投稿をお願いします

数値の丸め

測量に限らず、測定された長さや角度は、既定の有効桁に丸められています。
例)1mのテープを3等分した長さは、1/3mですが、0.333333・・・ ≒ 0.333m等 として扱われます。
測量での距離はmm単位が一般的です。TS(トータルステーション)の測距値もmm単位に丸められています(0.1mmのTSも存在します)。
丸められた距離や角度(方向角)を元に計算された座標値も最終的にはmm単位に丸められます。したがって、計算された座標点は1mm方眼の格子点に存在します。
GioLine pro では、計算座標値の丸め方は四捨五入と切り捨て、小数部桁数は2,3,4桁を選択できますが、いずれにしても数値は丸められています(例外はありますが)。
以上をご理解いただければ、下記のような疑問(クレーム)は生じないと思います。1mmは微少に感じますが、そうではありません。

クレーム例−1
下図の条件

放射計算を実行(器械点と方向点が同じなので水平角=方向角)

器械点ー放射点(X)を結線し、プロット画面を開くと、方向角が44°でなく44°00′12″になる
この例では距離は入力値と一致していますが、一致しないケースもよくあります。

逆放射計算でも方向角は44°にはなりません。
辺長(距離)が短いほど方向角は丸めに影響されます。

クレーム例−2
Qから、上記で求めたP0-Xへの垂線を求める(C1)

Q-C1を結線し、C1部分を拡大すると、C1が線上(赤線)にありません
(グリッド間隔:1mm)

クレーム例−3
下図の条件で放射(水平距離0.001m)で計算する

水平角10°が計算点(Z1)では0°になる(グリッド間隔:1mm)

水平角を変えても、下図の黒丸のいずれかになります

測設時の注意点

GioLine pro に限らず、座標計算の結果はmm単位に丸められており、座標点はmm方眼の格子点に位置します。
例えば、路線の測設の場合、曲線部は仕方がないですが、直線部はTSを直線上(BP等)に設置しEP点を視準し、水平距離だけで中心点を設置すべきです。
任意点にTSをセットし、座標値を元に逆放射で設置すると、精密に観測すればするほど、直線上には並ばず、ジグザグになります。間接測量ではなく、できる限り直接測量を心がけるべきです。
座標とは無関係ですが、水準もホースを使う原始的な「水盛り」が一番正確です。TVで本四連絡の桁設置で水盛り(水ではなくオイルかも)が使われたと知りました。大規模な現場では常識なのでしょう。
レベルやレザーでいい加減に「平面」を出すと、必ず中央部に水が溜まり、地球が球体であると「確認」できます。

その他の参考例
  定面積分割(点)の 「利用上の注意と制限事項」
  オフセット

座標値の小数部桁数

GioLine pro の座標簿のX・Y座標値は小数部2~4桁で指定できますので、1/100,1/1000,1/10000m まで保存されます。
公共測量作業基準 作業規程の準則 (計算の方法等) 第41条  2 計算結果の表示単位等は、
直角座標 :単 位 m  位 0.001 と記されています(平面直角座標系に規定する世界測地系に従う直角座標 )
m単位で小数部3桁(mm位)ということです。
25年以上前に測量ソフトの開発を始めた時、最初に悩んだのが座標値の小数部桁数と点名長(現在は半角15文字)で、当時のユーザー様にお尋ねしたところ、座標については3~6桁と回答をいただき、本来は3桁にすべきところを4桁までにしたのは「失敗」でした。
ところが、ネット上では3桁では使い物にならないソフト、と決めつける測量の専門家もいらして、正直、どうなってるのかと思いますし、GioLine pro のユーザー様の中にも小数部6桁対応を希望される方もいらっしゃいます。
PCの内部演算精度は20桁以上ありますし、三角関数等の精度もExcelより多桁ですから、6桁出力には対応できますが、土地区画整理の面積計算のように表向きは小数部3桁でも内部は6桁という特殊な用途を除けば、6桁に意味はないと思います。
第一、6桁は1/1000mm (µm)で顕微鏡レベルで大腸菌のサイズです。当然その精度で測距はできません。
6桁を希望される理由は、求めた座標値から交点計算等を実行する時に有効桁数を「確保」したいためではないか?と想像します。その場合は自前でExcel等で計算すればよいでしょう。
GioLine pro の座標値の小数部桁数の増桁のご要望には今後も対応いたしません。

小数部桁数云々する前に、測量が公共測量作業基準に沿っているか(GioLine pro が公共測量に使われてはいないでしょうが)ぐらいは確認すべきですし、お使いのTSの精度についても理解する必要があります。
半世紀前と違いmm単位で簡単に測距ができるデジタル時代なので、測量ソフトの精度が注目されますが、ソフト以前に路線選定や観測方法が重要です。
閉合・結合トラバースに短い辺長が含まれると、途端に角の閉合差が悪くなることは測量者には常識でしょうが、距離5mのような観測データを「拝見」すると、正直「プロ」なの?とちょっと心配になります。
参考4級基準点測量の新点間距離は50m(以上)です。

座標値には拘っても、角度についてのご要望が皆無なのは不思議です。  2024/01/27

TOP