« ■好きです”外変”-1 | Main | ■外部変形-図形「ハッチ」発展系 初版 »

February 02, 2005

■浮動小数点数での検証

★軸角0で水平線、その上部に18度ぐらいの斜め線、その間に点を打ち、
 下記の場合での検証を行いました。

1、点から斜め線まで右PM1時で鉛直角を取得した線
  と
2、点から斜め線まで右AM0時で鉛直・円周点で作成した線
  と
3、斜め線を右PM5時で軸角取得してから点から垂直線で作成した線
  のデータの検証。

 ・さらに、斜め線軸角取得した後に
4、点から水平線まで右PM1時で鉛直角を取得した線
  と
5、点から水平線まで右AM0時で鉛直・円周点で作成した線
  のデータの検証。

★浮動小数点数検証結果(データの書出し結果比較)

1、点から斜め線まで右PM1時で鉛直角を取得した線
 lc1
  13342.762063228 2026.1231281198 12367.9617499675 4472.87191449209
 pt 13342.762063228 2026.1231281198

2、点から斜め線まで右AM0時で鉛直円周点で作成した線
 lc1
  13342.762063228 2026.1231281198 12367.9617499371 4472.87191447996
 pt 13342.762063228 2026.1231281198

3、斜め線を右PM5時で軸角取得してから点から垂直線で作成した線
 lc1
  13342.762063228 2026.1231281198 12367.9617499371 4472.87191447996
 pt 13342.762063228 2026.1231281198

■結果
 1≠2=3(1と2が、小数点8位以降で違ってしまいました。)

-----------------------------------------------------------------
4、点から水平線まで右PM1時で鉛直角を取得した線
 lc1
  13342.762063228 2026.1231281198 13342.762063228 -543.594009983361
 pt 13342.762063228 2026.1231281198

5、点から水平線まで右AM0時で鉛直円周点で作成した線
 lc1
  13342.762063228 2026.1231281198 13342.762063228 -543.594009983361
 pt 13342.762063228 2026.1231281198

■結果
 4=5(全く同じでした。)

|

« ■好きです”外変”-1 | Main | ■外部変形-図形「ハッチ」発展系 初版 »

Comments

Post a comment



(Not displayed with comment.)




TrackBack

TrackBack URL for this entry:
http://app.cocolog-nifty.com/t/trackback/51994/2778493

Listed below are links to weblogs that reference ■浮動小数点数での検証:

« ■好きです”外変”-1 | Main | ■外部変形-図形「ハッチ」発展系 初版 »