2つの値の違いがわからない

Aとstartの中身が私には同じに見えますが、同様の処理をしても結果が異なります。
なぜこのような違いが生じるのかご教示いただければ幸いです。
load('A.mat')
A
A = 1×10
7.8200 7.0230 8.0540 7.8640 7.6350 7.3300 7.6600 7.8630 7.9130 9.0220
load('start.mat')
start
start = 1×10
7.8200 7.0230 8.0540 7.8640 7.6350 7.3300 7.6600 7.8630 7.9130 9.0220
load('B.mat')
C = find(B == A(1));
C
C = 7820
D = find(B == start(1));
D
D = 1×0 empty double row vector

 Accepted Answer

Kojiro Saito
Kojiro Saito on 5 Jul 2022

1 vote

出力の表示形式で値が丸め込まれて見えているのが原因です。
こちらのドキュメントに詳細がありますが、MATLABではデフォルトでshortの表示形式なので、小数点以下が4桁の固定小数点形式で表示されます。
実はA(1)とstart(1)では同じ値になっていません(A(1) == start(1)がfalseの0になります)。
load('A.mat')
A(1)
ans = 7.8200
load('start.mat')
start(1)
ans = 7.8200
A(1) == start(1)
ans = logical
0
桁数を増やして表示すると、A(1)とstart(1)で値が違っているのが確認できます。
format long
A(1)
ans =
7.820000000000000
start(1)
ans =
7.819999999999999

6 Comments

yuta
yuta on 5 Jul 2022
ありがとうございました。解決しました。
yuta
yuta on 6 Jul 2022
Edited: yuta on 6 Jul 2022
昨日はご回答いただきありがとうございました。
昨日と似た中身があるものを丸め込みたいのですが、うまく行く時とうまく行かない時があるのですが、これはなぜでしょうか?
同じアンサーで再度質問して申し訳ありません。
必要であれば、質問を新しく作成いたします。
よろしくお願いいたします。
load('sample.mat')
format long
sample
sample = 10×1
8.029000000000000 7.344000000000000 8.271000000000001 8.090000000000000 8.163000000000000 7.922000000000000 7.913000000000000 8.032999999999999 8.212999999999999 9.724000000000000
A = round(sample,3)
A = 10×1
8.029000000000000 7.344000000000000 8.271000000000001 8.090000000000000 8.163000000000000 7.922000000000000 7.913000000000000 8.032999999999999 8.212999999999999 9.724000000000000
ややこしいのですが、roundの丸め込みとformat longの表示形式の丸め込みを組み合わせると混乱の元になりまして。。。
roundのドキュメントにも末尾にこう書いてあります。
ヒント
  • format short format long はどちらも丸めた数値を表示します。この表示は、関数 round と組み合わせると予期せぬ結果の原因となることがあります。
  • 数値を正確に表示するには、sprintf を使用して string として表示します。たとえば、pi を厳密に小数点以下 2 桁まで (後ろにゼロを付けずに) 表示するには、sprintf("%.2f",pi) を使用します。
変数samplesprintfで小数点以下14桁で厳密に表示してみると、
load('sample.mat')
sprintf("%.14f\n", sample)
ans =
"8.02900000000000 7.34400000000000 8.27100000000000 8.09000000000000 8.16300000000000 7.92200000000000 7.91300000000000 8.03300000000000 8.21300000000000 9.72400000000000 "
となり、小数点以下の有効桁数は実は3桁です。
なのでroundで3桁指定をすると、値が変わりません。
A = round(sample,3);
sprintf("%.14f\n", A)
ans =
"8.02900000000000 7.34400000000000 8.27100000000000 8.09000000000000 8.16300000000000 7.92200000000000 7.91300000000000 8.03300000000000 8.21300000000000 9.72400000000000 "
A == sample
ans = 10×1 logical array
1 1 1 1 1 1 1 1 1 1
これを2桁で丸め込めば、結果が変わってきます。8.09だけtrueになります。
B = round(sample,2);
sprintf("%.14f\n", B)
ans =
"8.03000000000000 7.34000000000000 8.27000000000000 8.09000000000000 8.16000000000000 7.92000000000000 7.91000000000000 8.03000000000000 8.21000000000000 9.72000000000000 "
B == sample
ans = 10×1 logical array
0 0 0 1 0 0 0 0 0 0
詳しくご説明ありがとうございます。
少し理解ができた気がします。
format long
AA = 8271/1000
AA =
8.271000000000001
sprintf("%.14f\n", AA)
ans =
"8.27100000000000 "
この計算が8.271にならないのはこれと同じ原因でしょうか?
また、現在私が行いたいこととしてはある時間軸と数値が同じ時のインデックスを抽出したいというものになります。
以下例です。
tind = [1:10000]/1000 %1000Hzの10秒間の時間軸を作成
tind = 1×10000
0.001000000000000 0.002000000000000 0.003000000000000 0.004000000000000 0.005000000000000 0.006000000000000 0.007000000000000 0.008000000000000 0.009000000000000 0.010000000000000 0.011000000000000 0.012000000000000 0.013000000000000 0.014000000000000 0.015000000000000 0.016000000000000 0.017000000000000 0.018000000000000 0.019000000000000 0.020000000000000 0.021000000000000 0.022000000000000 0.023000000000000 0.024000000000000 0.025000000000000 0.026000000000000 0.027000000000000 0.028000000000000 0.029000000000000 0.030000000000000
tindA = tind +0.01 % 0.01から始まる時間軸にするため加算
tindA = 1×10000
0.011000000000000 0.012000000000000 0.013000000000000 0.014000000000000 0.015000000000000 0.016000000000000 0.017000000000000 0.018000000000000 0.019000000000000 0.020000000000000 0.021000000000000 0.022000000000000 0.023000000000000 0.024000000000000 0.025000000000000 0.026000000000000 0.027000000000000 0.028000000000000 0.029000000000000 0.030000000000000 0.031000000000000 0.032000000000000 0.033000000000000 0.034000000000000 0.035000000000000 0.036000000000000 0.037000000000000 0.038000000000000 0.039000000000000 0.040000000000000
A = 8.271
A =
8.271000000000001
B = find(tind == A)
B =
8271
C = find(tindA == A)
C = 1×0 empty double row vector
上記のように、0.01を加算したものだと数値が返ってきません
試しに中を確認してみると
tind(8271)
ans =
8.271000000000001
sprintf("%.14f\n", tind(8271))
ans =
"8.27100000000000 "
tindA(8261)
ans =
8.270999999999999
sprintf("%.14f\n", tindA(8261))
ans =
"8.27100000000000 "
このように先ほどご教示していただいた方法を利用して、ただし数値を表示させてみると同じなのですが、
なぜ片方は数値が返ってこないのでしょうか?
お手数おけかしますが、ご回答いただけると幸いに存じます。
よろしくお願いいたします。
==のドキュメントに「小数のテキストで表された多くの数値は、2 進浮動小数点数として正確に表すことができません。これにより、== 演算子が反映する結果に若干の違いが生じます。」とあります。
以下はroundを使ってみた例です。
tind = [1:10000]/1000;
tindA = tind +0.01;
A = 8.271;
B = find(round(tind, 3) == A )
B = 8271
C = find(round(tindA, 3) == A )
C = 8261
yuta
yuta on 9 Jul 2022
時間軸もroundで丸めこんでしまえばいいんですね!ありがとうございます。

Sign in to comment.

More Answers (0)

Products

Release

R2022a

Asked:

on 5 Jul 2022

Commented:

on 9 Jul 2022

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!