計算の桁数の精度

2 views (last 30 days)
rika yamada
rika yamada on 26 Jun 2020
digit(12) で12桁を指定して作った複素数行列
NN1 = vpa(Zn./ZS)
NL1 = vpa(Zl./ZS)
(Zn, ZS, Zl も複素数)があるのですが、これらに関して
>> NN1(500)
ans =
- 9.29055970603e-17 + 3.76968885557e-17i
>> NL1(500)
ans =
- 9.29055970603e-17 + 3.76968885557e-17i
となっていて、同じ値のように見えるのですが、引き算をすると以下のように、差があるのはなぜでしょうか。
>> NN1(500)-NL1(500)
ans =
8.87468518374e-31 - 7.39557098645e-32i

Answers (0)

Categories

Find more on 数学 in Help Center and File Exchange

Products


Release

R2018a

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!