Home > Term: 丸め誤差
丸め誤差
実数はマシン表現可能な数に丸められますときに発生エラーです。最も浮動小数点計算の丸めエラーが発生します。いずれかの浮動小数点操作の IEEE Std 754 結果しなければならない複数の丸めエラーが発生しないことを指定します。
- Jenis Kata: noun
- Industri / Domain: Komputer
- Kategori: Tempat kerja
- Company: Sun
0
Penulis
- Hosayuki
- 100% positive feedback
(Chiba, )