ce-15. 計算精度と誤差 (Cプログラミング応用,全14回)

UP 1 Level


内容

  1. スライド 1 ce-15. 計算精度と誤差 (Cプログラミング応用,全14回)
  2. スライド 2 int 型
  3. スライド 3 オーバーフロー
  4. スライド 4 少数点以下切り捨て
  5. スライド 5 整数データと浮動小数データの違い
  6. スライド 6 1/2 の値は 0
  7. スライド 7 1.0/2.0 の値は 0.5
  8. スライド 8 1/2 と 1.0/2.0 の違い
  9. スライド 9 0除算
  10. スライド 10 浮動小数点数の演算
  11. スライド 11 計算機内での数値の表現
  12. スライド 12 負の数
  13. スライド 13 浮動小数点数
  14. スライド 14 10進数の0.1を2進数で表すと…
  15. スライド 15 丸め誤差の集積(情報落ち)
  16. スライド 16 浮動小数点でのループの終了判定
  17. スライド 17 仕様
  18. スライド 18 プログラム
  19. スライド 19 プログラムのテスト
  20. スライド 20 桁落ち
  21. スライド 21 桁落ち
  22. スライド 22 2次方程式の解で桁落ちを防ぐ
  23. スライド 23 改良版プログラム

Converted from Powerpoint Presentation to HTML by PPT2HTML AddIn.
PPT2HTML : by AGATASHI


本サイトのサイトマップは,サイトマップのページをご覧下さい. 本サイト内の検索は,サイト内検索のページをご利用下さい.
問い合わせ先: 金子邦彦(かねこ くにひこ)