制作日記

こういうの作った方が、逃げにくいじゃない

オーバーフロー、アンダーフロー

用語本来の意味解説とは関係ないとこを追記 2011/10/27 10:20

自分も適当に使ってるので、ある程度正確な意味を書いとく

オーバーフロー
演算結果が記録できる範囲を超えてしまい、桁が溢れてしまう現象
正負は関係なし、桁が溢れるかどうかの問題
例えば4bitの符号有り整数(-8~7)なら、(-5)+(-5)と5+5どちらもオーバーフロー

アンダーフロー
小数の演算結果の絶対値が0に近くなり、小数の保証する精度より小さな値の桁が溢れること
例えば小数点以下5桁しか表せない小数だと、0.001*0.001の演算結果(0.000001)の1が溢れてしまって0になってしまうような現象
もちろん0になるとは限らない、桁が溢れて精度が落ちるのがアンダーフロー

ただし整数では、アンダーフローのことを負のオーバーフローという意味で使うことがないこともない
MUGENでアンダーフローと言えば、この意味だと思う
こっから追記
いや違うか、ダメージの処理に関しては正のオーバーフローが起こってるわけだし
damageの設定値が負数だから、何となくって感じ?
MUGEN特有のこの用法は、普通は間違いだから注意
ここまで追記

本来オーバーフローの対義語はアンダーフローじゃない
正常値?とかそんな感じだと思う、多分

コメントの投稿

非公開コメント

プロフィール

Author:drab
霊夢改変キャラ
「12 3 ! {V} [_]」
公開中
L霊夢でもl_reimuでも好きなように読んでください

最新記事
最新コメント
月別アーカイブ
カテゴリ
検索フォーム
RSSリンクの表示
リンク