Rechnung mit NaN und Inf

[aths]

Wenn eine FP-Zahl NaN oder Inf ist, wie wird damit in Rechnungen verfahren? Ist zum Beispiel 1/Inf = 0, oder NaN, oder weiterhin Inf?

[Demirug]

Use the source: http://www.jhauser.us/arithmetic/SoftFloat.html

In wie weit sich die GPUs aber daran halten weiss ich nicht. nv dokumentiert das Verhalten in der Beschreibung der OpenGL Extension.

[aths]

"Although the IEEE standard defines the basic floating-point operations to return a NaN if any operand is a NaN"

"x = x cannot be replaced by the boolean constant true, because it fails when x is a NaN"

G00d. Noch suchen, was bei Inf gilt.

Original geschrieben von Demirug
In wie weit sich die GPUs aber daran halten weiss ich nicht. nv dokumentiert das Verhalten in der Beschreibung der OpenGL Extension. Wo finde ich das?

[Demirug]

Original geschrieben von aths
Wo finde ich das?

http://oss.sgi.com/projects/ogl-sample/registry/NV/fragment_program.txt

PS: Bin ich hier deine Suchmaschine?

[aths]

Du bist der beste Quellenbeschaffer, den ich kenne :)

Soweit ich das jetzt gelesen habe, ist praktisch alles wo irgendwo NaN vorkommt, auch wieder NaN, während mit Inf auch gerechnet wird. 1/-Inf müsste z. B. -0 sein :bonk:. Naja.

[Zool]

Auch wenn für 1/-Inf=0 von der GPU ausgegeben wird, eine richtige Grenzwertbetrachung mit Sachen wie links- und rechseiter Limes, wird da nicht vorgenommen. Inf soll einfach nur einen Überlauf verhindern.