Niedomiar zmiennoprzecinkowy

Niedomiar zmiennoprzecinkowy, w skrócie niedomiarSzablon:Odn (Szablon:Ang.) – stan podczas obliczeń arytmetycznych na liczbach zmiennoprzecinkowych, gdy wartość bezwzględna uzyskanego wyniku jest mniejsza niż najmniejsza liczba większa od zera możliwa do zapisania w rejestrze lub pamięci.

Prostym przykładem wygenerowania niedomiaru zmiennoprzecinkowego jest podniesienie do kwadratu najmniejszej dodatniej liczby zmiennoprzecinkowej. Na przykład dla 32-bitowych liczb zmiennoprzecinkowych w standardzie IEEE 754 można zapisać

$1,18\cdot 10^{-38}\times 1,18\cdot 10^{-38}=3,24\cdot 10^{-76}$

Uzyskany wynik nie mieści się w zakresie dopuszczalnych wartości powodując niedomiar.

Sposoby obsługi niedomiaru

Wystąpienie niedomiaru nie jest błędem krytycznymSzablon:Odn. Powoduje jedynie zmniejszenie dokładności obliczeń, lecz obliczenia mogą być kontynuowaneSzablon:Odn. Jego obsługa może być następująca:

• Zwracanym wynikiem jest zeroSzablon:Odn.
• Zwracany wynik jest w postaci nieznormalizowanej.
• Generowany jest wyjątek jako sygnał utraty dokładności.
• Generowany jest błąd, a program jest przerywany.

Zobacz też

• Nadmiar
• Błąd przybliżenia
• NaN
• Przekroczenie zakresu liczb całkowitych

Bibliografia

• Szablon:Cytuj

Linki zewnętrzne

• Szablon:Cytuj