Noggrannhetsförlust, eller kancellation, är en typ av beräkningsfel, en noggrannhetsförlust som inträffar då två nästan lika tal som har fel subtraheras och kan uppstå på grund av avrundningar eller från fel i indata. Detta beror på att närmevärdet blir litet och att felen i de två talen adderas, man får alltså ett stort relativt fel.
Noggrannhetsförlust kan ske när datorer arbetar med flyttal då de ibland måste avrundas och således introducerar fel i talen. För att reducera förlusten av signifikanta siffror beroende på kancellation är det ibland möjligt att omformulera beräkningsuttrycken, genom så kallad omskrivning.
Exempel
När man ska beräkna för små x så gäller att . Dessutom kan inte beräknas exakt, vilket ger ett fel och alltså kancellation.
Det finns tre typer av omskrivningar för att undvika kancellation, i detta fall kan alla tre appliceras:
- Serieutveckling
- Förlängning med konjugatet[särskiljning behövs]
- Trigonometrisk formel
Externa länkar
- Lärobok i programmering: http://lix.hisvux.se/martinf/pascalfel.html Programmeringsfel