CWE ID: 1339
Name: Insufficient Precision or Accuracy of a Real Number
Das Produkt verarbeitet eine reelle Zahl, wobei die Implementierung dazu führt, dass die Darstellung keine ausreichende Genauigkeit und Präzision im Bruchanteil aufweist, was zu einem fehlerhaften Resultat führt.
Effektivität: Unknown
Beschreibung: Der Entwickler oder Wartungsingenieur kann zu einer genaueren Repräsentation von reellen Zahlen wechseln. In extremen Fällen kann der Programmierer auf Darstellungen wie Quotienten von BigInts ausweichen, die reelle Zahlen mit extremer Präzision darstellen können. Der Programmierer kann auch das Konzept eines Unum real nutzen. Die Memory- und CPU-Kompromisse dieser Änderung müssen geprüft werden. Da Floating-Point-Reals in vielen Produkten und an vielen Stellen verwendet werden und in Hardware implementiert sind, führen die meisten Formatänderungen dazu, dass die Berechnungen in Software verlagert werden, was zu langsameren Produkten führt.