Minitab 22 - Begrenzung der Rechengenauigkeit

• Überarbeitet am 22.5.2024
• Software: Minitab 22, 21, 20, 19

Gibt es bei Minitab eine Beschränkung in der Größe von Zahlen?

Bilder

Erläuterung

Einschränkungen bei der Rechnung mit Dezimalstellen ergeben sich in Minitab durch die Hardware.

Zur Darstellung der erwünschten Dezimalstellen im Sessionfenster siehe: Anzahl der Dezimalstellen im Sessionfenster

Für einige Funktionen können Sie man die Statistiken in das aktuelle Arbeitsblatt speichern. Wenn Sie die Spalte markiert, können Sie mit einem Rechtsklick ein Kontextmenü öffnen und den Spalte formatieren auswählen. Unter Feste Anzahl Dezimalstellen können Sie eine ganze Zahl zwischen 0 und 30 angeben werden, um die Anzahl der Nachkommastellen festzulegen. Dadurch erhalten Sie eine genauere Ausgabe der Ergebnisse. Bitte beachten Sie jedoch, dass aus technischen Gründen intern mit nicht mehr als 15 Nachkommastellen gerechnet wird. Das im Ordner Supporting Quality Process Documentation des Validierungskits des Herstellers Minitab enthaltene Minitab Quality Statement schreibt hierzu im Abschnitt Numerical Accuracy:

The nature of hardware and software presents a set of limitations that can affect the accuracy of a computed value. One limitation is due to hardware architecture and the finite memory of computer systems. It is necessary for computers to perform their calculations using numbers of finite precision; however, not all real numbers can be represented in binary finite precision. Due to this limitation, the results of certain arithmetic operations may include numerical variations caused by truncation.