13,65 * 31,07 = 424,24 oder 424,11?

... komplette Frage anzeigen

2 Antworten

Habe immer schon die große Ungenauigkeit von zig Rechnern bemängelt.

Das sind auch nicht nur Rundungsfehler, sondern da wird ein billig-Chip reingebaut, der nur Näherungen berechnet!

Bei Wikipedia gibt's unter Taschenrechner eine schöne Tabelle zur Genauigkeit bei sin(22 rad) -> viele können gerade mal 4 Stellen richtig (zeigen aber bis zu 18 Stellen an)  

Deshalb baute ich mir meinen eigenen Wissenschaftlichen Online Rechner:

http://www.lamprechts.de/gerd/php/RechnerMitUmkehrfunktion.php

siehe Bilder 

(Dezimaltrennzeichen ist der Punkt und nicht das Komma!)

Antwort bewerten Vielen Dank für Deine Bewertung
Kommentar von hypergerd
01.11.2015, 21:03

Hinweis zu EXCEL:

Unter "Zellen formatieren" kann man die Genauigkeit bis etwa 15 einstellen.

Solch primitiven Grundrechnungen werden dann auch bis etwa 14 Stellen genau berechnet.

0

als Fehler würde ich das nicht bezeichenen - eher Rundungsungenauigkeit.

13,65*31,07 sind 424,1055 - gerundet auf 2 Stellen sind es 424,11, das stimmt schon.

424,24 / 31,07 sind 13,6543... was auf 2 Stellen gerundet 13,65 ergibt.

also du bist nicht betrunken. Um dein Problem zu lösen, trink einfach mehr.

Antwort bewerten Vielen Dank für Deine Bewertung