Gamestudio Links
Zorro Links
Newest Posts
Help with plotting multiple ZigZag
by degenerate_762. 04/30/24 23:23
M1 Oversampling
by 11honza11. 04/30/24 08:16
Trading Journey
by howardR. 04/28/24 09:55
Zorro Trader GPT
by TipmyPip. 04/27/24 13:50
Data from CSV not parsed correctly
by jcl. 04/26/24 11:18
AUM Magazine
Latest Screens
The Bible Game
A psychological thriller game
SHADOW (2014)
DEAD TASTE
Who's Online Now
1 registered members (AndrewAMD), 972 guests, and 3 spiders.
Key: Admin, Global Mod, Mod
Newest Members
firatv, wandaluciaia, Mega_Rod, EternallyCurious, howardR
19050 Registered Users
Previous Thread
Next Thread
Print Thread
Rate Thread
Page 2 of 2 1 2
Re: WinDoof wirklich so doof? [Re: Harry Potter] #405899
08/09/12 15:59
08/09/12 15:59
Joined: Sep 2003
Posts: 9,859
F
FBL Offline
Senior Expert
FBL  Offline
Senior Expert
F

Joined: Sep 2003
Posts: 9,859
Ich sehe nach wie vor keinen Fehler.
Es wird mit der (den Rahmenbedingungen entsprechend) möglichen Genauigkeit gerechnet und mit der möglichen Stellenanzahl angezeigt.

Das alles ist logischer und nachvollziehbarer, als wenn irgendwie an den Werten "rumgepatcht" wird.

Man könnte natürlich anzeigen, dass das "Display" nicht ausreichend Nachkomamstellen darstellen kann. Halte ich aber nicht für so unglaublich wichtig. Gut, das mag jeder anders sehen.

Last edited by Firoball; 08/09/12 16:01.
Re: WinDoof wirklich so doof? [Re: FBL] #405902
08/09/12 16:30
08/09/12 16:30
Joined: May 2007
Posts: 2,043
Germany
Lukas Offline

Programmer
Lukas  Offline

Programmer

Joined: May 2007
Posts: 2,043
Germany
Nun ja, was man dem Windows-Taschenrechner vielleicht schon vorwerfen kann ist, dass er bei Wurzeln aus Ganzzahlen erstmal nach ganzzahligen Zahlen suchen könnte oder mehr Iterationen machen könnte um sowas zu verhindern.
Jedenfalls haben andere Taschenrechner das Problem nicht, aber ich glaube das liegt nur daran, dass die mit kleineren Genauigkeiten rechnen, so dass die Zahl auch intern zu exakt 2,000 gerundet wird. Man könnte sagen, dass er in einer bestimmten Hinsicht "zu gut" ist, so wie meine letzte Lasermaus, die so weit über der Tischplatte noch funktioniert, dass es anfangs genervt hat. grin
Vielleicht sollte der Taschenrechner dann einfach mehr Iterationen ausführen, aber das könnte bei sehr hohen Zahlen zu langsam werden. Man merkt ja schon, dass der Taschenrechner im Wissenschaftlichen Modus mit mehr Iterationen rechnet als im normalen.

Ich muss auch meinen letzten Post korrigieren: Weil bei -8,1648465955514287168521180122928*10^-39 vorne ein Minus steht, wäre eigentlich -8,1648465955514287168521180122928*10^-39 + 2 = 1,999999999999999999999999999999999999991835153405

Page 2 of 2 1 2

Gamestudio download | chip programmers | Zorro platform | shop | Data Protection Policy

oP group Germany GmbH | Birkenstr. 25-27 | 63549 Ronneburg / Germany | info (at) opgroup.de

Powered by UBB.threads™ PHP Forum Software 7.7.1