Gamestudio Links
Zorro Links
Newest Posts
Help with plotting multiple ZigZag
by degenerate_762. 04/30/24 23:23
M1 Oversampling
by 11honza11. 04/30/24 08:16
Trading Journey
by howardR. 04/28/24 09:55
Zorro Trader GPT
by TipmyPip. 04/27/24 13:50
Data from CSV not parsed correctly
by jcl. 04/26/24 11:18
AUM Magazine
Latest Screens
The Bible Game
A psychological thriller game
SHADOW (2014)
DEAD TASTE
Who's Online Now
2 registered members (M_D, AndrewAMD), 1,222 guests, and 1 spider.
Key: Admin, Global Mod, Mod
Newest Members
firatv, wandaluciaia, Mega_Rod, EternallyCurious, howardR
19050 Registered Users
Previous Thread
Next Thread
Print Thread
Rate Thread
Page 1 of 2 1 2
WinDoof wirklich so doof? #405839
08/08/12 12:11
08/08/12 12:11
Joined: May 2008
Posts: 2,113
NRW/Germany
alibaba Offline OP
Expert
alibaba  Offline OP
Expert

Joined: May 2008
Posts: 2,113
NRW/Germany
Wenn man in den Rechner Wurzel(4) eingibt, dann - 2 rechnet, dann kommt:
-wenn man im wissenschaftlichen modus ist:
-8,1648465955514287168521180122928e - 39 raus.
- wenn man im normalen modus ist:
-1,068281969439142e - 19 raus.

Klingt ein wenig falsch..


Professional Edition
A8.47.1
--------------------
http://www.yueklet.de
Re: WinDoof wirklich so doof? [Re: alibaba] #405840
08/08/12 12:21
08/08/12 12:21
Joined: Apr 2008
Posts: 650
Sajeth Offline
User
Sajeth  Offline
User

Joined: Apr 2008
Posts: 650
Und wenn man das Ergebnis -2 rechnet, kommt aber wieder -2 raus... lustig laugh


Teleschrott-Fan.
Re: WinDoof wirklich so doof? [Re: Sajeth] #405842
08/08/12 12:48
08/08/12 12:48
Joined: Nov 2007
Posts: 2,568
Germany, BW, Stuttgart
MasterQ32 Offline
Expert
MasterQ32  Offline
Expert

Joined: Nov 2007
Posts: 2,568
Germany, BW, Stuttgart
das liegt am double grin
die sind ja nicht absolut genau, was wurzeln ausrechnen geht (was ja eig. auch nur bei quadratzahlen exakt zu rechnen geht)
heißt aber auch, das wenn du wurzel(4) nimmst, kommt da 2,000000000000000329746 raus. Zeigt er aber nicht an, wäre ja zu viel unnötige information
wenn du jetzt aber -2 rechnest, kommt 0,000000000000000329746 raus, was ja iwie erst ab 329 interessant wird, heißt, das wird dargestellt
rechnet man wieder -2, wird wieder gerundet ^^

alles geklärt?


Visit my site: www.masterq32.de
Re: WinDoof wirklich so doof? [Re: MasterQ32] #405844
08/08/12 12:54
08/08/12 12:54
Joined: May 2008
Posts: 2,113
NRW/Germany
alibaba Offline OP
Expert
alibaba  Offline OP
Expert

Joined: May 2008
Posts: 2,113
NRW/Germany
Ist doch für normalor unnormal uninteressant!


Professional Edition
A8.47.1
--------------------
http://www.yueklet.de
Re: WinDoof wirklich so doof? [Re: alibaba] #405845
08/08/12 12:57
08/08/12 12:57
Joined: Nov 2007
Posts: 2,568
Germany, BW, Stuttgart
MasterQ32 Offline
Expert
MasterQ32  Offline
Expert

Joined: Nov 2007
Posts: 2,568
Germany, BW, Stuttgart
ja, aber wenn du jetzt 3*10^-4 + 4*10^-5 rechnest, sollte er es doch auch anzeigen, oder?


Visit my site: www.masterq32.de
Re: WinDoof wirklich so doof? [Re: alibaba] #405854
08/08/12 15:42
08/08/12 15:42
Joined: Sep 2003
Posts: 9,859
F
FBL Offline
Senior Expert
FBL  Offline
Senior Expert
F

Joined: Sep 2003
Posts: 9,859
Originally Posted By: alibaba
Wenn man in den Rechner Wurzel(4) eingibt, dann - 2 rechnet, dann kommt:
-wenn man im wissenschaftlichen modus ist:
-8,1648465955514287168521180122928e - 39 raus.
- wenn man im normalen modus ist:
-1,068281969439142e - 19 raus.

Klingt ein wenig falsch..


Ist doch quasi 0. Sehe da nichts falsches, von einer den Datentypen geschuldeten Ungenauigkeit mal abgesehen.
Mit "doof" hat das nichts zu tun, eigentlich auch nciht wirklich mit Windows.

Re: WinDoof wirklich so doof? [Re: FBL] #405858
08/08/12 16:10
08/08/12 16:10
Joined: Sep 2003
Posts: 6,861
Kiel (Germany)
Superku Offline
Senior Expert
Superku  Offline
Senior Expert

Joined: Sep 2003
Posts: 6,861
Kiel (Germany)
Da meines Wissens nach alle Wurzel-Algorithmen iterativ verfahren, sprich solange arbeiten, bis eine gewisse Fehlerschranke unterschritten oder die maximale Anzahl an Schritten erreicht worden ist, darf man dabei auch nicht auf mathematisch theoretisch exakte Ergebnisse hoffen, selbst wenn es nicht an der beschränkten double-Genauigkeit läge.


"Falls das Resultat nicht einfach nur dermassen gut aussieht, sollten Sie nochmal von vorn anfangen..." - Manual

Check out my new game: Pogostuck: Rage With Your Friends
Re: WinDoof wirklich so doof? [Re: Superku] #405892
08/09/12 09:31
08/09/12 09:31
Joined: Dec 2002
Posts: 3,363
Vindobona (Ostarichi)
Harry Potter Offline
Expert
Harry Potter  Offline
Expert

Joined: Dec 2002
Posts: 3,363
Vindobona (Ostarichi)
Die Ungenauigkeiten bei der Wurzelberechnung sind ja okay, und sie erklären auch das Problem.
Aber ich denke, darum geht es hier gar nicht.

Meiner Meinung nach ist das ein Programmfehler. Und zwar ein Fehler in der "Benutzeroberfläche".
Wenn ein Ergebnis von 2,000000000000000329746 herauskommt, dann sollte das am besten auch so angezeigt werden. Und wenn es auf 2,0 abgeschnitten wird, was ja auch okay ist, dann muss das Programm aber nachher auch mit diesem abgeschnittenen Wert weiterrechnen, und nicht mit dem zuvor intern berechneten genaueren Wert.

Ich finde, ob der User den Wert 2,0 händisch eingibt, oder ob dieser Wert zuvor irgendwie berechnet wurde, darf keinen Unterschied machen. Wenn am Display als Ergebnis 2,0 steht, dann erwartet der Anwender, dass auch mit diesem Wert 2,0 weitergerechnet wird.

Re: WinDoof wirklich so doof? [Re: Harry Potter] #405896
08/09/12 13:01
08/09/12 13:01
Joined: May 2007
Posts: 2,043
Germany
Lukas Offline

Programmer
Lukas  Offline

Programmer

Joined: May 2007
Posts: 2,043
Germany
@Harry Potter: Tut mir leid, aber bei den vielen Nachkommastellen, die man dafür bräuchte um zu zeigen, dass das Ergebnis nicht wirklich 2 ist, bräuchte man mehr Nachkommastellen als der Taschenrechner angeben kann. Dein Beispiel war 2,000000000000000329746, aber -8,1648465955514287168521180122928*10^-39 + 2 = 2,0000000000000000000000000000000000000081648465955514287168521180122928. So viele Stellen kann der Windows-Taschenrechner nicht anzeigen, also muss er es auf 2 runden. Und die -8,1648465955514287168521180122928*10^-39 sind auch schon gerundet zur maximalen Anzahl an Stellen, die der Taschenrechner anzeigen kann, also wären das in Wahrheit noch mehr Stellen.

Und ich möchte auch nicht, dass der Taschenrechner mit den Werten, die er anzeigt weiterrechnet. Für mich ist ein Taschenrechner SCHLECHT wenn 1/3*3 = 0,999999999 ergibt.

Re: WinDoof wirklich so doof? [Re: Lukas] #405898
08/09/12 15:36
08/09/12 15:36
Joined: Dec 2002
Posts: 3,363
Vindobona (Ostarichi)
Harry Potter Offline
Expert
Harry Potter  Offline
Expert

Joined: Dec 2002
Posts: 3,363
Vindobona (Ostarichi)
@Lukas: Dann muss zumindest irgendwie angezeigt werden, dass der am Display angezeigte Wert unvollständig bzw. abgeschnitten ist.
Aber den Wert 2 anzeigen, und dann mit 2,0000000000000000000000000000000000000081648465955514287168521180122928 weiterrechnen, finde ich nicht okay.
Das kann in manchen Fällen sinnvoll sein, aber in manchen Fällen für den User auch zu einem unerwünschten/falschen Ergebnis führen.

Also wenn am Display "2" als Ergebnis steht, dann gehe ich davon aus, dass das Ergebnis eine ganze Zahl ist. Und dann gehe ich auch davon aus, dass nachfolgende Rechenoperationen mit genau dieser ganzen Zahl weiterrechnen. Wenn dem nicht so ist, dann sollte dort z.B. stehen: "2,000000000000000000000". Dann weiß man sofort, dass der Wert keine ganze Zahl ist (bei 0,3333333333333333 merkt man das ja auch sofort, aber bei 2 merkt man das nicht).

Page 1 of 2 1 2

Gamestudio download | chip programmers | Zorro platform | shop | Data Protection Policy

oP group Germany GmbH | Birkenstr. 25-27 | 63549 Ronneburg / Germany | info (at) opgroup.de

Powered by UBB.threads™ PHP Forum Software 7.7.1