-
 Zitat von fpxx
Mathematisch ist es klarerweise ident; tatsächlich erhalte ich bei diesem SQL-Statement unterschiedliche Ergebnisse:
Bei Summe_a*100 / Summe_tot erhalte ich die korrekten %
Bei Summe_a/Summe_tot * 100 (egal, ob 100 oder 100.00) bekomme ich als Ergebnis entweder den Wert 100 oder den Wert 0
Das liegt daran, dass sowohl Summe_a als auch Summe_tot ganzzahlig (Integer) sind, oder als solche behandelt werden.
Das Ergebnis einer Berechnung mit reinen Integer-Variablen oder Werten (unabhängig davon ob Division oder nicht) ergibt wieder einen Integer-Wert, d.h. etwaige Nachkommastellen werden abgeschnitten. So sind nun mal die Regeln!
Summe_a * 100,00 ergibt keinen Integer-Wert, da 100 Dezimal-Positionen enthält und damit intern als Fließkomma interpretiert wird. Wenn dieses (interne Fließkomma-)Ergebnis dann durch einen Integer-Wert dividiert wird, ist das Ergebnis wiederum ein Fließkomma-Wert, d.h. Nachkommastellen werden berücksichtigt.
Langer Rede kurzer Sinn, Du musst entweder Summe_a (oder Summe_Tot) explizit auf Decimal casten, oder Du stellst 100,0 an die erste oder zweite Stelle in Deiner Berechnung.
Birgitta
Similar Threads
-
By christian_lettner in forum NEWSboard Programmierung
Antworten: 2
Letzter Beitrag: 16-11-06, 10:15
-
By FNeurieser in forum NEWSboard Programmierung
Antworten: 3
Letzter Beitrag: 11-10-06, 14:53
-
By Kaufmann in forum IBM i Hauptforum
Antworten: 11
Letzter Beitrag: 28-06-06, 14:11
-
By steven_r in forum NEWSboard Programmierung
Antworten: 1
Letzter Beitrag: 01-06-06, 12:16
-
By loeweadolf in forum NEWSboard Programmierung
Antworten: 2
Letzter Beitrag: 01-06-06, 09:43
Berechtigungen
- Neue Themen erstellen: Nein
- Themen beantworten: Nein
- You may not post attachments
- You may not edit your posts
-
Foren-Regeln
|
Erweiterte Foren Suche
Google Foren Suche
Forum & Artikel Update eMail
AS/400 / IBM i
Server Expert Gruppen
Unternehmens IT
|
Kategorien online Artikel
- Big Data, Analytics, BI, MIS
- Cloud, Social Media, Devices
- DMS, Archivierung, Druck
- ERP + Add-ons, Business Software
- Hochverfügbarkeit
- Human Resources, Personal
- IBM Announcements
- IT-Karikaturen
- Leitartikel
- Load`n`go
- Messen, Veranstaltungen
- NEWSolutions Dossiers
- Programmierung
- Security
- Software Development + Change Mgmt.
- Solutions & Provider
- Speicher – Storage
- Strategische Berichte
- Systemmanagement
- Tools, Hot-Tips
Auf dem Laufenden bleiben
|
Bookmarks