-
Die Erklärung ist ganz einfach!
Besteht eine Rechnung aus 2 Integer-Werten, ist das Ergebnis wieder ein Integer-Wert (so lautet die Regel und nicht nur in SQL bzw. auf der IBM i).
Da für 9920, 12000 und 145000 keine Nachkommastellen angegeben wurden, werden diese Werte als Integer-Werte behandelt.
9920 / 12000 = 0,8266666...
Da das Ergebnis jedoch wieder ein Integer-Wert ist, werden die Nachkommastellen abgeschnitten, d.h. statt 0,826... mit 0 weitergerechnet.
Werden bei einer Zahl Nachkommastellen angegeben, so wird diese nicht mehr als Integer erkannt, sondern als Fließkomma interpretiert und das Ergebnis ist wiederum ein Fließkomma-Wert.
Du hast also die Möglichkeit die einzelnen Werte explizit z.B. auf Dezimal zu casten, oder einfach die erste Zahl mit 0 Nachkommastellen angeben:
Natürlich sollte man die Reihenfolge beachten, wird 145000 als Fließkomma interpretiert und die anderen beiden Werte als Integer, ist das Kind bereits in den Brunnen gefallen. Da keine Klammern gesetzt wurden wird zunächst 9920 / 12000 dividiert, und das Ergebnis (0) mit 145000 multipliziert. 0 * irgendwas = 0.
Ich gehe jedoch davon aus, dass dies nur ein Test war und die Spalten in der Datei nicht als Integer-Werte definiert sind, sondern als gepackte oder gezonte numerische Werte.
Kleiner Tipp, ich würde die Division immer am Ende durch führen, also:
Birgitta
Similar Threads
-
By FNeurieser in forum NEWSboard Programmierung
Antworten: 3
Letzter Beitrag: 11-10-06, 15:53
-
By Kaufmann in forum IBM i Hauptforum
Antworten: 11
Letzter Beitrag: 28-06-06, 15:11
-
By loeweadolf in forum NEWSboard Programmierung
Antworten: 2
Letzter Beitrag: 01-06-06, 10:43
-
By hzille in forum NEWSboard Programmierung
Antworten: 1
Letzter Beitrag: 06-07-04, 11:38
Berechtigungen
- Neue Themen erstellen: Nein
- Themen beantworten: Nein
- You may not post attachments
- You may not edit your posts
-
Foren-Regeln
|
Erweiterte Foren Suche
Google Foren Suche
Forum & Artikel Update eMail
AS/400 / IBM i
Server Expert Gruppen
Unternehmens IT
|
Kategorien online Artikel
- Big Data, Analytics, BI, MIS
- Cloud, Social Media, Devices
- DMS, Archivierung, Druck
- ERP + Add-ons, Business Software
- Hochverfügbarkeit
- Human Resources, Personal
- IBM Announcements
- IT-Karikaturen
- Leitartikel
- Load`n`go
- Messen, Veranstaltungen
- NEWSolutions Dossiers
- Programmierung
- Security
- Software Development + Change Mgmt.
- Solutions & Provider
- Speicher – Storage
- Strategische Berichte
- Systemmanagement
- Tools, Hot-Tips
Auf dem Laufenden bleiben
|
Bookmarks