-
Division-Problem
Hallo Zusammen,
bei einer Rechenoperation(Division) mit gleichen Feldinhalten bekomme ich unterschiedliche Ergebnisse.
1.Beispiel
Feld 1 Länge 30/10 Inhalt 01526,98
Feld 2 Länge 30/10 Inhalt 16612,45
Feld 3 Länge 15/04 Inhalt 0
Rechenoperation
EVAL FELD3 = FELD1/FELD2
FELD3 = 00000000.0000
2.Beispiel
Feld 1 Länge 29/10 Inhalt 01526,98
Feld 2 29/10 Inhalt 16612,45
Feld 3 15/04 Inhalt 0
Rechenoperation
EVAL FELD3 = FELD1/FELD2
FELD3 = 00000000.0100
Wieso hat eine Änderung der Anzahl-Vorkommastellen so eine
Auswirkung?
Danke
Gruss
GS
-
Hallo GS,
die Ergebnisse können aber nicht ganz richtig sein. Bei mir kommt bei dieser Berechnung etwas völlig anderes raus. Außerdem würde ich bei Berechnungen mit EVAL immer den EVAL(R) benutzen bzw. EVAL(HR).
Gruß,
KM
-
Bei so grossen Feldern das Ergebnis in ein kleines zu bringen gibt häufig Probleme.
Aber mit EVAL(HR) muss es klappen !
-
 Zitat von KM
Hallo GS,
die Ergebnisse können aber nicht ganz richtig sein. Bei mir kommt bei dieser Berechnung etwas völlig anderes raus. Außerdem würde ich bei Berechnungen mit EVAL immer den EVAL(R) benutzen bzw. EVAL(HR).
Gruß,
KM
Antwort:
Die Werte stimmen
[IMG]c:\bild1.jpg[/IMG]
[IMG]c:\bild2.jpg[/IMG]
-
 Zitat von KM
Hallo GS,
die Ergebnisse können aber nicht ganz richtig sein. Bei mir kommt bei dieser Berechnung etwas völlig anderes raus. Außerdem würde ich bei Berechnungen mit EVAL immer den EVAL(R) benutzen bzw. EVAL(HR).
Gruß,
KM
Bitte Anhang beachten(die Werte stimmen)
Gruss
GS
-
Hallo GS,
ich hab jetzt mal Deinen Code abgetippt und bei mir laufen lassen. Ich erhalte bei beiden Versionen als Ergebnis
FELD3 = 00000000000.0919
Was ja auch richtig ist. Evtl. liegt es daran, dass wir V5R3 installiert haben. Welches Release hast habt Ihr denn ?
Gruß,
KM
-
 Zitat von KM
Hallo GS,
ich hab jetzt mal Deinen Code abgetippt und bei mir laufen lassen. Ich erhalte bei beiden Versionen als Ergebnis
FELD3 = 00000000000.0919
Was ja auch richtig ist. Evtl. liegt es daran, dass wir V5R3 installiert haben. Welches Release hast habt Ihr denn ?
Gruß,
KM
Danke für die Antwort
Wir haben V5R2.
Vielleicht liegt es wirklich am Release.
Similar Threads
-
By Stoeberl in forum NEWSboard Programmierung
Antworten: 8
Letzter Beitrag: 10-01-07, 10:58
-
By Stoeberl in forum NEWSboard Programmierung
Antworten: 11
Letzter Beitrag: 26-10-06, 10:07
-
By ChrisX in forum IBM i Hauptforum
Antworten: 1
Letzter Beitrag: 11-10-06, 15:31
-
By Flappes in forum IBM i Hauptforum
Antworten: 0
Letzter Beitrag: 06-10-06, 08:39
-
By KL_RPG in forum NEWSboard Drucker
Antworten: 5
Letzter Beitrag: 12-05-06, 15:07
Berechtigungen
- Neue Themen erstellen: Nein
- Themen beantworten: Nein
- You may not post attachments
- You may not edit your posts
-
Foren-Regeln
|
Erweiterte Foren Suche
Google Foren Suche
Forum & Artikel Update eMail
AS/400 / IBM i
Server Expert Gruppen
Unternehmens IT
|
Kategorien online Artikel
- Big Data, Analytics, BI, MIS
- Cloud, Social Media, Devices
- DMS, Archivierung, Druck
- ERP + Add-ons, Business Software
- Hochverfügbarkeit
- Human Resources, Personal
- IBM Announcements
- IT-Karikaturen
- Leitartikel
- Load`n`go
- Messen, Veranstaltungen
- NEWSolutions Dossiers
- Programmierung
- Security
- Software Development + Change Mgmt.
- Solutions & Provider
- Speicher – Storage
- Strategische Berichte
- Systemmanagement
- Tools, Hot-Tips
Auf dem Laufenden bleiben
|
Bookmarks