[NEWSboard IBMi Forum]

Hybrid View

  1. #1
    Registriert seit
    Oct 2002
    Beiträge
    27

    Division-Problem

    Hallo Zusammen,

    bei einer Rechenoperation(Division) mit gleichen Feldinhalten bekomme ich unterschiedliche Ergebnisse.

    1.Beispiel

    Feld 1 Länge 30/10 Inhalt 01526,98
    Feld 2 Länge 30/10 Inhalt 16612,45
    Feld 3 Länge 15/04 Inhalt 0

    Rechenoperation
    EVAL FELD3 = FELD1/FELD2

    FELD3 = 00000000.0000

    2.Beispiel

    Feld 1 Länge 29/10 Inhalt 01526,98
    Feld 2 29/10 Inhalt 16612,45
    Feld 3 15/04 Inhalt 0

    Rechenoperation
    EVAL FELD3 = FELD1/FELD2

    FELD3 = 00000000.0100

    Wieso hat eine Änderung der Anzahl-Vorkommastellen so eine
    Auswirkung?


    Danke

    Gruss
    GS

  2. #2
    KM is offline [professional_User]
    Registriert seit
    Apr 2003
    Beiträge
    1.012
    Hallo GS,

    die Ergebnisse können aber nicht ganz richtig sein. Bei mir kommt bei dieser Berechnung etwas völlig anderes raus. Außerdem würde ich bei Berechnungen mit EVAL immer den EVAL(R) benutzen bzw. EVAL(HR).

    Gruß,
    KM

  3. #3
    Registriert seit
    Feb 2001
    Beiträge
    20.695
    Bei so grossen Feldern das Ergebnis in ein kleines zu bringen gibt häufig Probleme.
    Aber mit EVAL(HR) muss es klappen !
    Dienstleistungen? Die gibt es hier: http://www.fuerchau.de
    Das Excel-AddIn: https://www.ftsolutions.de/index.php/downloads
    BI? Da war doch noch was: http://www.ftsolutions.de

  4. #4
    Registriert seit
    Oct 2002
    Beiträge
    27
    Zitat Zitat von KM
    Hallo GS,

    die Ergebnisse können aber nicht ganz richtig sein. Bei mir kommt bei dieser Berechnung etwas völlig anderes raus. Außerdem würde ich bei Berechnungen mit EVAL immer den EVAL(R) benutzen bzw. EVAL(HR).

    Gruß,
    KM
    Antwort:
    Die Werte stimmen




    [IMG]c:\bild1.jpg[/IMG]
    [IMG]c:\bild2.jpg[/IMG]

  5. #5
    Registriert seit
    Oct 2002
    Beiträge
    27
    Zitat Zitat von KM
    Hallo GS,

    die Ergebnisse können aber nicht ganz richtig sein. Bei mir kommt bei dieser Berechnung etwas völlig anderes raus. Außerdem würde ich bei Berechnungen mit EVAL immer den EVAL(R) benutzen bzw. EVAL(HR).

    Gruß,
    KM
    Bitte Anhang beachten(die Werte stimmen)

    Gruss
    GS

  6. #6
    KM is offline [professional_User]
    Registriert seit
    Apr 2003
    Beiträge
    1.012
    Hallo GS,

    ich hab jetzt mal Deinen Code abgetippt und bei mir laufen lassen. Ich erhalte bei beiden Versionen als Ergebnis

    FELD3 = 00000000000.0919

    Was ja auch richtig ist. Evtl. liegt es daran, dass wir V5R3 installiert haben. Welches Release hast habt Ihr denn ?

    Gruß,
    KM

  7. #7
    Registriert seit
    Oct 2002
    Beiträge
    27
    Zitat Zitat von KM
    Hallo GS,

    ich hab jetzt mal Deinen Code abgetippt und bei mir laufen lassen. Ich erhalte bei beiden Versionen als Ergebnis

    FELD3 = 00000000000.0919

    Was ja auch richtig ist. Evtl. liegt es daran, dass wir V5R3 installiert haben. Welches Release hast habt Ihr denn ?

    Gruß,
    KM
    Danke für die Antwort
    Wir haben V5R2.
    Vielleicht liegt es wirklich am Release.

Similar Threads

  1. Problem mit Java-Methoden Aufruf aus ILE RPG?
    By Stoeberl in forum NEWSboard Programmierung
    Antworten: 8
    Letzter Beitrag: 10-01-07, 10:58
  2. Problem mit Steuerzeichen in Datenbank?
    By Stoeberl in forum NEWSboard Programmierung
    Antworten: 11
    Letzter Beitrag: 26-10-06, 10:07
  3. Authorization Problem nach ändern der Primary Group
    By ChrisX in forum IBM i Hauptforum
    Antworten: 1
    Letzter Beitrag: 11-10-06, 15:31
  4. Merkwürdiges Problem in VRPG
    By Flappes in forum IBM i Hauptforum
    Antworten: 0
    Letzter Beitrag: 06-10-06, 08:39
  5. IPDS Drucker Problem
    By KL_RPG in forum NEWSboard Drucker
    Antworten: 5
    Letzter Beitrag: 12-05-06, 15:07

Berechtigungen

  • Neue Themen erstellen: Nein
  • Themen beantworten: Nein
  • You may not post attachments
  • You may not edit your posts
  •