-
größte Zahl für interne Berechnung im RPG
Hallo Zusammen,
diese Formel bricht ab:
for w@Idx = w@Start to Pi@K;
monitor;
Po@Poisson += ((Pi@Lambda ** w@Idx) *
(c@Eulner ** (Pi@Lambda * -1)) )
/ factorial(w@Idx);
on-error *all;
Po@Poisson = -1;
leave;
endmon;
endfor;
Es liegt an der Berechnung Pi@Lambda ** w@idx. Index 49 klappt noch, Index 50 geht schief.
Pi@Lambda = 35, sprich 35^50. Ist natürlich eine gigantisch große Zahl.
In der Formel geht es um den Poisson Wert kumliert, sprich Excel Formel POISSON.VERT.
Siehe auch: https://www.ibm.com/docs/de/i/7.3?topic=types-numbers
Es geht wohl max 10^63+1, aber das wäre ja schon kleiner als 35^50 und müsste somit viel früher abbrechen. Zusätzlich steht aber auch noch, dass es den Typ decimal floating point gibt, der wohl 10^6144 kann.
Wie bekomme ich das gelöst?
Danke.
Klaus
Similar Threads
-
By svente in forum IBM i Hauptforum
Antworten: 5
Letzter Beitrag: 03-11-14, 12:46
-
By ibiuser in forum Archiv NEWSblibs
Antworten: 0
Letzter Beitrag: 10-11-09, 10:17
-
By holly in forum NEWSboard Programmierung
Antworten: 6
Letzter Beitrag: 16-05-06, 12:45
-
By Juergen in forum IBM i Hauptforum
Antworten: 4
Letzter Beitrag: 23-04-05, 13:05
-
By holly in forum IBM i Hauptforum
Antworten: 5
Letzter Beitrag: 31-01-03, 09:08
Berechtigungen
- Neue Themen erstellen: Nein
- Themen beantworten: Nein
- You may not post attachments
- You may not edit your posts
-
Foren-Regeln
|
Erweiterte Foren Suche
Google Foren Suche
Forum & Artikel Update eMail
AS/400 / IBM i
Server Expert Gruppen
Unternehmens IT
|
Kategorien online Artikel
- Big Data, Analytics, BI, MIS
- Cloud, Social Media, Devices
- DMS, Archivierung, Druck
- ERP + Add-ons, Business Software
- Hochverfügbarkeit
- Human Resources, Personal
- IBM Announcements
- IT-Karikaturen
- Leitartikel
- Load`n`go
- Messen, Veranstaltungen
- NEWSolutions Dossiers
- Programmierung
- Security
- Software Development + Change Mgmt.
- Solutions & Provider
- Speicher – Storage
- Strategische Berichte
- Systemmanagement
- Tools, Hot-Tips
Auf dem Laufenden bleiben
|
Bookmarks