Da ja RRN inzwischen auch keyed ist, kannst du den Update auf den Satz mit der kleinsten RRN(*) setzen:

update myfile a set Anz = (
select count(*) from myfile b
where a.pmnr = b.pmnr and a.jahr = b.jahr and a.monat = b.monat
)
where
rrn(*) = (
select min(rrn(*))) from myfile b
where a.pmnr = b.pmnr and a.jahr = b.jahr and a.monat = b.monat
)