Da könnte wohl ein Installationsproblem vorliegen, da laut obiger Beschreibung VNCPASSWD ein Kommando sein muss.
ich glaube kaum, dass das Programm direkt aufgerufen werden sollte, dann würde das vermutlich so aussehen:

CALL qaptl/vncpasswd PARM('password' 'verify' '*no' '/home/QUSER/.vnc/passwd')

Das kann ich mir nun absolut nicht vorstellen.