dipende da come si usa java e su quale sistema si è.
se si usa java dal browser:
firefox e chrome sono solo a 32bit, quindi java è necessario a 32bit
internet explorer se si usa la versione a 64bit, va installato quello a 64bit (win8 64bit ad esempio ha solo ie64bit, mentre win7 le ha entrambe, 32bit e 64bit)
internet explorer se si usa la versione a 32bit, va installato quello a 32bit
se si usa java per altro, dipende...
esistono alcune nightly di firefox a 64bit, in questo caso andrebbe installata la jre a 64bit, ma in pochi le usano.
EDIT: rettifico, anche su win8 64 bit sono presenti entrambe le versioni, ma dal menu start(eventuale)/interfaccia metro è identificabile solo quella a 64bit, per quella a 32bit va creato il collegamento a mano.