No es problema del sistema operativo sino de la version de protocolo vnc que utiliza el VNC de pago de windows.
La version soportada actualmente en linux creo que es la 3.3 y por lo que veo en tu post el servidor utiliza la version 4, pide al administrador que habilite el protocolo 3.3 tambien en el servidor.