Si has solicitado un VPS con una distro de Linux instalada por defecto, es posible que no tenga un firwall activado. Esto significa que todos los puertos del servidor son accesibles desde el exterior. No te asustes, al principio esto no es un problema porque seguramente no hay ningún servicio escuchando en esos puertos, salvo ..