Os drivers proprietários da NVIDIA ainda não são suportados no Wayland, ainda. Quando você quiser instalar e usar os drivers da NVIDIA, você tem que selecionar o Ubuntu no Xorg na tela de login GDM para entrar na sessão X . Instale os drivers NVIDIA estáveis mais recentes executando estes comandos em um terminal:
Para instalar os drivers da NVIDIA, execute sudo apt install nvidia-384.
Além disso, você pode forçar a tela de login do GDM a usar o Xorg por padrão.
Para conseguir isso, basta executar sudo nano /etc/gdm3/custom.conf.
Remova o caractere #da linha # WaylandEnable=false.
Agora prima Ctrl+ X, em seguida, Ye Enterpara salvar essa mudança.
Reinicie o sistema operacional Ubuntu, execute sudo reboot.
O processo de instalação não mudou desde o Ubuntu 17.04 - e no X tudo é igual. A situação atual pode mudar em breve, porque já há algum trabalho promissor em andamento para que os drivers proprietários da NVIDIA sejam executados em uma sessão de Wayland - talvez no Ubuntu 18.04 ele funcione.
Encontre mais detalhes sobre o status atual de desenvolvimento dos desenvolvedores no GitHub:
A interface da Plataforma Externa EGL | A plataforma externa Wayland baseada em EGLStream
Para adicionar à resposta cl-netbox, a versão padrão do kernel para mim era a baixa latência em 17.10, ela começou a funcionar para mim depois de mudar para um kernel genérico (eu tive que instalar primeiro os cabeçalhos do kernel e depois reinstalar o driver nvidia no kernel genérico)