Попробовал тоже поэкспериментировать
Ubuntu 17.10, nvidia gtx 1050, драйвер 387.12
в /etc/modprobe.d/nvidia-graphics-drivers.conf выставляем значение nvidia_387_drm modeset=1
потом sudo update-initramfs -u
В моем случае пришлось отключить в биосе встроенное видео интел (проц i5-2500k), иначе gdm не грузился.
После этого появился пункт Ubuntu, нормально в него заходит.
echo $WAYLAND_DISPLAY
wayland-0
lspci -k | grep -A 2 -E "(VGA|3D)"
01:00.0 VGA compatible controller: NVIDIA Corporation GP107 [GeForce GTX 1050] (rev a1)
Subsystem: Gigabyte Technology Co., Ltd GP107 [GeForce GTX 1050]
Kernel driver in use: nvidia
Но nvidia-settings не запускается.
ERROR: Unable to find display on any available system
Параметры-сведения о системе, графика-неизвестно
И пока хуже чем в X, в google chrome не такая плавная прокрутка страниц, в smplayer при разворачивании на полный экран видео не масштабируется, остается по середине экрана в исходном размере.