Доброго всем дня.
Недавно столкнулся с той же проблемой но поднимал я виртуальный сервер под CentOS 7 в VMWareESX5.5 , при установке графическое окно инсталятора не вписывалось в размеры и некоторые кнопки было просто невидно.
Решением было таким, не просто добавить видео памяти для виртуальной машины, а еще плюс к этому принудительно в настройках виртуальной машины выставить: Edit Settings --> Options --> Advanced (Boot options) и в блоке Firmware переключаем с BIOS на EFI. Запускаем вируалку и вуаля, все работает.