Sc3ry, смотрите в сторону kubuntu. Многие популярные эффекты compiz перекочевали в тамошний kwin. Работают "из коробки", ничего дополнительно ставить не нужно (ни компиза ни его плагинов), - идете в настройки и расставляете галочки. Попробуйте её в live-режиме "погонять", - может, интересующие Вас эффекты уже в системе присутствуют.
Ну или в том же MATE, насколько я помню, идет именно что compiz, - туда только эффекты доставить, и должно работать...
Работоспособность именно GNOME3 в купе с compiz у меня вызывает скепсис. На всякий случай убедитесь, что сессия именно иксовая, а не wayland, но мне кажется что адекватной работы добиться не получится.