Я на работе админю домен на 4й самбе, RSAT и в 7ке, и в 10ке работает норм, единственное, что в 10ке нет в свойствах пользователя вкладки UNIX-аттрибут, без которого пользователь не может залогиниться на линуксовую машину. Так вот в такой связке "Samba4 + RSAT на винде" всё прекрасно работает. И линуксовые и виндовые машины существуют в домене рядышком, главное не запускать, а если охота какие-то плюшки типа "посмотреть неактивных пользователей или машины" то powershell в помощь!
А, ещё вам обязательно понадобится GPO, так что без винды никак.
Начальник мой всё планирует перейти на freeipa, чтоб как раз таки избавиться от связки samba+rsat, но пока руки не доходят, так что попробуй сначала раскурить её, потому что samba много что не умеет в плане управления