Для отладки хитрых команд в консоли со всякими там подстановками хитрым expansion и т.д. можно дописывать перед этой командой echo. Так сравнение
echo 7z a -mx0 1.7z !(plugins/dynmap)
и
echo 7z a -mx0 1.7z !(plugins)
Думаю быстро вам объяснит, что происходит, и почему extended globbing не подойдёт для выфильтровывания подкаталогов из сжимаемого.
Дальше. Я же вам уже указал путь в правильном направлении и дал ссылку с примером использования. Сейчас специально проверил
7z a -mx0 1.7z '-x!plugins/dynmap'
Делает именно то, что вы хотите.