mkfs.ext4 - форматирует только в EXT4. Что к ней вы собрались добавлять - непонятно...
Каждая ФС имеет свою утилиту форматирования, так например для btrfs используется mkfs.btrfs, для XFS - mkfs.xfs...
Но утилита форматирования - это только часть пакета поддержки ФС. Нужен еще драйвер для доступа к данным в ФС для операционной системы, и как минимум утилита восстановления после сбоя, + возможно утилиты для тьюнинга ФС и дефрагментации.
Но все эти "программы" обеспечивают работу ФС на диске, там она определенным образом хранится и для любой ФС важно иметь описание этого формата + описание того как с этим форматом нужно работать.
Собственно вам нужно начианать именно с последних пунктов если вы решили создать свою ФС. Затем уже потребуется утилита форматирования и далее - драйвер ОС, утилита восстановления и потом тьюнинг/дефрагментация.