только что отформатировал (есть тут у меня на диске заначка), всё прошло ок:
$ sudo cryptsetup luksFormat /dev/sda8
WARNING!
========
This will overwrite data on /dev/sda8 irrevocably.
Are you sure? (Type uppercase yes): YES
Enter LUKS passphrase:
Verify passphrase:
$
раздел был создан без файловой системы.
Пользователь решил продолжить мысль 01 Июня 2010, 18:52:19:
дальше не продолжал, но, думаю, всё будет ок :-)
попробуйте просто удалить раздел, создать на этом месте новый, а его уже потом форматировать luks'ом.