Либо удалить как пакеты, либо ручками. Так или иначе лучше всегда иметь 2 версии ядра: использовать новую, но как recover-mode держать старую. Если надумаете удалять ручками (метод хороший, но если не знаете что делаете, то лучше все же пакетами), то не забывайте что ядро это не только то что в /boot/.