kde убрать можно, но сложно, практически это выполняется как удаление всех пакетов kde* через synaptic внимательно следя за тем, чтоб ничего нужного по зависимостям не удалилось. Для локализации поройся в пакетах на тему locale и language-pack. Для индикации языка рекомендую xneur.