А существует ли аналог программы для windows Unistall Tool? Это чтобы подчистую программы удалять.
Я использую такую связку:
Для удаления пакета, если не знаю о зависимостях:
sudo apt-get remove ИМЯ-ПАКЕТА
(имя пакета (программы), как правило можно узнать в "Помощь - Про") При этом apt-get запросит подтверждение на удаление других пакетов по зависимости, если будут и есть возможность передумать

"Почистить" затем всегда можно командой
sudo apt-get autoremove
При этом apt-get проверит все "зависшие" следы от всех ранее удаленных программ. В том числе и ненужные ядра, кстати.
Для удаления пакета, если знаю, что за ним потянется:
sudo apt-get purge ИМЯ-ПАКЕТА
При этом будут удалены и пакеты по зависимостям "молча" (хотя и будет дополнительный запрос на подтверждения действия, но без информации). По purge сути это то же, что выполнить последовательно remove и autoremove.
При всем этом все же остаются файлы в домашнем каталоге (скрытые конфигурационные), честно говоря не знаю команды, которая их удаляла бы. Обычно это папка в домашнем каталоге с именем программы:
~/.alsaplayer , ~/.compiz , ~/.gimp-2.8 и т.п.
Или папка с именем программы в каталоге ~/.config
Бывают исключения - Pidgin хранит настройки в папке ~/.purple !?!
Вообще, как начинающему, тоже посоветовал бы менеджер пакетов
synaptic - он по сути выполняет те же команды, но там есть хотя бы описания пакетов, зачастую даже на русском языке

.
А вообще в apt-get "коровья сила"
apt-get moo
а если серьезно, то
man apt-get
расскажет все что нужно более подробно и без упущений.