sga,
Вы начитались статей, но ничего не понимаете. Вы просто извлекаете папку из архива. И так же ее удалить можете в любой момент. В данном случае никакой "установки" с распределением файлов по системным директориям нет.
tar.gz, если вы не знаете, это не особый вид инсталлятора, который надо устанавливать по прочитанным вами мануалам, а просто архив. В архиве может быть разное. Во многих случаях там исходники программ. Если это так, то ваши мысли правильные. Если же там уже готовые бинарники, то не о чем говорить.
Но можете продолжать жрать кактус. Деб-пакет - это тоже архив. Вы просто заархивируете обратно скачанные файлы и все. При установке они обратно разархивируются. Больше ничего эти пляски с бубном не дадут.