Как возможный вариант (хотя может и не сработать):
Если из тарболла ставил - наверняка выполнял магическую комбинацию make && make install (ну, или ./configure && make && make install).
Попробуй снова зайти в ту папку с исходником (ну, или заново его распакуй - если уже не сохранилось) - снова выполни установку (ну, запишутся заново собранные бинарники поверх старых - и что с того?) - а потом попробуй выполнить make uninstall. (может не сработать!).
Другой вариант - так же, собираешь всё - а потом вместо make install запускаешь checkinstall (если ругнётся, что нужно сперва поставить пакет с checkinstall - ставь!)
Checkinstall создаст дебиановский пакет с бинарниками и установит его в систему (по всем правилам управления пакетами убунты). При этом, опять же, бинарники из этого пакета просто перепишут старые бинарники (уже установленные). Но - что важно - как любой пакет, его можно не только ставить, но и удалять! Т.е. после checkinstall просто заходишь в synaptic, находишь там пакет по имени и удаляешь его. И так избавляешься от последствий установленного до этого тарболла
.