Ну, самодельной сборкой это назвать трудно.

Взял alternate диск Hardy. Он позволяет поставить базовую систему без иксов. После установки обновился, и доустановил нужные пакеты. Создал конфиг rtorrenta и указал там каталог, в котором надо отслеживать появление новых торрентов для закачки. Этот каталог доступен по сети (поднят Samba сервер). На основной рабочей машине объяснил браузеру, что если я жамкаю по торренту то его без вопросов валить в упомянутый каталог.
Для удобства на сервере поднят ssh, а все, что на нем запущено крутится в сессии screen, чтобы можно было не опасаться разрывов связи и прочих бедствий. Вот собственно и вся премудрость.
Если с Linuxом пока не особо дружишь могу предложить более простой вариант. Есть замечательная штука
FreeNAS которая делает почти то же самое (samba, торренты) прямо из коробки, да еще управляется через Web-интерфейс. Есть там и LiveCD, с которого можно загрузиться и ничего не устанавливая попробовать систему в действии.