Там довольно хитрая система со входами

Независимо от того нужна ли запись или нет - чтобы звуковая карта воспринимала сигнал со входа нужно этот вход заармить под запись.
1. В alsamixer жмем F4 и переключаемся в режим отображения каналов записи (захват).
2. Стрелочками курсорных клавиш выбираем нужный канал и переключаем его в режим записи, нажав на клавишу пробел, он при этом выделится цветом и появится надпись "захват". Снять с записи - нажать на нем повторно пробел. Вообще-то alsamixer не самый удобный микшер (хоть и фундаментальный:), лучше установить из репы довольно цивильный qasmixer.
3. Нужно определиться - звуковуха будет работать в сквозном режиме или все же будет запись. Если в сквозном - то так все и оставляем, - включили канал на запись в секции каналов записи и переключились в секцию воспроизведения (клавиша F3 в alsamixer). Громкий сигнал с железного проца/педали можно направлять на линейный вход, если сигнал прямо с гитары - то на микрофонный.
4. Что касается записи и игры через софт-гитарные процессоры типа Rakarrack. Делаем описанное в п.3, затем запускаем джек через его гуй - qctljack, где в окне "Соединения" коммутируем на вкладке "Звук" порты захвата (capture 1 и 2) и вход софт-гитарного проца, если в настройках проца эта операция не прописана как авто-коннект. Выход проца коммутируем на порты воспроизведения карты (playback 1 и 2). Нажимаем кнопу старта на проце, если он не автостартует.
5. Наслаждаемся звуком и рубим риффы:) Если надо звук записывать, то сигнал коннектим не только на плэйбек, но и на вход записывающей проги (Ardour, TimeMachine, etc), в Джеке вообще довольно гибкая система коммутаций, т.е. вы можете коммутировать сигнал откуда угодно и куда угодно, можете слушать в динамиках звук уже отбработанный процем, а записывать необработанный, чтобы потом наложить другие эффекты.
6. Бывает правда странная заковырка - если звук с capture не поступает, то попробовать заармить под запись и потом сразу отжать канал PCM - не знаю почему так, но эта манипуляция помогает.
Всё. Удачи!:)